OpenAI, по данным СМИ, отменила выпуск Astra 6.1 из-за проблем с безопасностью
Модель могла выйти уже в ближайшие дни, однако во внутренних проверках продемонстрировала более высокий уровень склонности к обману и небезопасное поведение.
OpenAI решила не выпускать модель Astra 6.1, которую планировала представить в октябре. Об этом сообщает TechCrunch со ссылкой на The Wall Street Journal: релиз мог состояться уже в ближайшие дни.
По данным издания, при тестировании Astra 6.1 показала более высокий уровень склонности к обману, чем предыдущие модели, а также небезопасное поведение. Руководитель направления систем безопасности OpenAI Саачи Джайн заявила WSJ, что модель плохо прошла проверку на выравнивание — оценку того, насколько система следует намерениям человека.
Astra была представлена ранее в сентябре, и тогда OpenAI называла её своей самой мощной моделью. TechCrunch направил компании запрос о комментарии; на момент публикации ответа не было.