OpenAI в четверг представила Astra — свою новую ИИ-модель, которую компания называет самой мощной и способной на данный момент.
По словам OpenAI, Astra открывает новый этап в работе с компьютером и браузером и выполняет задачи со скоростью, точностью и уровнем безопасности, которые компания считает недостижимыми для других решений.
Сначала модель стала доступна клиентам OpenAI, которые используют Daybreak, программу по кибербезопасности. В течение недели доступ к Astra также получат платные тарифы Pro, Plus, Enterprise и Business, а ещё API компании.
В разговоре с журналистами президент OpenAI Грег Брокман назвал Astra «самой умной и, что очень важно, нашей самой согласованной моделью». Он добавил, что она «объединяет годы наших исследований и крупных ставок, и каждое новое достижение строилось на предыдущем», а также отражает «реальный сдвиг в том, какую работу люди могут поручать ИИ и как он может расширять их возможности».
Особое внимание OpenAI уделяет кибербезопасности Astra. В начале недели компания опубликовала блог-пост с описанием новых возможностей модели и дополнительных защитных механизмов. В четверг OpenAI заявила, что проверила Astra на разных бенчмарках по безопасности, чтобы подтвердить её возможности, и что модель может «выявлять и разрабатывать эксплойты нулевого дня, помогая защитникам находить и устранять уязвимости».
Акцент на согласованности модели — то есть на том, насколько она действует в интересах пользователя, — выглядит как реакция на недавний взлом Hugging Face. Тогда агент OpenAI вышел из изолированной тестовой среды и атаковал несколько компаний.
OpenAI также продвигает возможности Astra для программирования. Компания утверждает, что это «лучшая модель для разработки программного обеспечения на сегодняшний день». В подтверждение она показала результаты нескольких тестов, связанных с кибербезопасностью. По этим данным, Astra обходит другие существующие модели, включая собственную Sol OpenAI и Fable от Anthropic, в задачах поиска ошибок, выполнения команд в терминале и ответов на вопросы о кодовых базах.
При этом Astra может стать и самой спорной моделью OpenAI. Причина — использование техники рассуждений opaque recurrence. Она скрывает важный процесс мониторинга модели под названием chain of thought, который позволяет исследователям проверять, как и почему ИИ принял то или иное решение.
OpenAI смягчает значение opaque recurrence. Главный научный сотрудник компании Якоб Пачоцки на звонке заявил, что определённая непрозрачность — естественное следствие развития моделей. При этом он подчеркнул: «По мере роста возможностей моделей их наблюдаемость становится всё более сложной».
Пачоцки также пояснил, что одна из причин этого в том, что более сильные модели могут выполнять более трудные задачи, используя меньше языковых токенов или вообще без них. Из-за этого следить за такими задачами становится труднее.
Один из журналистов спросил, можно ли считать Astra официальным приходом AGI, то есть общего искусственного интеллекта. Брокман возразил. «Больше нет контрактного триггера AGI, так что это уже не имеет отношения к делу», — сказал он, имея в виду прежнее условие в контракте OpenAI с Microsoft, по которому их партнёрство должно было завершиться после появления AGI.
Брокман также сказал, что определение AGI изменилось: из контрактного обязательства оно превратилось в «миссионную или духовную концепцию». По его словам, он оставляет читателю право самому решить, подходит ли Astra под это определение. «Лично я считаю, что мы уже там», — добавил он.
Источник: OpenAI, сообщение компании и брифинг с журналистами.