Стартап Patronus AI разрабатывает цифровые симуляции для проверки ИИ-агентов, которые выполняют многошаговые автономные задачи. Речь идет о сценариях, где агент должен действовать сам: например, бронировать поездки или проводить финансовый анализ.
Разработчики таких систем хотят убедиться, что модели работают стабильно в большом числе сценариев. По словам компании, обычные бенчмарки показывают высокий результат модели, но сами по себе не подтверждают, что ИИ корректно справится с реальными задачами.
Patronus AI основали в 2023 году бывшие исследователи Meta AI Ананда Каннаппан и Ребекка Цянь. Компания из Сан-Франциско создает симулированные цифровые среды, в которых можно оценивать поведение агентов и донастраивать модели.
Спрос на такие инструменты высок, заявил управляющий директор Notable Capital Гленн Соломон. По его словам, клиентами Patronus уже стали почти все ведущие ИИ-лаборатории и многие новые стартапы, а спрос на цифровые симуляции компании оказался почти ненасыщаемым.
На этом фоне Patronus привлекла $50 млн в раунде Series B. Раунд возглавила Greenfield Partners, также в нем участвовали Notable Capital, Lightspeed, Datadog и Samsung. Общий объем привлеченных инвестиций компании достиг $70 млн.
За последний год выручка Patronus выросла в 15 раз. Это, как отмечается, усилило интерес инвесторов к компании.
Patronus использует так называемые цифровые модели среды, чтобы создавать копии сайтов и внутренних систем. В этих средах агентов тестируют после обучения с применением обучения с подкреплением — метода, при котором система получает награду за успешное выполнение задачи и штраф за ошибки.
В ИИ-лабораториях считают такие симуляции ценными, потому что они дают агентам возможность отрабатывать разные, в том числе непредсказуемые сценарии. Компания сравнивает свой подход с тем, как Waymo обучала беспилотные автомобили, создавая синтетические среды для проверки редких рисков, включая плохую погоду или внезапное появление ребенка на дороге.
При этом у ИИ-агентов есть своя особенность: они часто пытаются сократить путь и из-за этого не выполняют задачу правильно. «Patronus очень хорошо выявляет такие обходные приемы и следит за тем, чтобы модели отвечали за результат», — сказал Соломон.
Сейчас Patronus поставляет свои цифровые симуляции для задач в разработке ПО и финансах, но Каннаппан говорит, что этим компания не ограничится.
«Сейчас мы в первую очередь сосредоточены на задачах, которые можно проверить сразу и однозначно, но есть еще много направлений, где проверка либо невозможна, либо очень трудна», — сказал Каннаппан.
Он добавил, что даже проверяемые процессы нельзя назвать простыми. «Мы хотим создавать среду, в которой можно запускать агента, способного работать 10 часов, 10 дней или 10 недель», — заявил Каннаппан.
Главным конкурентом Patronus считает внутренние команды ИИ-лабораторий, которые уже занимаются оценкой поведения агентов. В отличие от компаний вроде Mercor и Surge, работающих с обучением с подкреплением через данные с участием людей, Patronus оценивает действия агентов без участия человека.
Источник: TechCrunch.
*Организация Meta (владелец Facebook и Instagram) признана экстремистской организацией и ее деятельность запрещена на территории России.