Сотрудники компаний все чаще используют ИИ-инструменты неожиданным образом, и это, по словам стартапов в сфере кибербезопасности, создаёт новые риски для бизнеса.
Генеральный директор и сооснователь Pluto Security Шахар Бахат рассказала TechCrunch, что новый ИИ-инструмент может появиться в корпоративной среде уже через два часа после релиза. По оценке компании, около 60% рисков, которые она находит у клиентов, связаны с инструментами, созданными без участия разработчиков. Больше всего таких случаев приходится на финансовые команды, затем идут маркетинг и юридические подразделения. Разработчики занимают четвёртое место.
Один из обнаруженных Pluto примеров — приложение, которое сотрудник финансового отдела компании из списка Fortune 500 собрал для работы с данными клиентов и оттоком пользователей. При этом приложение оказалось открыто для доступа из интернета.
Pluto вышла из режима скрытой работы и привлекла $42 млн финансирования. На фоне быстрого распространения ИИ она стала частью новой волны стартапов, которые предлагают компаниям инструменты для контроля ИИ-сервисов, подключений и сценариев их использования. По словам Бахат, обычное корпоративное ПО для безопасности плохо подходит для этой задачи.
Компания начала продажи в апреле и уже вышла на $2 млн годовой повторяющейся выручки. У Pluto более 30 корпоративных клиентов, включая Oscar Health, Workato, Sixt и AlphaSense.
Финансирование Pluto включает посевной раунд на $8,5 млн, который возглавила TLV Partners, а также участие основателей Armis. Позже компания привлекла раунд Series A на $34 млн под руководством Jump Capital. В нём также участвовали Skinos, фонд Шломо Крамера из Check Point, Ansa Capital и другие ангел-инвесторы.
Бахат отметила, что характер рисков зависит от позиции директора по информационной безопасности и готовности компании внедрять ИИ, но проблемы находятся почти всегда. «В целом я скажу, что не было ни одного POC, куда мы пришли и не нашли бы ничего вредоносного», сказала она. POC — это пилотный проект, который проверяет продукт до полноценного запуска. По её словам, речь идёт о расширениях и навыках, а в некоторых случаях активные атаки шли уже во время тестирования.
Pluto строит продукт вокруг идеи, что защита таких сред требует отслеживать действия ИИ-агентов в реальном времени, а также понимать, что и как сотрудники создают и запускают. «Мы переходим от поведения пользователя к поведению агента», сказала Бахат.
ПО компании отслеживает ИИ-инструменты, навыки, расширения, MCP-серверы и другие компоненты, на которых они работают, а также приложения и агентов, которые создают сотрудники. Pluto утверждает, что может находить рискованные элементы, замечать опасную активность агентов и применять политики безопасности без блокировки работы пользователей.
Для этого Pluto подключается к системам защиты конечных устройств и управления ими. Компания может разворачивать свои сенсоры через эти системы или напрямую на устройствах. Она собирает данные о запросах, командах, запущенных процессах, правах доступа и прошлых действиях пользователей, а затем использует собственные «лёгкие» модели на конечных устройствах, чтобы оценить намерения агента.
Бахат также рассказала, что система может вмешиваться во время работы агента. Если он пытается получить больше прав, чем планировал пользователь, система может остановить действие или добавить в сессию инструкции с просьбой подтвердить операцию. «Мы можем вернуть контекст обратно в сессию и таким образом изменить то, как работает агент», пояснила она.
Для поиска клиентов Pluto запустила в апреле бесплатную платформу Plutonium, где можно проверить риски, связанные с публично доступными ИИ-навыками, коннекторами и дополнениями. Там же доступны сканер MCP и каталог проверенных компонентов. Бахат утверждает, что Plutonium уже используют тысячи специалистов по безопасности, а сообщество вокруг сервиса стало важным источником обратной связи и новых клиентов.
По её словам, 70% продажной воронки Pluto сейчас приходит через входящий интерес. При этом она не уточнила, какая часть этого потока идёт напрямую через Plutonium.
Компания планирует направить новые инвестиции на развитие продукта, расширение исследовательской работы в сфере безопасности и рост присутствия в США. Сейчас у Pluto 40 сотрудников в США и Израиле.
Источник: TechCrunch.