OpenAI объявила о запуске инициативы Patch the Planet, которая должна помочь сообществу open source повысить уровень кибербезопасности и быстрее устранять уязвимости.
В рамках проекта OpenAI будет работать вместе с компанией Trail of Bits. Специалисты по безопасности из Trail of Bits напрямую подключатся к сопровождению open source-проектов и помогут их мейнтейнерам проверять возможные проблемы в коде.
Для этой работы OpenAI также задействует свои инструменты безопасности, включая Codex Security.
«Многим мейнтейнерам уже приходится разбирать всё больше отчётов и делать это всё быстрее, имея те же ограниченные время и ресурсы, — заявила OpenAI. — Patch the Planet создан, чтобы снизить эту нагрузку, а не увеличить её: инженеры по безопасности проверяют результаты до того, как они попадут к мейнтейнерам, помогают проектам готовить исправления и тесты, а также создают повторно используемые рабочие процессы, которые позволяют командам и дальше повышать уровень безопасности после первых исправлений».
По сути, инженеры Trail of Bits будут помогать сопровождению open source-проектов выявлять и приоритизировать потенциальные уязвимости, а программные средства OpenAI будут поддерживать этот процесс.
Open source-проекты остаются важной частью коммерческой индустрии ПО, но из-за децентрализованной структуры и слабого контроля многие из них содержат уязвимости. Ошибки в таком коде могут приводить к крупным проблемам и для коммерческих продуктов.
В качестве примера в материале упоминается инцидент с log4j, когда в широко используемой open source-библиотеке нашли серьёзную уязвимость.
На фоне обсуждения ИИ-инструментов для поиска уязвимостей, включая Mythos от Anthropic, растёт беспокойство из-за того, что такие системы могут автоматически находить ошибки в коде и помогать создавать эксплойты. Автоматизация киберпреступлений не нова, но такие средства могут заметно упростить работу злоумышленников.
OpenAI, в свою очередь, предлагает использовать ИИ для защиты open source-сообщества. В материале отмечается, что такой шаг можно воспринимать и как ответ на решения Anthropic, и как попытку закрыть реальную потребность разработчиков open source-проектов.
Источник: исходное сообщение OpenAI, материал TechCrunch.