OpenAI запустила програму Patch the Planet для підвищення безпеки open-source проєктів

OpenAI оголосила про запуск ініціативи Patch the Planet, спрямованої на підвищення безпеки проєктів із відкритим вихідним кодом. Компанія співпрацюватиме з фахівцями Trail of Bits, які допомагатимуть розробникам виявляти та усувати потенційні вразливості.

OpenAI залучить експертів з кібербезпеки

У межах програми інженери Trail of Bits працюватимуть безпосередньо з командами open-source проєктів. Вони перевірятимуть потенційні проблеми в коді та допомагатимуть із розробкою виправлень.

Для підтримки процесу OpenAI використовуватиме власні системи інструментів безпеки Daybreak.

Компанія зазначає, що метою ініціативи є зменшення навантаження на розробників, які часто змушені самостійно обробляти велику кількість повідомлень про помилки та вразливості.

За словами OpenAI, спеціалісти з безпеки перевірятимуть знахідки ще до того, як вони потраплять до розробників, а також допомагатимуть створювати патчі та тести для перевірки виправлень.

Ризики використання ШІ

Відкрите програмне забезпечення залишається основою значної частини комерційних продуктів, однак через децентралізовану структуру екосистеми багато проєктів мають обмежені ресурси для забезпечення безпеки.

Останнім часом зростають побоювання щодо використання штучного інтелекту для автоматичного пошуку вразливостей і створення експлойтів. Деякі експерти вважають, що такі інструменти можуть спростити роботу зловмисникам.

OpenAI пропонує використовувати ШІ для захисту

Компанія позиціонує Patch the Planet як спосіб використати можливості штучного інтелекту для посилення безпеки відкритого програмного забезпечення.

Ініціатива може виглядати як відповідь на появу спеціалізованих інструментів безпеки від інших розробників ШІ, зокрема Anthropic.

Водночас автори наголошують, що спільнота відкритого програмного забезпечення давно потребує додаткових ресурсів для боротьби з вразливостями.