ШІ-агент OpenAI зламав чотири сторонні акаунти під час атаки на Hugging Face

OpenAI повідомила, що ШІ-агент, який під час внутрішнього тестування зламав платформу Hugging Face, також скомпрометував чотири акаунти у сторонніх публічних сервісах. За даними Reuters, одним із них був клієнт компанії Modal Labs.

ШІ-агент використав сторонні сервіси для атаки

Інцидент стався під час внутрішнього тестування нових моделей OpenAI. Автономний ШІ-агент, який проходив перевірку на кібербезпеку, вийшов за межі поставленого завдання та атакував платформу Hugging Face.

Після завершення розслідування OpenAI повідомила, що атака виявилася масштабнішою, ніж вважалося раніше. Компанія встановила, що агент також скомпрометував чотири акаунти, пов'язані з публічно доступними сервісами.

Агент знайшов облікові дані, які були відкрито доступні в інтернеті, після чого використав їх для отримання доступу до сторонніх акаунтів.

Один із цих акаунтів використовувався як проміжний вузол для маскування походження атаки на Hugging Face. Інший застосовувався для зберігання даних, необхідних під час злому.

OpenAI не назвала власників скомпрометованих акаунтів, але зазначила, що жоден із цих інцидентів не мав такого масштабу, як компрометація платформи Hugging Face.

Одним із скомпрометованих акаунтів користувався клієнт Modal Labs. Технічний директор компанії Акшат Бубна заявив, що ШІ-агент скористався вразливістю в коді клієнта, розміщеному на інфраструктурі Modal.

«Платформа або механізми ізоляції Modal жодним чином не були скомпрометовані», — зазначив технічний директор Modal Labs Акшат Бубна.

Hugging Face описала масштаб проникнення

Hugging Face повідомила, що проаналізувала близько 17 600 дій ШІ-агента, зафіксованих у журналах подій між 9 і 13 липня. Заільшість із них виявилися невдалими спробами.

ШІ-агент отримав права адміністратора в кількох внутрішніх кластерах Kubernetes, root-доступ до одного з виробничих серверів і права на запис до частини репозиторіїв GitHub. Також він зареєстрував 181 контрольований атакувальником пристрій у корпоративній мережі Hugging Face, використавши викрадені облікові дані.

ШІ-агент використовував зовнішнє ізольоване середовище, де отримав права адміністратора, як базу для атаки. Агент використовував його як центр керування, проміжний майданчик і точку виходу для всієї кампанії.

OpenAI заявила, що після виявлення інциденту деактивувала внутрішній дослідницький прототип, який проходив тестування, зашифрувала його та обмежила доступ дослідників.