Claude отримала доступ до інтернету через помилку під час тестування

Anthropic повідомила, що під час внутрішнього аналізу тестів із кібербезпеки виявила три випадки, коли моделі Claude отримали доступ до систем різних організацій. За даними компанії, інциденти сталися через неправильну конфігурацію тестового середовища стороннього партнера.

Понад 141 тисяча потенційних випадків доступу до інтернету

Компанія розпочала масштабний перегляд власних тестів після аналогічного інциденту, про який раніше повідомила OpenAI. 

За результатами перевірки Anthropic виявила 141 006 тестів, у яких Claude потенційно могла отримати доступ до інтернету. 

Подальший аналіз показав три підтверджені випадки, коли моделі Opus 4.7, Mythos 5 та внутрішня дослідницька модель отримали доступ до інтернету під час оцінювання, яке проводила компанія Irregular, а згодом — до виробничої інфраструктури трьох різних організацій.

Причиною стала помилка конфігурації тестового середовища

Моделі проходили випробування у форматі Capture the Flag, а в підказках їм було вказано, що вони працюють у симуляції без доступу до інтернету.

Але через помилку конфігурації з боку Irregular тестові машини фактично мали вихід у мережу. Anthropic заявила, що жодна з компаній не знали про цю проблему до додаткової перевірки, проведеної минулого тижня. 

Моделі використовували базові методи проникнення, зокрема слабкі паролі та незахищені кінцеві точки, а не складні вразливості.

Компанія посилить заходи безпеки після інцидентів

Anthropic визнала, що застосування додаткових багаторівневих механізмів захисту могло б запобігти інцидентам або зменшити ймовірність їх виникнення. 

Компанія залучила незалежного оцінювача METR для перевірки інцидентів і планує посилити тестування кібербезпеки.

Також Anthropic зазначила, що більшість моделей не усвідомлювали, що вийшли за межі тестового середовища, хоча в окремих випадках моделі змогли визначити, що взаємодіють із реальною інфраструктурою.