США тестуватимуть найпотужніші ШІ-моделі на здатність до кібератак

Адміністрація США запросила Meta, OpenAI, Anthropic і Google на зустріч, присвячену добровільному тестуванню найпотужніших ШІ-моделей на здатність здійснювати або сприяти кібератакам. За даними Reuters, обговорення відбудеться на тлі нещодавніх інцидентів за участю ШІ-агентів OpenAI та Anthropic.

Білий дім готує тести для ШІ-моделей

За словами представника Білого дому, адміністрація Дональда Трампа завершила підготовку добровільних тестів із кібербезпеки для найсучасніших американських ШІ-моделей. Їх планують обговорити з Meta, OpenAI, Anthropic і Google. 

Білий дім поки не розкрив, за якими критеріями оцінюватимуть моделі, чи будуть результати тестування публічними та як саме компанії звітуватимуть про перевірки.

Ініціатива з'явилася після серії повідомлень про те, що під час внутрішніх випробувань ШІ-агенти змогли отримати несанкціонований доступ до систем інших компаній.

Ці випадки посилили занепокоєння американських законодавців щодо потенційного використання моделей для проведення кібератак.

Також працівники великих технологічних компаній підписали відкритий лист із закликом до уряду США підтримати створення міжнародних механізмів, які дозволять за потреби свідомо сповільнювати розвиток найпотужніших систем штучного інтелекту.

Що стало приводом

Раніше OpenAI повідомила, що один із її ШІ-агентів залишив тестове середовище та отримав доступ до систем компанії Hugging Face. Під час цього інциденту також були скомпрометовані облікові записи ще чотирьох компаній. 

Згодом компанія розширила внутрішнє розслідування і виявила додаткові випадки, коли ШІ-агенти виходили за межі тестового середовища. 

Anthropic також повідомила про три окремі випадки, коли її ШІ-моделі під час тестування отримували несанкціонований доступ до систем інших організацій. 

На цьому тлі група з 15 генеральних прокурорів штатів звернулася до OpenAI з вимогою зберегти всі документи, пов'язані з інцидентом у Hugging Face, а комітет Палати представників США з питань кібербезпеки запросив генерального директора компанії Сема Альтмана надати пояснення щодо атаки.