Anthropic обмежила доступ до Fable 5 і Mythos 5 після вимоги уряду США

Anthropic тимчасово заблокувала доступ до моделей Fable 5 і Mythos 5 для всіх користувачів після отримання відповідної вимоги від уряду США. У компанії заявили, що рішення пов'язане з міркуваннями національної безпеки.

Під обмеженням лише дві нові моделі

За словами Anthropic, уряд США вимагав призупинити доступ до Fable 5 і Mythos 5 для всіх іноземних громадян незалежно від їхнього місця перебування. Обмеження також стосуються співробітників компанії, які не є громадянами США.

Інші моделі Anthropic продовжують працювати без змін.

Причина — інформація про обхід захисту

У компанії припускають, що рішення влади пов'язане з повідомленням про можливий спосіб обходу захисних механізмів Fable 5.

Anthropic пояснила, що отримала від урядових представників усну інформацію про потенційний сценарій обходу обмежень моделі, який нібито був переданий посадовцям третьою стороною.

При цьому компанія наголошує, що не вважає сам факт існування потенційного способу обходу достатньою підставою для відкликання комерційної ШІ-моделі.

Захист Fable 5

Anthropic представила Fable 5 9 червня як публічну версію моделі Mythos, яка раніше була доступна лише обмеженому колу партнерів у межах програми Project Glasswing.

За словами компанії, Fable 5 перевершує можливості всіх попередніх моделей Anthropic. Для мінімізації ризиків зловживання розробник впровадив додаткові обмеження, які мають запобігати використанню моделі для завдань у сфері кібербезпеки.

Частина користувачів навіть скаржилася на надмірну жорсткість цих обмежень.

Anthropic заявила, що підтримує ідею державного контролю над небезпечними ШІ-системами, однак вважає, що такі рішення мають ухвалюватися через прозорий і формалізований процес.