Голова Anthropic виступив проти заборони відкритих моделей ШІ

Генеральний директор Anthropic Даріо Амодеї заявив, що компанія не підтримує заборону моделей ШІ з відкритими вагами. Він наголосив на необхідності обмежити доступ Китаю до потужних чипів, посилити боротьбу з дистиляцією моделей і запровадити міжнародне тестування безпеки найпотужніших систем ШІ.

Anthropic заперечила підтримку заборони відкритих моделей

Генеральний директор Anthropic Даріо Амодеї відреагував на припущення, що компанія підтримує заборону китайських моделей із відкритими вагами або відкритих моделей загалом.

«Кожен, хто читав мої попередні публікації, має знати, що я не вважаю такі заборони корисним заходом. Але дозвольте сказати це чітко, щоб не було жодних сумнівів: Anthropic ніколи не виступала за заборону моделей із відкритими вагами», — написав Даріо Амодеї.

Його заява з'явилася після відкритого листа Nvidia та інших компаній, які закликали політиків не запроваджувати передчасні широкі обмеження для моделей ШІ з відкритими вагами.

Дискусія стосується побоювань, що китайські лабораторії ШІ нарощують свої можливості, зокрема завдяки викраденню інтелектуальної власності американських компаній через дистиляцію моделей.

Амодеї також назвав серед необхідних заходів обмеження доступу Китаю до потужних чипів і боротьбу з дистиляцією моделей. На його думку, це допоможе стримати розвиток китайських систем ШІ.

Амодеї закликав до міжнародного тестування безпеки ШІ

Даріо Амодеї заявив, що моделі з відкритими вагами, які не мають небезпечних можливостей, є суспільним благом і приносять користь бізнесу, розробникам і дослідникам.

Він наголосив, що його головні побоювання пов'язані не з використанням відкритих моделей, а з ризиком створення авторитарними урядами потужніших систем ШІ.

За словами генерального директора Anthropic, такі системи можуть забезпечити постійну військову перевагу або використовуватися для придушення населення. Він також заявив, що побоюється використання ШІ для біологічних атак.

Амодеї зазначив, що моделі з відкритими вагами становлять більший ризик у таких сценаріях, оскільки до них складніше застосовувати механізми безпеки та контролювати їх використання. Він також послався на звіт UK AI Security Institute, згідно з яким після публікації відкриті ваги неможливо відкликати.

Крім того, керівник Anthropic підтримав створення міжнародної організації для тестування безпеки моделей ШІ. За його словами, така система могла б працювати лише за участю всіх країн, зокрема Китаю.