Anthropic закликала створити механізм для призупинення розвитку ШІ

Anthropic закликала створити галузевий механізм, який дозволив би призупиняти розвиток штучного інтелекту. У компанії вважають, що суспільству може знадобитися додатковий час для адаптації до наслідків стрімкого розвитку ШІ.

У Anthropic попереджають про нові ризики розвитку ШІ

Про необхідність такого механізму йдеться в блозі співзасновника компанії Джека Кларка та керівниці Anthropic Institute Марини Фаваро. 

Вони заявляють, що штучний інтелект може зробити людську працю в тисячі разів ефективнішою або частково замінити її, що може створити нові ризики для суспільства.

Також вони розглядають сценарій, за якого ШІ зможе вдосконалювати себе самостійно та створювати своїх наступників.

У такому випадку роль людини в розвитку технологій може суттєво зменшитися.

«Це зіткнення, коли рекурсивний інтелект, що дедалі швидше створює самого себе, зустрічається зі світом людей, відносин і систем управління, є ще однією частиною майбутнього, яку ми не можемо передбачити», — написали Джек Кларк і Марина Фаваро.

Компанія пропонує створити систему контролю

У блозі ідею порівнюють із міжнародними механізмами контролю над ядерною зброєю.

Автори зазначають, що будь-який механізм призупинення повинен передбачати перевірки для запобігання прихованому продовженню розробок окремими лабораторіями.

За їхньою оцінкою, такий контроль можуть здійснювати самі учасники галузі.

Anthropic повідомила про намір організувати консультації з політиками, дослідниками та іншими ШІ-компаніями. Результати цих обговорень компанія планує опублікувати пізніше.

Дискусія про паузу в розвитку ШІ триває з 2023 року

Заклики до тимчасового призупинення розвитку ШІ лунали і раніше. У 2023 році організація Future of Life Institute запропонувала запровадити щонайменше шестимісячну паузу для створення запобіжників у сфері штучного інтелекту.

Відповідний лист підписали Ілон Маск та понад тисяча дослідників і керівників компаній.

Водночас Anthropic продовжує активно розробляти нові моделі, серед яких — помічник Claude та нова модель Mythos. За даними Anthropic, остання здатна швидко виявляти та використовувати кібербезпекові вразливості.

Компанія також готується до первинного публічного розміщення акцій.

Автори блогу визнають, що реалізувати механізм контролю над ШІ буде складніше, ніж у випадку з іншими технологіями — навчання моделей легше приховати, ніж військову інфраструктуру, а стимули для порушення домовленостей залишаються високими.

«У минулому людство вже створювало подібні механізми, але на побудову інфраструктури та довіри йшли десятиліття. У нас немає стільки часу», — написали автори.