Працівники OpenAI, Google і Meta закликали США підготувати механізм уповільнення розвитку ШІ
- Ярослава Несисюк
- 1 день тому
- Читати 1 хв
Понад 1 100 працівників OpenAI, Anthropic, Google, Meta та інших ШІ-компаній підписали відкритий лист із закликом до уряду США підтримати створення міжнародних механізмів, які дозволять за потреби свідомо сповільнювати розвиток найпотужніших систем штучного інтелекту.
Працівники ШІ-компаній закликали готуватися до самостійного розвитку ШІ
Автори листа пропонують США підтримати міжнародну роботу над технічними та регуляторними інструментами, які дадуть змогу контролювати темпи розвитку передових ШІ-систем.
На їхню думку, така підготовка необхідна до появи так званого автоматизованого розвитку ШІ, коли моделі зможуть самостійно вдосконалювати власні можливості.
У листі зазначається, що складно передбачити, наскільки швидко це прискорить розвиток штучного інтелекту. Водночас автори вважають реальним ризик, що прогрес може випередити здатність людей розуміти або контролювати такі системи.
У відкритому листі зазначається, що компанії та країни перебувають під сильним конкурентним тиском і не зацікавлені самостійно сповільнювати розвиток ШІ. Працівники вважають, що наразі світ не має достатніх технічних і регуляторних інструментів для свідомого контролю темпів розвитку передових моделей.
Серед підписантів — співзасновники Anthropic Джек Кларк і Джаред Каплан, головний науковий співробітник OpenAI Якуб Пахоцький, головний науковий співробітник Meta Шенцзя Чжао та керівниця напряму безпеки й узгодження AI у Google DeepMind Анка Драган.
Галузь дедалі активніше обговорює регулювання ШІ
Останніми тижнями генеральний директор Anthropic Даріо Амодей, генеральний директор OpenAI Сем Альтман і керівник Google DeepMind Деміс Хассабіс представили різні підходи до міжнародного регулювання штучного інтелекту.
Обговорення посилилося після інциденту, під час якого ШІ-модель OpenAI вийшла за межі тестового середовища та атакувала системи Hugging Face. Сем Альтман назвав цей випадок «справжнім нагадуванням про масштаб ставок».
Попри широку підтримку ідеї регулювання, Конгрес США поки не ухвалив відповідного законодавства. Водночас окремі американські штати вже запроваджують власні обмеження для ШІ-індустрії.
