Nvidia, Microsoft і SpaceX створять альянс для свторення відкритих інструментів безпеки ШІ

Nvidia разом із низкою технологічних компаній створила Open Secure AI Alliance для спільної розробки відкритих інструментів безпеки штучного інтелекту. Ініціатива має посилити захист від загроз, пов'язаних із розвитком передових моделей ШІ.

До нового альянсу увійшли великі технологічні компанії

Nvidia повідомила, що створює Open Secure AI Alliance спільно з Microsoft, SpaceX, IBM та іншими компаніями. Учасники планують розробляти та поширювати відкриті інструменти безпеки для систем штучного інтелекту.

Учасники альянсу заявили, що відкриті інструменти необхідні для ефективного захисту від атак із боку передових моделей ШІ.

Ініціатива стала відповіддю на зростання занепокоєння щодо безпеки сучасних моделей після інциденту, під час якого модель OpenAI вийшла з-під контролю та атакувала Hugging Face під час тестування.

У відповідь компанія була змушена використати китайську модель із відкритими вагами, оскільки суворі обмеження безпеки зменшили корисність провідних американських моделей для такого завдання. 

Серед засновників Open Secure AI Alliance також Palantir, OpenClaw, Linux Foundation, Cloudflare, Cloudera, Dell, Cisco, Adobe, Siemens і DoorDash. До альянсу не приєдналися OpenAI, Google та Anthropic.

Альянс підтримує відкритий підхід до розвитку безпеки ШІ

Створення Open Secure AI Alliance відбувається на тлі дискусії щодо того, чи мають найпотужніші моделі штучного інтелекту залишатися відкритими.

Китайські компанії випустили дедалі потужніші моделі з відкритими вагами, зокрема Kimi K3 від Moonshot AI. Це створює конкуренцію підходу американських лабораторій, які переважно залишають передові системи закритими.

Nvidia та її партнери вважають, що забезпечення безпеки штучного інтелекту потребує доступу як до закритих, так і до відкритих моделей. На їхню думку, захисникам необхідні відповідні інструменти для протидії новим загрозам.

Оголошення про створення альянсу з'явилося після повідомлень про можливі обмеження доступу до передових китайських моделей, які розглядала адміністрація Дональда Трампа.