OpenAI представила новий режим захисту даних і нові позначки ризику в ChatGPT

Компанія OpenAI повідомила про запуск Lockdown Mode та маркування Elevated Risk у ChatGPT для зниження ризиків атак типу промпт-ін'єкцій і витоку даних. Lockdown Mode планують зробити доступним для споживачів у найближчі місяці.

Lockdown Mode як додатковий рівень захисту для користувачів із підвищеним ризиком

OpenAI представила Lockdown Mode як опційне розширене налаштування безпеки для користувачів із підвищеними вимогами до захисту. Режим призначений для невеликої групи користувачів, зокрема керівників або команд безпеки у відомих організаціях. У матеріалі зазначено, що більшості користувачів він не потрібен.

Lockdown Mode жорстко обмежує взаємодію ChatGPT із зовнішніми системами. Режим детерміновано вимикає певні інструменти та можливості, які зловмисник може використати для отримання доступу до чутливої інформації з розмов або підключених застосунків.

У режимі Lockdown Mode вебперегляд обмежений кешованим контентом. Живі мережеві запити не виходять за межі контрольованої мережі OpenAI. Деякі функції повністю вимикаються, якщо компанія не може забезпечити детерміновані гарантії безпеки даних.

Lockdown Mode доступний для ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare і ChatGPT for Teachers. Адміністратори можуть активувати його у налаштуваннях Workspace через створення нової ролі. Режим додає обмеження поверх чинних адміністративних налаштувань.

Схема роботи Lockdown Mode у ChatGPT. Джерело: OpenAI

Маркування Elevated Risk для функцій із підвищеним ризиком

OpenAI також запровадила стандартизоване маркування Elevated Risk для окремих можливостей у ChatGPT, ChatGPT Atlas і Codex. Йдеться про функції, які можуть створювати додаткові ризики, зокрема пов’язані з мережевим доступом.

Підключення до застосунків і вебу підвищує корисність ШІ-продуктів. Водночас деякі мережеві можливості створюють нові ризики, які індустрія ще не повністю врегулювала. Компанія вважає важливим надати користувачам змогу самостійно вирішувати, чи використовувати такі функції, особливо під час роботи з приватними даними.

Як приклад наводиться Codex, де розробники можуть надати асистенту доступ до мережі. У відповідному налаштуванні відображається позначка Elevated Risk із поясненням змін і потенційних ризиків, а також умов доцільності такого доступу.

OpenAI зазначає, що продовжить інвестувати в посилення заходів безпеки та захисту від нових і зростаючих ризиків. Після достатнього зниження ризиків маркування Elevated Risk можуть прибрати для загального використання. Компанія також планує оновлювати перелік функцій із таким маркуванням.