OpenAI додає Lockdown Mode для захисту від атак через приховані ШІ-інструкції

OpenAI почала впроваджувати режим Lockdown Mode для користувачів ChatGPT. Інструмент призначений для додаткового захисту від prompt injection-атак, які можуть використовуватися для отримання доступу до чутливої інформації.

Режим орієнтований на користувачів із підвищеними вимогами до безпеки

У компанії пояснили, що Lockdown Mode є необов’язковою функцією та розрахована насамперед на людей та організації, які працюють із конфіденційними даними.

Prompt injection є різновидом соціальної інженерії для ШІ-систем. Такі атаки використовують приховані інструкції на вебсторінках або в інших джерелах даних, щоб вплинути на поведінку чатботів.

«Lockdown Mode створений для людей та організацій, які працюють із чутливими даними й потребують суворішого захисту від ризиків витоку інформації, пов’язаних із prompt injection», — зазначили в OpenAI.

Частина функцій ChatGPT буде обмежена

Після активації Lockdown Mode деякі можливості ChatGPT працюватимуть із обмеженнями: сервіс може не отримувати зображення з інтернету та не відображати їх у відповідях.

Також ChatGPT не завантажуватиме файли для автоматичного аналізу, а функції Deep Research та Agent Mode у цьому режимі будуть повністю вимкнені.

У компанії уточнили, що Lockdown Mode не впливає на пам’ять чатбота, завантаження файлів, можливість поширення розмов або налаштування використання діалогів для навчання моделей.

OpenAI також запускає менеджер активних сесій

Компанія окремо повідомила про запуск інструмента для контролю входів в акаунт. Новий менеджер активних сесій дозволяє переглядати всі пристрої та браузери, з яких здійснювався доступ до облікового запису.

Користувачі зможуть завершувати окремі сесії або виходити з усіх пристроїв одночасно. У OpenAI попереджають, що повний вихід із усіх сесій може тривати до 30 хвилин.

Також компанія рекомендує змінювати пароль та перевіряти способи входу в разі підозри на несанкціонований доступ.