Президентка Signal попередила про ризики надмірної довіри до ШІ

Президентка Signal Мередіт Віттакер розкритикувала тенденцію надмірної довіри до систем штучного інтелекту. В інтерв'ю Bloomberg вона наголосила, що користувачам не варто сприймати популярні чатботи як друзів або повноцінних співрозмовників.

Віттакер закликала не персоніфікувати ШІ

Під час розмови про конфіденційність і штучний інтелект Віттакер наголосила, що чатботи не є свідомими істотами. За її словами, користувачі часто наділяють такі системи властивостями, яких вони не мають.

Коментар стосувався популярних сервісів на кшталт ChatGPT і Claude.

Віттакер розповіла, що іноді застосовує інструменти штучного інтелекту для технічних завдань, наприклад форматування документів. Водночас вона уникає використання чатботів для пошуку відповідей або формування власних ідей.

За її словами, процес мислення та написання текстів не повинен підмінятися відповідями моделей, які базуються на вже наявній інформації.

Критика стосується і ШІ-помічників

Окремо Віттакер прокоментувала бачення майбутнього, у якому цифрові помічники можуть виконувати повсякденні завдання від імені користувачів. Як приклад вона навела сценарій, де ШІ самостійно організовує різдвяні покупки на основі листування та особистих даних.

На її думку, для цього система повинна отримати надто широкий доступ до повідомлень, платіжних даних, календаря та інших сервісів користувача.Подібний рівень інтеграції суперечить принципам конфіденційності.

Якщо застосунок отримує доступ до великої кількості сервісів і приватної інформації, це створює ризики для безпеки користувачів. У контексті Signal Віттакер охарактеризувала такий механізм як своєрідний «бекдор» або прихований канал доступу до даних.