Meta додала сповіщення для батьків про небезпечні розмови підлітків із ШІ

Meta оголосила про нові функції безпеки для Meta AI. Відтепер батьки отримуватимуть сповіщення, якщо їхня дитина-підліток обговорюватиме з чатботом самогубство або самоушкодження, повідомляє TechCrunch.

Компанія також працює над функцією автоматичного звернення до екстрених служб у разі виявлення високого ризику.

Сповіщення перевірятимуть люди

Для виявлення потенційно небезпечних розмов Meta створила окрему систему штучного інтелекту, яка аналізує повідомлення підлітків і визначає, чи містять вони явні згадки про намір завдати собі шкоди.

Перед тим як надіслати повідомлення батькам, усі випадки перевірятимуть модератори. Якщо наміри підлітка залишаються неоднозначними, компанія все одно відправить сповіщення, надаючи перевагу безпеці.

Функція вже працює для користувачів Instagram Parental Supervision у США, Великій Британії, Канаді та Австралії. До кінця року Meta планує зробити її доступною в усьому світі.

Meta також розширює інші інструменти безпеки

Оновлення доповнює вже наявні функції, які повідомляють батьків про повторні пошуки підлітками контенту, пов'язаного із самогубством або самоушкодженням в Instagram.

Також батьки можуть переглядати теми, які дитина обговорювала з Meta AI протягом останнього тижня.

Крім цього, режим Limited Content, який обмежує доступ підлітків до певного контенту в Instagram, тепер поширюється і на Meta AI.

Компанія також повідомила, що в майбутньому звертатиметься до екстрених служб, якщо розмова з чатботом — незалежно від віку користувача — свідчитиме про безпосередній ризик самогубства.