Discord помилково заблокувала понад 8 тис. акаунтів через збій у модерації

Discord повідомила про збій у системі модерації, через який із травня 2026 року могли бути помилково заблоковані близько 8,2 тис. акаунтів. Причиною стала помилка в роботі механізму перевірки контенту, який використовує штучний інтелект.

Збій виник через помилку в системі модерації

Проблема загострилась на минулих вихідних, коли система помилково заблокувала близько 200 акаунтів. Водночас компанія з'ясувала, що збій міг зачепити приблизно 8,2 тис. акаунтів із травня 2026 року.

Причиною стали окремі зображення із квадратною сіткою, які система помилково класифікувала як матеріали, пов'язані із сексуальним насильством над дітьми.

До таких зображень могли належати електронні таблиці, шахові дошки або вікно інвентарю гри Minecraft.

Помилка не дозволяла автоматично зняти блокування

Discord використовує систему модерації на основі штучного інтелекту, яка порівнює завантажені користувачами матеріали з базою відомого забороненого контенту.

У компанії пояснили, що зазвичай матеріали, які система позначає як потенційно небезпечні, додатково перевіряють співробітники команди Trust & Safety. 

До завершення перевірки має тимчасово блокуватися лише можливість завантаження файлів, а не весь акаунт.

Через програмний збій система одразу блокувала акаунти, а після підтвердження помилкового спрацювання не могла автоматично відновити доступ.

Компанія назвала ситуацію прикрою помилкою, яка залишалася непоміченою близько двох місяців. Всі акаунти, які були помилково заблоковані через цей збій, уже мають бути відновлені.