Google вимкнула ШІ-функцію в Google Earth менш ніж за добу після запуску

Google відкотила функцію Google Earth, яка дозволяла редагувати супутникові зображення за допомогою текстових запитів. Компанія заявила, що рішення ухвалили після появи прикладів згенерованих зображень, які, за її словами, могли порушувати політики сервісу.

Google відкотила функцію після критики

Google припинила роботу функції, яка дозволяла змінювати супутникові зображення в Google Earth за допомогою генеративного штучного інтелекту. 

Інструмент давав змогу створювати змінені версії реальних географічних місць на основі текстових запитів.

Дослідник Digital Digging Генк ван Есс продемонстрував приклади генерації сцен із біженцями біля мексиканського кордону та вирвою від вибуху біля лікарні в Газі. 

Згенероване зображення атаки Годзіли на місто Тіба, Японія (Bananasaurus Rex, X)

Він також заявив, що зміг створити відео в Google Earth, яке не розпізнав інструмент Hive для визначення ШІ-контенту. Під час тестування система не відхиляла запити, не пом’якшувала результати та не пропонувала альтернативні формулювання. 

Першою реакцією Google було твердження, що створені за допомогою Nano Banana 2 зображення містили цифровий водяний знак, а також діяли обмеження на створення матеріалів на шкідливі теми.

Google пообіцяв посилити захист

Наступного дня компанія оприлюднила нову заяву, де наголосила, що користувачі довіряють Google Earth як надійному способу перегляду світу. 

Компанія також бачила використання функції геопросторовими фахівцями для практичних завдань, однак водночас фіксувала поширення скриншотів згенерованих зображень, які, за її оцінкою, могли порушувати політики сервісу. 

Саме тому функцію відкотили, поки триває робота над посиленням механізмів захисту. Google окремо наголосила, що згенеровані зображення не відображалися для інших користувачів в основному інтерфейсі Google Earth і містили позначку про ШІ-походження.