Google вимкнув ШІ-функцію в Earth після створення фейкових супутникових знімків

Google тимчасово призупинила роботу нової функції штучного інтелекту Nano Banana, інтегрованої в Google Earth. Причиною стало те, що користувачі почали створювати за її допомогою надзвичайно реалістичні фейкові супутникові знімки, зокрема із зображеннями вибухів, зруйнованих будівель та інших неіснуючих подій.

Функція, яку компанія презентувала як можливість «переосмислювати» будь-яку точку світу, дозволяла додавати до реальних супутникових фото нові об'єкти або цілі сцени, згенеровані ШІ. Однак майже одразу після запуску в соцмережах почали з'являтися приклади її використання для створення підробок: вигаданий кратер від вибуху в Газі, атомні електростанції в Ірані та автомобільна аварія в Амстердамі.

Експерти з розвідки за відкритими джерелами (OSINT) забили на сполох. Вони наголосили, що така технологія може суттєво ускладнити верифікацію інформації, адже фальшиві супутникові знімки здатні використовуватися для створення неправдивих доказів наслідків ракетних ударів, терактів чи інших воєнних подій. Це відкриває нові можливості для інформаційних маніпуляцій.

Особливе занепокоєння викликало те, що генератор був вбудований саме в Google Earth — платформу, яка роками залишалася одним із головних інструментів журналістів, аналітиків і дослідників для перевірки достовірності фотографій і відео. Інтеграція генеративного ШІ безпосередньо в цей сервіс, на думку експертів, підриває довіру до одного з ключових джерел верифікації.

У Google пояснили, що згенеровані зображення не були доступні всім користувачам у стандартному режимі та позначалися спеціальними водяними знаками. Однак, як зауважив аналітик Американського інституту підприємництва Брейді Афрік, на практиці цього недостатньо: «Мало хто перевіряє, чи зображення створене штучним інтелектом, коли гортає його або поширює».

Компанія заявила, що працює над посиленням системи захисту, після чого планує повернути інструмент. Цей випадок став черговим підтвердженням зростаючої проблеми використання генеративного ШІ для створення неправдивого візуального контенту. Раніше в мережі вже поширювалися фейкові супутникові знімки, які нібито демонстрували наслідки атак на військові об'єкти на Близькому Сході.