Google Earth вимкнув ШІ-генератор через фейкові супутникові знімки

Інтеграція генеративної моделі Nano Banana в інтерфейс Google Earth дозволяла користувачам змінювати будь-яке місце на планеті за допомогою текстових запитів. Однак одразу після релізу OSINT-фахівці та звичайні користувачі показали, як інструмент можна використовувати для дезінформації.

У соціальних мережах почали поширювати сфабриковані кадри, що нібито демонстрували воронку від вибуху біля лікарні в Газі, атомні електростанції в Ірані та масштабну аварію на вулицях Амстердама. Ці зображення виглядали настільки реалістично, що могли ввести в оману навіть досвідчених аналітиків.

Старший науковий співробітник Інституту Алана Тюрінга Сем Стоквелл зазначив, що вбудовування генеративного інструменту в еталонний шар Google Earth підриває саму міру, яку журналісти та слідчі використовують для викриття фейків. OSINT-експерт Хенк ван Есс додав, що фейк тепер створюється всередині того самого інструменту, який люди застосовують для перевірки справжності зображень.

Аналітик Американського інституту підприємництва Брейді Афрік звернув увагу, що такі фейки прив'язуються до реальних супутникових знімків, через що зникають характерні ознаки ШІ-генерації, як-от невідповідність рельєфу чи масштабу. Він також зауважив, що водяних знаків недостатньо, адже більшість користувачів не перевіряють деталі під час швидкого перегляду стрічки.

У відповідь на критику в Google заявили, що тимчасово вимикають функцію для впровадження суворіших заходів безпеки. Представники компанії наголосили, що знають про довіру користувачів до Google Earth як до надійного джерела інформації, і помітили, що деякі користувачі діляться скріншотами згенерованих зображень, які порушують правила. Розробники уточнили, що згенеровані кадри не потрапляли в основний інтерфейс для інших користувачів і мали маркування «Згенеровано ШІ», а також прихований водяний знак SynthID.

Це не перший випадок, коли Google змушений оперативно згортати функції штучного інтелекту через хвилю критики. Раніше Єврокомісія оштрафувала компанію на 890 мільйонів євро за самопреференції в пошуку та обмеження для розробників. Також через сервіси компанії поширюється так звана кіберхондрія, коли люди масово шукають симптоми хвороб і переконують себе у смертельних діагнозах. Обидва випадки демонструють, наскільки продукти Google впливають на поведінку та довіру мільйонів користувачів.