Як ChatGPT використали для російської пропаганди: розбір схеми OpenAI
OpenAI виявила та заблокувала мережу акаунтів ChatGPT, пов'язану з Росією, яка використовувала ШІ для прихованої кампанії. Оператори створювали фейкові експертні матеріали та просували псевдоізраїльський аналітичний центр.
Компанія OpenAI повідомила про блокування групи акаунтів ChatGPT, які, ймовірно, діяли з території Росії та використовували штучний інтелект для ведення прихованої інформаційної кампанії. За даними компанії, оператори генерували контент для соціальних мереж, просували організацію International Burke Institute та поширювали матеріали, що подавали Росію у позитивному світлі.
Механіка кампанії була доволі простою. Оператори писали запити до ChatGPT російською мовою, а отриманий текст публікували переважно англійською. Вони навіть просили модель уникати мовних маркерів, які могли б вказати на російське походження авторів. Оскільки доступ до сервісів OpenAI з Росії заборонений, оператори користувалися VPN. Згенеровані публікації поширювали через X, Facebook, LinkedIn, Telegram та Substack.
Частина дописів виходила від акаунтів, оформлених під назву та логотип International Burke Institute, інші — від профілів звичайних користувачів. Центральним елементом схеми був сам IBI, який позиціонував себе як експертна спільнота з Ізраїлю. Сайт організації зареєстрували у лютому 2025 року.
OpenAI проаналізувала 36 статей, опублікованих на сайті IBI з вересня 2025 до травня 2026 року. З них 34 виявилися скопійованими з інших джерел. Деякі матеріали приписували авторам, які насправді їх не писали. На сайті також публікували так званий «індекс суверенітету», у якому Росію подавали у вигідному світлі, а політику Франції, Німеччини, США та ЄС піддавали критиці.
Один з операторів використовував ChatGPT і для створення логотипів приблизно для десяти Telegram-каналів, орієнтованих на аудиторію Німеччини, США, Франції, Польщі та Туреччини. У OpenAI зазначають, що безпосереднє охоплення кампанії було відносно невеликим — окремі Telegram-канали мали від 10 до 20 тисяч підписників. Головна небезпека, на думку компанії, полягала не в кількості залучених користувачів, а у створенні інфраструктури, яка мала імітувати авторитетну експертну організацію та слугувати каналом для поширення пропагандистських наративів.
Читайте також
