OpenAI викрила російську кампанію впливу через ChatGPT

Американська компанія OpenAI повідомила про блокування акаунтів ChatGPT, пов'язаних із скоординованою російською операцією впливу. Розслідування, яке розпочалося з аналізу дописів у соцмережах, створених за допомогою штучного інтелекту, виявило ширшу мережу маніпуляцій, що діяла через спеціалізований вебсайт.

За даними OpenAI, кампанія була зосереджена на публікації скопійованих наукових робіт із неправильними підписами та створенні так званого «індексу суверенітету», який подавав Росію у вигідному світлі, одночасно принижуючи західні країни. Організатори намагалися приховати своє походження, використовуючи VPN-сервіси, оскільки OpenAI не надає доступу до своїх моделей на території Росії.

Зокрема, у лютому компанія вже закривала акаунти, пов'язані з проросійською медіакомпанією Rybar, яку британський уряд характеризує як таку, що фінансується державною корпорацією «Ростех» та координується з представниками російських спецслужб. Оператори давали російськомовні інструкції для генерації коментарів, які публікувалися на платформах Substack, Telegram, X, Facebook та LinkedIn. ChatGPT також отримував накази маскувати будь-які мовні ознаки, що могли б викрити російське коріння.

Значна частина згенерованого контенту рекламувала організацію під назвою «Міжнародний інститут Берка» (IBI). На її сайті розміщувалися статті, скопійовані з реальних наукових публікацій, іноді з вигаданими іменами авторів. У межах кампанії також функціонував «індекс суверенітету», який, за оцінкою OpenAI, вихваляв Росію та применшував досягнення західних держав.

У компанії зазначають, що безпосередній вплив операції на аудиторію був обмеженим, проте її значення полягає у створеній інфраструктурі. Дописи посилалися на установу, яка «на перший погляд виглядала надійною, з так званими експертами, перепублікованими науковими роботами та нібито власним індексом ризиків», що ускладнювало виявлення дезінформації для звичайних користувачів.