Як росія намагається отруїти штучний інтелект і чому це небезпечно

Міністерство цифрової інформації України попереджає: росія активно використовує новітні технології для поширення дезінформації, зокрема намагається впливати на роботу мовних моделей. Раніше основними інструментами пропаганди були боти, тролі та мережі фейкових акаунтів, але тепер вектор зміщується — ворог атакує джерела, з яких ШІ отримує інформацію.

Алгоритми штучного інтелекту мають особливість: велика кількість однакових або схожих тверджень може сприйматися ними як підтвердження факту. Це створює сприятливе середовище для маніпуляцій. Одним із ключових ризиків є так зване RAG Poisoning — «отруєння» баз знань, які використовують системи ШІ.

Сучасні мовні моделі здатні отримувати інформацію не лише з попередньо навчених даних, а й із зовнішніх документів, баз даних та інших джерел. Якщо туди потрапляє сфабрикований документ, система може використати його під час формування відповіді. Додаткову загрозу становлять автономні ШІ-агенти, які взаємодіють із зовнішніми сервісами та плагінами — використання ненадійних компонентів відкриває нові можливості для впливу.

Дослідження показують, що окремі мовні моделі можуть не лише повторювати пропагандистські наративи, а й доповнювати їх вигаданими деталями. Це ускладнює користувачам розпізнавання недостовірної інформації. Особливо небезпечними такі відповіді є щодо нещодавніх подій, коли інформація ще не отримала достатнього висвітлення в надійних джерелах — модель може не мати повного контексту або спиратися на неперевірені дані.

Експерти наголошують: відповідь ШІ не варто автоматично сприймати як підтвердження факту. Рекомендується звертати увагу на власну емоційну реакцію — якщо повідомлення викликає сильний страх, обурення або бажання негайно поширити його, варто зробити паузу. Перед репостом або передачею інформації іншим слід витратити кілька хвилин на перевірку, поставити запитання про джерело, перевірити дані незалежно від чатбота та не поширювати непідтверджене.