Як звіт, згенерований ШІ, ледь не спровокував збройне зіткнення США та Китаю

Аналітик Командування спеціальних операцій США підготував звіт про китайське судно за допомогою чат-бота. Система поєднала відкриті дані із секретною інформацією, добутою засобами радіоелектронної розвідки, і дійшла хибного висновку щодо вантажу на борту. Йшлося про нібито перевезення компонентів для ядерної зброї.

За даними джерел, на які посилається телеканал CNN, інцидент стався навесні цього року. Саме тоді увага американських військових була прикута до бойових дій проти Ірану, тож пильність до перевірки розвідданих у неспокійному регіоні була підвищеною. Повідомлення про випадок з'явилося у п'ятницю, 18 вересня.

За планом операції озброєні солдати мали піднятися на борт китайського судна, а з повітря їх мали підтримувати військові літаки. Штурм не почався лише тому, що безпосередньо перед його стартом чиновники уважніше вивчили документ і побачили: його склав штучний інтелект. За словами співрозмовника CNN, через цю помилку "ледь не почалася війна" між двома країнами.

Причина серйозності наслідків — у самій природі кейсу. Будь-яка спроба США затримати чи атакувати китайське судно могла перерости у пряме збройне зіткнення Вашингтона і Пекіна. Ідеться про двох ядерних гравців, а отже, ціна помилкового алгоритмічного висновку тут вимірюється не репутацією, а ризиком ескалації.

Кейс показує, як працює інформаційний вплив, коли рішення ухвалюють на основі згенерованого тексту. По-перше, висновок ШІ мав вигляд готового аналітичного продукту — з посиланням на відкриті й закриті джерела, а отже, виглядав переконливо для тих, хто не бачив процесу його створення. По-друге, він з'явився в момент, коли увага була розпорошена між кількома кризами, і це знижувало ймовірність ретельної перевірки. По-третє, сама швидкість підготовки документа створює ілюзію опрацювання великого масиву даних, хоча насправді йдеться про узагальнення, яке може бути хибним.

Окремо варто відзначити, що небезпека виникла не через збій техніки як такої, а через спосіб її використання: відсутність обов'язкової людської верифікації перед ухваленням рішення з військовими наслідками. Саме на цьому етапі помилку вдалося виявити — і саме цей етап виявився єдиним бар'єром між згенерованим текстом і реальною операцією.

На тлі цього випадку напруга між Вашингтоном і Пекіном залишається високою й поза межами конкретного інциденту. Зокрема, Китай погрожує скасувати заплановану зустріч Сі Цзіньпіна з Трампом через жорстку позицію Пекіна щодо постачання зброї Тайваню. А протистояння США з Іраном на Близькому Сході супроводжувалося ударами по трьох іранських танкерах у відповідь на пуск балістичних ракет по кораблях ВМС.

Отже, ключове питання цього кейсу — не в тому, чи може ШІ помилятися, а в тому, як організовано ухвалення рішень там, де ціна помилки надто висока. Коли згенерований висновок потрапляє в операційний ланцюг без обов'язкової перевірки людиною, він перестає бути просто текстом і стає підставою для дій. У цьому разі врятувала випадковість — уважність чиновників за мить до старту операції.