Искусственный интеллект

"Галлюцинация" ИИ едва не привела к войне между США и Китаем – CNN

Shutterstock

Авиация в воздухе и подразделения специального назначения в состоянии готовности

Сгенерированный искусственным интеллектом ложный разведывательный доклад едва не привел к прямому военному столкновению между Вашингтоном и Пекином. Пентагон готовил силовую операцию по перехвату гражданского судна КНР, которое алгоритмы ошибочно заподозрили в перевозке ядерных компонентов. О масштабном чрезвычайном происшествии сообщил телеканал CNN, ссылаясь на собственные источники в оборонных кругах, пишет "Дивогляд".

"Галлюцинация" разведки и самолеты в воздухе

Причиной критической ситуации стал человеческий фактор в сочетании с несовершенством сырых алгоритмов. Аналитик Командования специальных операций США задействовал чат-бот для выяснения содержимого груза китайского транспорта.

ИИ-система сформировала ложное заключение, смешав гражданские данные из открытых источников с засекреченным радиоэлектронным перехватом. Получив ошибочный результат о наличии ядерных деталей, специалист поручил тому же боту составить стандартный разведывательный документ и разослал его командованию.

Цепь событий, едва не повлекшая фатальные последствия:

  • Мобилизация сил: на основе сгенерированного алгоритмом отчета силовые структуры разработали план абордажа судна;

  • Боевая готовность: спецназ готовился к десантированию на борт, а в воздух была поднята военная авиация;

  • Отмена в последний момент: детально проверить подлинность разведданных должностные лица решили лишь за считанные минуты до начала штурма, выявив вымысел алгоритма.

Угроза эскалации и тотальная цифровизация Пентагона

Представители американской разведки в беседе с журналистами признали, что силовой захват китайского транспорта мог спровоцировать непредсказуемую эскалацию между ядерными державами. Отчет оказался полной фальшивкой, а ошибка аналитика поставила две крупнейшие экономики мира на грань реальной войны.

Несмотря на критичность данной ошибки, руководство Армии США и спецслужбы не планируют отказываться от алгоритмов. Вооруженные силы продолжат активно внедрять искусственный интеллект в ключевые звенья военной машины: от обработки первичной развединформации и автоматического выбора целей для ударов до контроля оборонных бюджетов и логистических цепочек поставок.

Ранее "Дивогляд" сообщал, что глава OpenAI назвал два худших сценария развития ИИ.

Причудливые истории из Украины, котики, скандалы мировых звезд, юмор и чуть-чуть дикого трэша из московских болот – читайте первыми в Telegram Дивогляд 5.UA.

Прокомментируйте

МАТЕРІАЛИ ЗА ТЕМОЮ