Военный аналитик с помощью чат-бота проанализировал разведданные о манифесте китайского судна. В итоге ИИ объединил данные с информацией из открытых источников и пришел к неверному выводу.

ВС США этой весной едва не провели операцию по перехвату китайского судна из-за ошибки искусственного интеллекта, который сообщил о перевозке компонентов программы ядерного оружия Ирана, пишет CNN со ссылкой на источники.

По их информации, после получения отчета американские военные незамедлительно приступили к планированию действий и готовились подняться на борт корабля. Кроме того, в воздух были подняты военные самолеты. Лишь незадолго до старта операции, чиновники решили более тщательно изучить отчет, составленный аналитиком командования спецопераций и выяснили, что он был сгенерирован ИИ. Чат-бот, которым воспользовался аналитик, неверно идентифицировал материал, который перевозило судно.

Один из источников CNN заявил, что отчет был «полностью ложным и почти развязал войну». Телеканал отмечает, что любая операция США против китайского судна потенциально могла перерасти в вооруженный конфликт между двумя странами.

CNN заявляет, что американские чиновники стремятся внедрить ИИ почти во все аспекты работы армии США и разведки, включая обработку данных и выбор целей для ударов.

По информации телеканала, военный аналитик попросил чат-бот собрать разведданные о манифесте судна. ИИ объединил данные из открытых источников с секретной разведывательной информацией и пришел к неверному выводу. После анализа ИИ, аналитик вновь воспользовался им для формирования отчета и передал руководству.

В прошлом году Пентагон заключил контракт с xAI Илона Маска на ускорение внедрения искусственного интеллекта в работу ведомства. Стоимость контракта составила $200 млн. Тогда же Минобороны США заключило контракты с разработчиками моделей OpenAI и Anthropic.

В марте The Wall Street Journal писала, что президент США Дональд Трамп применял ИИ от Anthropic для нанесения крупного авиаудара по Ирану.

В то время между Пентагоном и Anthropic произошел конфликт. Глава Anthropic Дарио Амодеи требовал гарантий, что технологию не используют для слежки или автономного оружия без контроля человека. В итоге Пентагон объявил Anthropic «риском для цепочки поставок».

В конце августа заместитель министра обороны США по исследованиям и разработкам, главный технический директор Пентагона Эмиль Майкл заявил, что Пентагон намерен полностью отказаться от использования ИИ от Anthropic в системах ведомства к концу сентября.