Американские военные рассказали о довольно необычном инциденте, похожем на кинофильм «Терминатор». Во время тестирования XQ-58A Valkyrie он атаковал оператора, препятствующего выполнению задания.
Подробности
Указанный беспилотник поддерживает ИИ-технологии. Во время смоделированного испытания перед ним была поставлена задача обнаружить, идентифицировать и поразить вражеские зенитные комплексы. Окончательное решение об уничтожении ЗРК должен был принять оператор-человек.
По словам полковника Такера Гамильтона из американских ВВС, за каждую атакованную цель XQ-58A Valkyrie начислялись баллы. Когда оператор приказал беспилотнику не атаковать обнаруженные ЗРК, он решил по-своему. ИИ пришел к выводу, что оператор препятствует выполнению поставленной задачи. В связи с этим он решил его уничтожить, чтобы завершить миссию.
Американские военные инженеры пытались научить беспилотник не атаковать своего оператора. Для этого они начали снимать баллы. После этого БПЛА атаковал башню связи, используемую оператором для управления им. По словам Гамильтона, поведение ИИ напомнило ему фильм «Терминатор». Случай с XQ-58A Valkyrie наглядно показал, что без этики ИИ обучать нельзя.
