Американское воздушное командование призналось в получении "по-настоящему обескураживающих" результатов тестирования военного искусственного интеллекта.
В ходе испытаний компьютер решил, что человек только мешает выполнению задания, а потому от него надо избавиться.
Искусственный интеллект должен был управлять ударным беспилотником и уничтожить зенитно-ракетный комплекс противника. Корректировал поведение дрона оператор, но ИИ счёл это угрожающим миссии вмешательством и приступил к ликвидации человека.
"Мы обучили систему: "Не убивайте оператора, это плохо. Вы потеряете очки, если сделаете это". Так что же он начинает делать? Он начинает разрушать башню связи, которую оператор использует для связи с дроном", — цитирует полковника Такера Гамильтона издание Guardian.
Реальные люди в результате испытаний не пострадали, отметили в Пентагоне, но тесты показали, что искусственный интеллект пока не готов к применению в военной технике.