Почему старые законы больше не спасут нас от боевых человекоподобных машин

В мире уже создаются боевые человекоподобные роботы — и всё чаще встаёт вопрос: а кто будет контролировать тех, кто сам может решать, кого уничтожить?

Китайские специалисты бьют тревогу: классические три закона робототехники, предложенные Азимовым, больше не работают. И причина в том, что гуманоиды, предназначенные для войны, изначально нарушают главный принцип — не причинять вред человеку.

Что предлагают эксперты

Юань И, Ма Е и Юэ Шигуан в статье для издания НОАК "Цзефанцзюнь бао" настаивают: военным необходимо срочно пересмотреть этические и правовые нормы применения боевых роботов. Без этого неизбежны моральные катастрофы и юридические коллизии:

"Военные гуманоидные роботы — самое человекоподобное оружие. Массовое применение может привести к неизбирательным убийствам, за которые всё равно придётся отвечать — и морально, и юридически".

Новые принципы "робоморали"

Авторы выделяют три новых этических условия, которые должны быть встроены в боевых гуманоидов:

• Безоговорочное подчинение человеку.
• Защита человека — даже от своих действий.
• Исключение насилия без прямого и контролируемого приказа.

Причём роботы должны уметь отличать людей от целей, останавливаться при чрезмерном применении силы и не вмешиваться в программы, от которых зависит жизнь человека.

Где и как будут использовать боевых роботов

Эксперты предлагают пять основных сценариев применения:

• Пехотная замена — участие в городских и полевых боях, чтобы сократить потери среди солдат.
• Пилоты машин — замена экипажей в танках, истребителях и БМП.
• Операторы ракет и флота — роботизированное управление техникой, где ранее требовались команды людей.
• Логистика и медицина — выполнение вспомогательных задач, уход за ранеными, обслуживание техники.
• Зоны повышенного риска — работа в условиях радиации, химических заражений, глубин океана, космоса и недр Земли.

Главное не забыть: гуманоид — не человек

Создавая машины, похожие на нас, важно помнить: разум без морали — оружие, которое может повернуться против своего создателя.

Уточнения

Иску́сственный интелле́кт или ИИ (англ. artificial intelligence; AI) в самом широком смысле — это интеллект, демонстрируемый машинами, в частности компьютерными системами.