Новые технологии напугали участников форума в Давосе

Экономический форум в Давосе успел наделать шуму благодаря заявлениям его участников. Однако часть интересных сообщений, озвученных там, касалась отнюдь не экономики и будущего глобального мира, а угроз, которые несут в себе технические достижения. Наибольшие опасения вызывают интернет вещей, дроны и искусственный интеллект.

Большая часть дискуссий на форуме, касающихся изменений в промышленном производстве, вращалась вокруг искусственного интеллекта и "автономных систем" (работающих независимо от человека, иными словами — роботов). И, конечно же, вольно или невольно, но все это перетекало в обсуждение применения этих новейших технологий на поле боя. Это не считая таких традиционных уже тем, как кибервойны, психологические операции, особенно с использованием социальных медиа, и пр. Застрельщиками обсуждения выступили американские военные.

Основные опасения, которые были высказаны американским экспертом, касались низкого уровня входа на поле военных технологий.

Например, на форуме был озвучен один из возможных сценариев будущей войны: умный рой дронов, относительно дешевых, отпечатанных на трехмерных принтерах, оказывается способным побороть F-35 — многомиллиардный, напичканный современной электроникой и оружием истребитель-бомбардировщик пятого поколения, на который американское военное ведомство угробило сотни миллиардов долларов, если брать в целом разработку, доведение до ума и производство.

А вот дроны стоят дешево. Если, к примеру, будет напечатано несколько миллионов дешевых и мелких дронов и их массово применят против F-35, любой поймет, что последний не просто очень дорогая платформа, но, что хуже, — бесполезная дорогая платформа. Более того, по мнению этого эксперта, дроны могут не просто победить данный тип истребителя-бомбардировщика, но и полностью заменить его. Характерно, что в качестве примера вероятного противника эксперт привел именно Китай.

Впрочем, еще больше эксперт был озабочен возможностью ИГ (или любой другой подобной организации) приобрести трехмерный принтер и напечатать тысячи дронов, которые бы потом использовались не только в качестве устройств разведки, наведения огня, бомбометания, точечного подрыва укреплений и командных пунктов, как это уже имеет место быть сейчас, но и в качестве крайне дешевого доставщика биологически опасного материала.

Если учесть возможную в будущем дешевизну биотехнологического производства на коленке, опасение не выглядит особо надуманным. Последствия же такого творчества могут быть крайне тяжелыми.

Важно отметить, что возможная боевая неэффективность традиционных летательных аппаратов уже сейчас может снижать цены на их образцы.

Вовлеченная в дискуссию глава минобороны Нидерландов Жанин Хеннис-Плассхарт заявила, что важно поставить технологию под общественный и, вообще говоря, разумный контроль. Последнее объяснимо, так как в Голландии идут довольно ожесточенные дебаты на тему использования роботизированных военных средств. Другое дело, что враг не дремлет и не обязан поступать хоть сколько-нибудь гуманно.

Опасения министра вызвали и элементы системы искусственного интеллекта (ИИ), который может самообучаться, менять свои собственные правила и т. д. Затем в обсуждении всплыл вопрос допустимости и этики применения оружия. Ведь если кибервойна будет вестись в космосе, ситуация может стать нерегулируемой. Ограничить такого рода военные конфликты будет тяжело. Для их формального регулирования министр предложила перенести в космос морские законы.

После обсуждения "звездных войн" дискуссия опять спустилась на землю. Американский эксперт риторически поинтересовалась, почему, когда у нас имеются роботизированные, работающие автономно оборонительные комплексы, они не вызывают нареканий, но на ровно такие же системы нападения люди реагируют с осуждением? Ведь если самонаводящаяся ракета с элементами ИИ, которая распознала террориста по фотографии, вылетела и ликвидировала его (то есть сделала работу по ликвидации потенциальной угрозы лучше, чем это сделал бы человек-оператор), почему мы должны полностью запретить такого рода системы?

Экс-представитель ООН выступила против, заявив, что такое использование средств "размывает линию между войной и миром". Возражения традиционные: все люди имеют право на независимый суд и разбирательство, которое и установит соответствие между виной обвиняемого и наказанием. Иными словами, американской коллеге рекомендовали по старинке обходиться судом или военным трибуналом.

Дискуссия также крутилась вокруг психологических операций, которые могли бы вестись при помощи социальных сетей. Впрочем, здесь все быстро пришли к общему мнению, что ничего экстраординарного в этом нет — psi-ops, как их называли во время холодной войны, успешно велись и без соцсетей, а новые технологии просто расширили возможности.

Еще одно, что вызвало опасения (кроме дронов, опасность которых многие военные аналитики учитывают в своих разработках): в повседневную жизнь общества проникает интернет вещей. В будущем можно ожидать крупных сетей произвольной архитектуры, в которые будут вовлечены многие приборы и устройства. Он них будет зависеть инженерная инфраструктура и само выживание города, городского населения. С одной стороны, это колоссальный плюс, так как способствует оптимизации и максимизации эффективности работы миллионов механизмов. С другой, есть опасность взлома этой сети, ее заражения и перехвата управления с возможностью нанесения ущерба, который может быть просто катастрофическим.

Для примера, эксперты обсуждали перехват управления грузовых машин и робокаров. Если террористы или враждебные государства смогут проделать что-либо подобное, то даже просто организация заторов транспортной сети мегаполиса может привести к коллапсу, краткосрочному или нет — уже другой вопрос. А если автомобили использовать в качестве самого настоящего оружия, как это уже проделали террористы в Ницце и Берлине, осуществившие массовые наезды на людей, число жертв может быть огромным.

В целом итог обсуждения разочаровывающий. С одной стороны, есть благие пожелания вовлечь в контроль за роботизированными устройствами общество, а с другой стороны, уже из самого обсуждения видно, что очередной виток гонки вооружений не за горами.

Население попросят, ради его же блага, отойти в сторонку и не мешать серьезным дядям и тетям решать их проблемы. Ну и проблемы граждан по остаточному принципу.