Источник Правда.Ру

Ученые ищут способ остановить "восстание машин"

Роботы с каждым днем становятся все более "интеллектуальными". "Агенты искусственного интеллекта", как их иногда называют, все чаще побеждают человека в играх, в решении сложных задач, и вообще, во многом проявляют большую компетентность. И не за горами тот день, когда, как предсказывали фантасты, "агенты ИИ" выйдут из подчинения человека, решив "жить самостоятельной жизнью".

Для того, чтобы такое не случилось, исследователи г из Оксфорда и лаборатории DeepMind, принадлежащей Google решили разработать систему аварийного отключения самообучающихся алгоритмов.  

Цель работы исследователей - создание фреймворка (программного обеспечения), который не позволит искусственному интеллекту найти способ игнорирования стоп-команды оператора. Об этом сообщает Business Insider со ссылкой на Институт изучения машинного интеллекта (MIRI).

Авторы отмечают, что самообучающиеся алгоритмы могут со временем обнаружить какой-нибудь механизм обхода или игнорирования штатной стоп-команды оператора. По словам исследователей, цель работы - создание фреймворка, который не позволит искусственному интеллекту найти способ игнорирования команды отключения. 

«Если такой "агент ИИ" работает в режиме реального времени под наблюдением человека, то иногда может возникнуть ситуация, при которой оператор будет вынужден нажать на большую красную кнопку, чтобы остановить "агента" от выполнения действий, опасных для самого "агента" или его окружения", считают исследователи. 

Также «большая красная кнопка» должна гарантированно прервать текущую деятельность робота и максимально обезопасить его и окружающих при потенциально опасной ситуации, а также предотвратить совершение действий, которые могут привести к «необратимым последствиям».

Вопросы безопасности, связанные с разработкой систем искусственного интеллекта, озвучивались и ранее. В 2015 году Илон Маск, Стивен Хокинг, Ноам Хомский, Стив Возняк и многие другие ученые, бизнесмены, знаменитости, исследователи и специалисты в области робототехники и искусственного интеллекта подписали открытое письмо, предостерегающее производителей оружия от создания полностью автономных боевых систем.

Кстати, искусственный интеллект может даже "сочинять" стихи. Как рассказывала Правда.Ру, имитировать разговорную речь научилась искусственная нейронная сеть, созданная Google. Для "обучения" программисты загрузили в нее 11 тысяч неизданных книг. При этом от искусственного интеллекта требовалось логически связывать два любых предложения из романов похожими по смыслу фразами, чтобы изучить многочисленные нюансы разговорной речи.

А вот еще любопытный факт: в финал японского литературного конкурса имени Хоси Синъити неожиданно вышла повесть "День, когда компьютер написал роман", написанная с применением искусственного интеллекта. Таких работ оказалось всего 11 из полутора тысяч, представленных на конкурс. Однако призовое место компьютерному творению так и не досталось.

Проект разрабатывался командой специалистов из Университета Хакодате во главе с профессором Хитоши Мацубара еще с 2012 года. Компьютерной программе заранее задавались нужные параметры, такие как имена и пол героев, сюжетные линии и так далее. На их основе программа и создавала текст, используя свой словарный запас.

Читайте последние новости Pravda. Ru на сегодня

Не забывайте присоединяться к Pravda.Ru во ВКонтакте, Telegram, Одноклассниках, Google+, Facebook, Twitter. Мы рады новым друзьям!

Комментарии
Не забудьте присоединиться к "Правде.Ру" в "Telegram". Мы рады новым друзьям
Комментарии

В этом году "Голубой огонек" оказался как никогда неинтересным. Шутки были плоскими, звезды эстрады пели под фонограмму, и было понятно, что им это никакого удовольствия не доставляет, равно как и зрителям. Скандал вокруг "Голубого огонька", вышедшего на Первом канале, Pravda.Ru обсудила с блогером из Ростова-на-Дону Вадимом Манукяном.

Застолье у Пугачевой: Эксперимент не удался

Реальный размер пенсий в России в ближайшие три года будет снижаться, несмотря на то, что российские власти вернулись к индексации по уровню реальной инфляции.

Глава минтруда рассказал о снижении пенсий
Комментарии
vkontakte_214592422 "Настоятельно призываем": Европа предложила России сдаться
professor paraiba В Кремле заявили, что симметричное ядерное разоружение США и России недопустимо
Юрий Котов Единственное испытания британской баллистической ракеты окончились провалом
Iqbol Samandarov Иран становится большой проблемой
vkontakte_107284594 Глава минтруда рассказал о снижении пенсий
Alex Ey Мексиканца признали инвалидом из-за слишком большого полового органа
nina schilova Единороссы рассказали о первоочередных задачах на 2017 год
Artyom Mitenyov В Кремле заявили, что симметричное ядерное разоружение США и России недопустимо
professor paraiba В Кремле заявили, что симметричное ядерное разоружение США и России недопустимо
Мохаммед Дж "Тотальная украинизация": В Раду внесли "законопроект о языке"