Машины и люди: Кто кого "передумает"

Элон Маск, основатель компании по производству электромобилей Tesla Motors, и Сэм Альтман, президент инкубатора стартапов Y Combinator, создали некоммерческую организацию OpenAI, связанную с развитием искусственного интеллекта. Основной посыл — сделать данные технологии доступными для каждого, что позволит значительно снизить риски.

Раскрытие кодов программного обеспечения искусственного интеллекта

Футурологи периодически говорят об угрозах, которые несет с собой развитие машинного интеллекта. Ведь если предположить, что он сможет достичь "сверхчеловеческого" уровня, машины могут попросту захватить мир и подчинить себе людей. Но это конспирологический вариант.

"В той точке, где мы сейчас, ни одна система искусственного интеллекта (ИИ) не способна захватить мир — и не сможет в обозримом будущем", — комментирует аспирант Университета штата Аризона Майлз Брендейдж, специализирующийся на человеческих и социальных аспектах науки и технологий.

Куда более реальной выглядит перспектива того, что в конце концов высокие технологии окажутся в руках отдельных крупных корпораций, которые таким образом получат власть над человечеством и смогут манипулировать им.

Чтобы избежать подобной опасности, можно ввести в "обычай" для компаний, связанных с ИИ, раскрывать исходные коды своего программного обеспечения. И это уже делается. Так, в начале ноября Google частично раскрыл исходники программного движка так называемых технологий глубокого обучения, позволяющих ИИ распознавать изображения, определять сказанные слова, естественным образом учить иностранный язык… То же сделал и Facebook.

Искусственные нейроны

В основе технологий глубокого обучения лежат обширные сети программного и аппаратного обеспечения, разработчики которых стремятся к тому, чтобы сделать их искусственными аналогами нейронных сетей в человеческом мозгу.

Так, 11 декабря журнал Science опубликовал результаты исследования Руслана Салахутдинова и Брэндена Лэйка из Нью-Йоркского университета, а также Джошуа Тененбаума из Массачусетского технологического института, которым удалось научить компьютер распознавать ту или иную известную систему письменности всего лишь по нескольким десяткам символов. В основе данного алгоритма лежит байесовское программирование, учитывающее вероятностные модели переменных. То есть программа способна распознавать значение символа в любом его написании. Кроме того, она может использовать в процессе обучения ранее полученную информацию, например, осваивать греческий алфавит, опираясь на знание латыни…

На сегодняшний день программе "известны" 1623 рукописных символа из 50 различных систем письменности, в том числе тибетского языка, гуджарати, санскрита, глаголицы и даже несуществующего языка, который используется в мультсериале "Футурама".

Еще пример. Не так давно группа специалистов из Корнелльского и Стэнфордского университетов разработала платформу Robowatch, позволяющую машине самообучаться различным вещам посредством ресурса YouTube. Результаты разработок были представлены на Международной конференции по компьютерному зрению ICCV.

В основе Robowatch лежит масштабная вычислительная система Robo Brain, способная понимать человеческую речь и постоянно обучаться. Для этого она использует источники информации в Сети, а полученные знания передает роботам.

Как известно, на YouTube часто выкладывают видеоинструкции по самым различным вопросам — например, как что-то приготовить, собрать или отремонтировать.

Перед компьютерным мозгом ставится задача, после чего отправляется запрос на YouTube. Робот получает доступ к коллекции видеороликов на нужную тему. Дальше он сканирует их кадр за кадром, отмечая часто появляющиеся объекты и повторяющиеся слова в субтитрах. При этом алгоритм включает в себя подпрограммы для выявления "неподходящих" роликов (например, таких, в которых встречаются нужные ключевые слова, но которые на самом деле ничему не обучают). Скажем, в ответ на запрос о приготовлении тех или иных блюд выдающие рекламу кухонных принадлежностей.

По словам ведущего автора исследования Озана Сенера, недостатка в информации для обучения роботов не ожидается. Так, на YouTube содержится около 180 тысяч роликов о приготовлении омлета и 281 тысяч о том, как завязывать галстук-бабочку.

В недалеком будущем авторы проекта намерены расширить перечень ресурсов, где будет черпать информацию Robowatch. Например, в их состав войдет "Википедия".

Защита от машин

Если искусственным нейронным сетям удастся достигнуть "человеческого" уровня, машины станут мыслить так же, как и люди (или, по крайней мере, близко к людям). Чтобы они не стали нам конкурентами, нам следует их контролировать. Это и является основной задачей OpenAI.

"Разработка, обогащение, доступность технологий защищают людей, — считает один из основателей новой компании, Сэм Альтман. — Делать это — лучший способ защитить всех нас".

Встройте "Правду.Ру" в свой информационный поток, если хотите получать оперативные комментарии и новости:

Подпишитесь на наш канал в Яндекс.Дзен

Добавьте "Правду.Ру" в свои источники в Яндекс.Новости

Также будем рады вам в наших сообществах во ВКонтакте, Фейсбуке, Твиттере, Одноклассниках, Google+...


"Превосходство": машина вместо бога
Комментарии
США поклялись душить Россию санкциями ежемесячно
Застой. Сколько нам осталось до распада государства?
"Мы в рай, а они сдохнут": Путин рассказал о ядерной войне
Украина посадит тех, кто ездит в Крым, на восемь лет
"Мы в рай, а они сдохнут": Путин рассказал о ядерной войне
"Мы в рай, а они сдохнут": Путин рассказал о ядерной войне
Что воспитательница-зэчка делала с малышами в детском саду
ИноСМИ: Россия перебросила ядерное оружие в Крым и Калининград
"Мы в рай, а они сдохнут": Путин рассказал о ядерной войне
"Мы в рай, а они сдохнут": Путин рассказал о ядерной войне
Трагедия в Керчи: в глобализации ли дело?
Трагедия в Керчи: в глобализации ли дело?
Пентагон: русские С-400 снесут авиацию США в первый день войны
Трагедия в Керчи: в глобализации ли дело?
Глава Крыма раскрыл сообщников керченского стрелка
Украина посадит тех, кто ездит в Крым, на восемь лет
США признали готовность к войне с Россией на Украине
Новая противоракета С-400 сможет сбивать вражеские ракеты над Европой
Трагедия в Керчи: в глобализации ли дело?
Россия отказывается пропустить флот НАТО к Крыму
Потом – выезд? Въезд в Москву хотят сделать платным