Машины и люди: Кто кого "передумает"

Элон Маск, основатель компании по производству электромобилей Tesla Motors, и Сэм Альтман, президент инкубатора стартапов Y Combinator, создали некоммерческую организацию OpenAI, связанную с развитием искусственного интеллекта. Основной посыл — сделать данные технологии доступными для каждого, что позволит значительно снизить риски.

Раскрытие кодов программного обеспечения искусственного интеллекта

Футурологи периодически говорят об угрозах, которые несет с собой развитие машинного интеллекта. Ведь если предположить, что он сможет достичь "сверхчеловеческого" уровня, машины могут попросту захватить мир и подчинить себе людей. Но это конспирологический вариант.

"В той точке, где мы сейчас, ни одна система искусственного интеллекта (ИИ) не способна захватить мир — и не сможет в обозримом будущем", — комментирует аспирант Университета штата Аризона Майлз Брендейдж, специализирующийся на человеческих и социальных аспектах науки и технологий.

Куда более реальной выглядит перспектива того, что в конце концов высокие технологии окажутся в руках отдельных крупных корпораций, которые таким образом получат власть над человечеством и смогут манипулировать им.

Чтобы избежать подобной опасности, можно ввести в "обычай" для компаний, связанных с ИИ, раскрывать исходные коды своего программного обеспечения. И это уже делается. Так, в начале ноября Google частично раскрыл исходники программного движка так называемых технологий глубокого обучения, позволяющих ИИ распознавать изображения, определять сказанные слова, естественным образом учить иностранный язык… То же сделал и Facebook.

Искусственные нейроны

В основе технологий глубокого обучения лежат обширные сети программного и аппаратного обеспечения, разработчики которых стремятся к тому, чтобы сделать их искусственными аналогами нейронных сетей в человеческом мозгу.

Так, 11 декабря журнал Science опубликовал результаты исследования Руслана Салахутдинова и Брэндена Лэйка из Нью-Йоркского университета, а также Джошуа Тененбаума из Массачусетского технологического института, которым удалось научить компьютер распознавать ту или иную известную систему письменности всего лишь по нескольким десяткам символов. В основе данного алгоритма лежит байесовское программирование, учитывающее вероятностные модели переменных. То есть программа способна распознавать значение символа в любом его написании. Кроме того, она может использовать в процессе обучения ранее полученную информацию, например, осваивать греческий алфавит, опираясь на знание латыни…

На сегодняшний день программе "известны" 1623 рукописных символа из 50 различных систем письменности, в том числе тибетского языка, гуджарати, санскрита, глаголицы и даже несуществующего языка, который используется в мультсериале "Футурама".

Еще пример. Не так давно группа специалистов из Корнелльского и Стэнфордского университетов разработала платформу Robowatch, позволяющую машине самообучаться различным вещам посредством ресурса YouTube. Результаты разработок были представлены на Международной конференции по компьютерному зрению ICCV.

В основе Robowatch лежит масштабная вычислительная система Robo Brain, способная понимать человеческую речь и постоянно обучаться. Для этого она использует источники информации в Сети, а полученные знания передает роботам.

Как известно, на YouTube часто выкладывают видеоинструкции по самым различным вопросам — например, как что-то приготовить, собрать или отремонтировать.

Перед компьютерным мозгом ставится задача, после чего отправляется запрос на YouTube. Робот получает доступ к коллекции видеороликов на нужную тему. Дальше он сканирует их кадр за кадром, отмечая часто появляющиеся объекты и повторяющиеся слова в субтитрах. При этом алгоритм включает в себя подпрограммы для выявления "неподходящих" роликов (например, таких, в которых встречаются нужные ключевые слова, но которые на самом деле ничему не обучают). Скажем, в ответ на запрос о приготовлении тех или иных блюд выдающие рекламу кухонных принадлежностей.

По словам ведущего автора исследования Озана Сенера, недостатка в информации для обучения роботов не ожидается. Так, на YouTube содержится около 180 тысяч роликов о приготовлении омлета и 281 тысяч о том, как завязывать галстук-бабочку.

В недалеком будущем авторы проекта намерены расширить перечень ресурсов, где будет черпать информацию Robowatch. Например, в их состав войдет "Википедия".

Защита от машин

Если искусственным нейронным сетям удастся достигнуть "человеческого" уровня, машины станут мыслить так же, как и люди (или, по крайней мере, близко к людям). Чтобы они не стали нам конкурентами, нам следует их контролировать. Это и является основной задачей OpenAI.

"Разработка, обогащение, доступность технологий защищают людей, — считает один из основателей новой компании, Сэм Альтман. — Делать это — лучший способ защитить всех нас".

Не забывайте присоединяться к Pravda.Ru во ВКонтакте, Telegram, Одноклассниках, Google+, Facebook, Twitter. Установи "Правду.Ру" на главную страницу "Яндекса". Мы рады новым друзьям!


"Превосходство": машина вместо бога

Комитет Генассамблеи ООН по социальным, гуманитарным и культурным вопросам принял проект резолюции Украины о ситуации в области прав человека в Крыму. 

ООН приняла резолюцию против Крыма. Что теперь будет?
Комментарии
Новый пресс-секретарь Шойгу "взорвала" соцсети
Коммунисты пообещали Путину страшную судьбу Каддафи
Взвейтесь орлами: кремлевские звезды портят репутацию России
Олег Денисенко: Высокоточное оружие позволяет дать адекватный отпор Украине
Коммунисты пообещали Путину страшную судьбу Каддафи
ООН приняла резолюцию против Крыма. Что теперь будет?
Коммунисты пообещали Путину страшную судьбу Каддафи
Владельцев СМИ признают неблагонадежными из-за родственников за границей
Коммунисты пообещали Путину страшную судьбу Каддафи
Исламисты захватили оружие, поставленное Россией сирийским военным
Боевая подводная лодка "Сан-Хуан" пропала у берегов Аргентины
Исламисты захватили оружие, поставленное Россией сирийским военным
Уфолог разгадал план КНДР — взорвать США через вулкан
ООН приняла резолюцию против Крыма. Что теперь будет?
Будапешт жестко потребовал автономии для венгров на Украине
Сестры из США, предсказавшие 11 сентября, дали прогноз на 2018 год
Коммунисты пообещали Путину страшную судьбу Каддафи
Как воевать с "Черными дроздами"
Будапешт жестко потребовал автономии для венгров на Украине
В Испании не видят повода для проблем с Москвой после нападок на Россию
Будапешт жестко потребовал автономии для венгров на Украине