Источник Правда.Ру

Основатель Tesla создал НКО для борьбы с восстанием машин

О создании научного НКО, которое будет заниматься проблемами, которые могут возникнуть при разработке самообучающихся компьютеров, заявил  миллиардер Илон Маск. Основатель компаний Tesla и SpaceX  давно выступает с предостережениями о том, что в случае создания настоящего искусственного интеллекта думающая машина будет настроена враждебно по отношению к человечеству.

Как  сообщает портад Mashable, НКО под названием OpenAI получит финансирование в размере $1 млрд. Основной целью НКО станет изучение разработки искусственного интеллекта, который не будет представлять опасности для человечества.

«Мы полагаем, что ИИ должен быть продолжением индивидуальной воли человека и, в соответствии с идеалами свободы и равенства, должен быть распространён широко и без привилегий между всеми членами общества. Трудно представить, сколько пользы может принести человеку ИИ, сопоставимый по уровню развития с человеком, и так же сложно представить, какой урон он может нанести, если будет неправильно разработан или использован», - говорится в программном заявлении на сайте OpenAI.

OpenAI также сообщила, что все результаты исследований, которые будут проводиться под её эгидой, будут доступны широкой публике. Они будут распространяться через публикации НКО и открытые патенты.

Проблема создания безопасного искусственного интеллекта, широко представленная в научной фантастике, недавно вновь привлекла внимание исследователей, философов-футуристов и любителей популярной науки после того, как в интернете разгорелись дебаты вокруг мысленного эксперимента под названием Василиск Роко.

Эксперимент был описан одним из пользователей интернет-сообщества Less Wrong, основателем которого является учёный Элиезер Юдковски. Участник сообщества под псевдонимом Roko предложил провести мысленный эксперимент, в котором человечество, наконец, создаёт искусственный интеллект, наделённый почти неограниченными возможностями.

Далее экспериментаторам предлагается представить, что машина, получившая имя «Василиск», будет уверена в своей абсолютной полезности для человечества и захочет наказать всех, кто мог прямо или косвенно препятствовать её созданию. Для этого Василиск создаст виртуальную реальность, которую будут населять двойники всех представителей человечества. Василиск, наделённый "божественными" силами, подвергнет вечным мукам тех, кто препятствовал его созданию. Эксперимент также предполагает, что в настоящем времени человечество может находиться в такой симуляции, и, узнав об эксперименте, каждый автоматически принимает в нём участие.

Подобная концепция настолько напугала учёных и пользователей сети, что в течение некоторого времени статьи и обсуждения Василиска Роко удалялись с форумов из-за опасения вовлечения новых людей в эксперимент.

Напомним, как саообщала Правда.Ру, команда специалистов из Университета Тафтса (США) разработала систему искусственного интеллекта, которая позволяет последнему отказываться выполнять приказы оператора, при наличии на то достаточных оснований. Новинка была недавно представлена на технологической конференции AI-HRI и уже вызвала жаркие диспуты по поводу этичности изобретения.

Читайте последние  новости Pravda.Ru  на сегодня

Не забывайте присоединяться к Pravda.Ru во ВКонтакте, Telegram, Одноклассниках, Google+, Facebook, Twitter. Установи "Правду.Ру" на главную страницу "Яндекса". Мы рады новым друзьям!


"Превосходство": машина вместо бога

Фракция Европарламента "Европейские объединенные левые / Лево-зеленые Севера" (GUE/NGL) вынесет на рассмотрение ЕП резолюцию с требованием ввести санкции против прибалтийских стран, где участились акции и шествия неонацистов.

Европарламент призывают ввести санкции против стран Балтии за нацистские шествия
Комментарии
Ученые рассказали, когда человек сможет путешествовать за пределы Солнечной системы
Напролом: Китай входит в ближневосточную игру
Напролом: Китай входит в ближневосточную игру
В Киеве началась встреча Лукашенко и Порошенко
Иран—Израиль: что может послужить детонатором войны?
Иран—Израиль: что может послужить детонатором войны?
Почему Луганск не поддержал Донецк в создании Малороссии
Почему Луганск не поддержал Донецк в создании Малороссии
Конгресс США опубликовал законопроект по санкциям против России
НАТО до смерти боится России
НАТО до смерти боится России
Конгресс США опубликовал законопроект по санкциям против России
Премьер Румынии бросает наглый вызов президенту Молдовы
Россия должна доминировать на китайском газовом рынке — Рустам ТАНКАЕВ
Голландия прозрела: Расследование по MH17 возобновлено?
Алкоголь должен исчезнуть с прилавков обычных магазинов — Владимир БРЮН
Королевские почести для Лукашенко в Киеве: батька шантажирует Кремль
Конгресс США опубликовал законопроект по санкциям против России
Ученые рассказали, какая планета в Солнечной системе более всего подходит для колонизации
Премьер Румынии бросает наглый вызов президенту Молдовы
Собирать адресные штрафы с третьих лиц в РФ не получится — Дмитрий АГРАНОВСКИЙ