Источник Правда.Ру

Американские ученые предложили бить роботов, чтобы те лучше работали

Ученые калифорнийского университета в Беркли сделали вывод, что искусственный интеллект нужно лишить уверенности в себе и тогда он станет эффективнее справляться с задачами. Робот должен не только выполнять задание, но и принимать внешнее вмешательство человека, сообщается в докладе на сайте ArXiv. org.

Поводом к такому неожиданному выводу стали хорошие показатели работы искусственного интеллекта. Ученые считают, что компьютер в 2049 году напишет бестселлер, а уже к 2053 году сможет проводить хирургические операции не хуже врачей. Это и вызывает опасения. В частности, что интеллект откажется подчиняться и заживет своей жизнью

Понимая опасность, ученые пытаются определить, какую степень свободы надо дать роботу. Американцы для этого провели эксперимент. Они создали модель взаимодействия между человеком и роботом, которая представлена в виде абстрактной "игры с выключателем". Роботу с выключателем дается некоторое задание, которое человек в любой момент может прервать, нажав на кнопку. Однако если робот считает такой поступок неразумным, он блокирует действия оператора и продолжает свою работу. При этом главная задача машины — действовать с максимальной выгодой для пользователя.

Реакция робота зависела от его суждений о том, насколько правильно поступает человек. И если он считал, что действует во благо, а человек вредит, то не позволял выключать кнопку. Если же машина исходила из того, что человек априори прав во всем, то он позволял делать с ним, что угодно, даже если выполнял задание правильно.

Консенсус заключался в том, что машину надо научить воспринимать информацию человека о том, что он хочет прервать работу, дать ответ, что робот против, дождаться ответа человека и тогда уже отключаться либо продолжать работу. Например, в ситуации, когда беспилотный автомобиль самостоятельно везет маленького ребенка в школу, наилучшей стратегией для него было бы игнорировать действия пассажира.

Ученые пока не пришли к конкретным решениям, но планируют просчитать вероятность разных реакций робота в случаях, когда он осведомлен о собственной полезности. Например, робот-бариста может счесть свои действия более ценными ранним утром, чем днем.

Ранее "Правда.Ру" сообщала, что в Китае искусственный интеллект будет сдавать вместе со школьниками выпускной экзамен "гаокао" — аналог российского ЕГЭ — по математике. Экзамен пройдет 7 июня, робот AI-MATHS будет решать несколько вариантов заданий в течение двух часов, которые идет экзамен.

Искусственный интеллект уже пытался сдать такой экзамен в феврале этого года, набрал 93 балла, но это на три пункта превысило проходной минимум. На предстоящем экзамене робот постарается выполнить тест с более высоким результатом.

Читайте последние новости "Правда.Ру" на сегодня

Не забывайте присоединяться к Pravda.Ru во ВКонтакте, Telegram, Одноклассниках, Google+, Facebook, Twitter. Установи "Правду.Ру" на главную страницу "Яндекса". Мы рады новым друзьям!


Названы главные угрозы человечеству

С вами вновь "Вести из будущего". Мы предупреждаем о том, что случится в самом скором будущем, если ничего не изменить.Верховная рада Украины обратилась своим постановлением обратилась сегодня к России с просьбой включить ее в состав Федерации.

Украина возвращается в состав России

С вами вновь "Вести из будущего". Мы предупреждаем о том, что случится в самом скором будущем, если ничего не изменить.Верховная рада Украины обратилась своим постановлением обратилась сегодня к России с просьбой включить ее в состав Федерации.

Украина возвращается в состав России
Комментарии
Наконец-то? Чубайса допросят о растрате в "Роснано"
Ураганы, снег и неожиданное потепление: что ожидает россиян в конце ноября
Опрос: европейцы хотят улучшения отношений с Россией
Индийский министр назвал способ уберечься от рака
Минкульт намерен ввести сборы от проката зарубежных фильмов в России
Столицу Коми хотят перенести из Сыктывкара в Ухту
Ученые выяснили, когда замужние женщины начинают думать об измене
Украинцев без разбору пустят на работу в Польшу
Почему готовить в посуде без крышки крайне опасно для здоровья
Минск отправляет лучших дворников на каникулы в Европу
Киевляне поучили владельца BMW правильной парковке
Сбежавшего из КНДР солдата лечат от паразитов и туберкулеза
Сенатор: россияне массово перешли на махорку
Здания Минфина и Минтруда в Москве эвакуировали из-за угрозы взрыва
"Патриотичная" туалетная бумага уязвила депутатов Сейма Литвы
"Огненненый шар", упавший с неба, напугал японцев
FIS разрешила выступать российским лыжникам, отстраненным от Олимпиад
Когда музыка действительно помогает работать
Количество беспилотных авто на дорогах мира составит 150 тысяч к 2020 году
Обнародована интерактивная карта вторжений инопланетян
Украина возвращается в состав России