Источник Правда.Ру

Американские ученые предложили бить роботов, чтобы те лучше работали

Ученые калифорнийского университета в Беркли сделали вывод, что искусственный интеллект нужно лишить уверенности в себе и тогда он станет эффективнее справляться с задачами. Робот должен не только выполнять задание, но и принимать внешнее вмешательство человека, сообщается в докладе на сайте ArXiv. org.

Поводом к такому неожиданному выводу стали хорошие показатели работы искусственного интеллекта. Ученые считают, что компьютер в 2049 году напишет бестселлер, а уже к 2053 году сможет проводить хирургические операции не хуже врачей. Это и вызывает опасения. В частности, что интеллект откажется подчиняться и заживет своей жизнью

Понимая опасность, ученые пытаются определить, какую степень свободы надо дать роботу. Американцы для этого провели эксперимент. Они создали модель взаимодействия между человеком и роботом, которая представлена в виде абстрактной "игры с выключателем". Роботу с выключателем дается некоторое задание, которое человек в любой момент может прервать, нажав на кнопку. Однако если робот считает такой поступок неразумным, он блокирует действия оператора и продолжает свою работу. При этом главная задача машины — действовать с максимальной выгодой для пользователя.

Реакция робота зависела от его суждений о том, насколько правильно поступает человек. И если он считал, что действует во благо, а человек вредит, то не позволял выключать кнопку. Если же машина исходила из того, что человек априори прав во всем, то он позволял делать с ним, что угодно, даже если выполнял задание правильно.

Консенсус заключался в том, что машину надо научить воспринимать информацию человека о том, что он хочет прервать работу, дать ответ, что робот против, дождаться ответа человека и тогда уже отключаться либо продолжать работу. Например, в ситуации, когда беспилотный автомобиль самостоятельно везет маленького ребенка в школу, наилучшей стратегией для него было бы игнорировать действия пассажира.

Ученые пока не пришли к конкретным решениям, но планируют просчитать вероятность разных реакций робота в случаях, когда он осведомлен о собственной полезности. Например, робот-бариста может счесть свои действия более ценными ранним утром, чем днем.

Ранее "Правда.Ру" сообщала, что в Китае искусственный интеллект будет сдавать вместе со школьниками выпускной экзамен "гаокао" — аналог российского ЕГЭ — по математике. Экзамен пройдет 7 июня, робот AI-MATHS будет решать несколько вариантов заданий в течение двух часов, которые идет экзамен.

Искусственный интеллект уже пытался сдать такой экзамен в феврале этого года, набрал 93 балла, но это на три пункта превысило проходной минимум. На предстоящем экзамене робот постарается выполнить тест с более высоким результатом.

Читайте последние новости "Правда.Ру" на сегодня

Не забывайте присоединяться к Pravda.Ru во ВКонтакте, Telegram, Одноклассниках, Google+, Facebook, Twitter. Установи "Правду.Ру" на главную страницу "Яндекса". Мы рады новым друзьям!


Названы главные угрозы человечеству

Юлия Мостовая, известная на Украине журналистка, редактор киевского еженедельника "Зеркало недели", опубликовала на страницах издания свою статью, которую уже окрестили "криком боли" и рассказом "о любви и надежде", хотя, скорее, длинный текст Мостовой напоминает рассказ "о минуте прозрения".

Прозрение Майдана: мы убили Украину, нужно уезжать

Юлия Мостовая, известная на Украине журналистка, редактор киевского еженедельника "Зеркало недели", опубликовала на страницах издания свою статью, которую уже окрестили "криком боли" и рассказом "о любви и надежде", хотя, скорее, длинный текст Мостовой напоминает рассказ "о минуте прозрения".

Прозрение Майдана: мы убили Украину, нужно уезжать
Комментарии
Владимир ОЛЕЙНИК: украинцы больше не видят перспектив в собственном доме
Владимир ОЛЕЙНИК: украинцы больше не видят перспектив в собственном доме
Зачем США навязывают всему миру свое энергетическое сырье
Ветеран СОБРа из Подмосковья воевал с коллекторами при помощи арсенала оружия и экзоскелета
Украина ужесточает въезд для россиян
Украина ужесточает въезд для россиян
Владимир ОЛЕЙНИК: украинцы больше не видят перспектив в собственном доме
Литва "помогла" Украине летальным оружием советских времен
Космонавты-смертники из СССР были на Луне - 29 сентября 2003 г.
Порошенко возвестил о желании поднять украинский флаг над Севастополем
Кравчук: Украина "кинула" Россию с Крымом в 1991 году
Рост цен и доходы россиян: главные задачи правительства — Никита МАСЛЕННИКОВ
Почему человечество может остаться без мороженого
МИД России рассказал, как Россия откажется от доллара
Небо в алмазах: рынок бриллиантов ждет кризис? — Дмитрий ДАНИЛОВ
Рекордное количество россиян стало работать "в тени"
Басманный суд Москвы: дело Серебренникова
Зачем США навязывают всему миру свое энергетическое сырье
Зачем США навязывают всему миру свое энергетическое сырье
Украина ужесточает въезд для россиян
МИД России рассказал, как Россия откажется от доллара