Источник Правда.Ру

Американские ученые предложили бить роботов, чтобы те лучше работали

Ученые калифорнийского университета в Беркли сделали вывод, что искусственный интеллект нужно лишить уверенности в себе и тогда он станет эффективнее справляться с задачами. Робот должен не только выполнять задание, но и принимать внешнее вмешательство человека, сообщается в докладе на сайте ArXiv. org.

Поводом к такому неожиданному выводу стали хорошие показатели работы искусственного интеллекта. Ученые считают, что компьютер в 2049 году напишет бестселлер, а уже к 2053 году сможет проводить хирургические операции не хуже врачей. Это и вызывает опасения. В частности, что интеллект откажется подчиняться и заживет своей жизнью

Понимая опасность, ученые пытаются определить, какую степень свободы надо дать роботу. Американцы для этого провели эксперимент. Они создали модель взаимодействия между человеком и роботом, которая представлена в виде абстрактной "игры с выключателем". Роботу с выключателем дается некоторое задание, которое человек в любой момент может прервать, нажав на кнопку. Однако если робот считает такой поступок неразумным, он блокирует действия оператора и продолжает свою работу. При этом главная задача машины — действовать с максимальной выгодой для пользователя.

Реакция робота зависела от его суждений о том, насколько правильно поступает человек. И если он считал, что действует во благо, а человек вредит, то не позволял выключать кнопку. Если же машина исходила из того, что человек априори прав во всем, то он позволял делать с ним, что угодно, даже если выполнял задание правильно.

Консенсус заключался в том, что машину надо научить воспринимать информацию человека о том, что он хочет прервать работу, дать ответ, что робот против, дождаться ответа человека и тогда уже отключаться либо продолжать работу. Например, в ситуации, когда беспилотный автомобиль самостоятельно везет маленького ребенка в школу, наилучшей стратегией для него было бы игнорировать действия пассажира.

Ученые пока не пришли к конкретным решениям, но планируют просчитать вероятность разных реакций робота в случаях, когда он осведомлен о собственной полезности. Например, робот-бариста может счесть свои действия более ценными ранним утром, чем днем.

Ранее "Правда.Ру" сообщала, что в Китае искусственный интеллект будет сдавать вместе со школьниками выпускной экзамен "гаокао" — аналог российского ЕГЭ — по математике. Экзамен пройдет 7 июня, робот AI-MATHS будет решать несколько вариантов заданий в течение двух часов, которые идет экзамен.

Искусственный интеллект уже пытался сдать такой экзамен в феврале этого года, набрал 93 балла, но это на три пункта превысило проходной минимум. На предстоящем экзамене робот постарается выполнить тест с более высоким результатом.

Читайте последние новости "Правда.Ру" на сегодня

Встройте "Правду.Ру" в свой информационный поток, если хотите получать оперативные комментарии и новости:

Подпишитесь на наш канал в Яндекс.Дзен

Добавьте "Правду.Ру" в свои источники в Яндекс.Новости или News.Google

Также будем рады вам в наших сообществах во ВКонтакте, Фейсбуке, Твиттере, Одноклассниках, Google+...


Названы главные угрозы человечеству
Комментарии
NASA отказывается финансировать строительство космического корабля "Союз"
Власти хотят запретить Китаю скупать российский лес
Экс-участник "Уральских пельменей" пообещал "когда-нибудь" рассказать о распаде коллектива
Ярмольник раскритиковал "заслуженных" и "народных" артистов
Абэ едет к Путину: "Забираем два острова и подписываем мир"
Ярмольник раскритиковал "заслуженных" и "народных" артистов
В РАН отменили голосование о присвоении патриарху звания почетного профессора
Министр культуры: вход в интернет будет только по паспорту
Российские средства ПВО сбили израильские ракеты в Сирии
Плоскоземельцы отправляются на край Земли
Курилы - Японии, Приморью - могильник?
Хотите "загнать Кавказ к лучине"? Не выйдет у вас!
Журналистку из Финляндии расстроил вкус российских продуктов
NASA отказывается финансировать строительство космического корабля "Союз"
Хотите "загнать Кавказ к лучине"? Не выйдет у вас!
ЕС требует от России сохранить транзит газа через Украину
ЕС требует от России сохранить транзит газа через Украину
Белорусская оппозиция потребовала разорвать союз с Россией
Патриарх Иерусалима отменил встречу с Порошенко из-за недомогания
Патриарх Иерусалима отменил встречу с Порошенко из-за недомогания
NASA отказывается финансировать строительство космического корабля "Союз"