Источник Правда.Ру

Американские ученые предложили бить роботов, чтобы те лучше работали

Ученые калифорнийского университета в Беркли сделали вывод, что искусственный интеллект нужно лишить уверенности в себе и тогда он станет эффективнее справляться с задачами. Робот должен не только выполнять задание, но и принимать внешнее вмешательство человека, сообщается в докладе на сайте ArXiv. org.

Поводом к такому неожиданному выводу стали хорошие показатели работы искусственного интеллекта. Ученые считают, что компьютер в 2049 году напишет бестселлер, а уже к 2053 году сможет проводить хирургические операции не хуже врачей. Это и вызывает опасения. В частности, что интеллект откажется подчиняться и заживет своей жизнью

Понимая опасность, ученые пытаются определить, какую степень свободы надо дать роботу. Американцы для этого провели эксперимент. Они создали модель взаимодействия между человеком и роботом, которая представлена в виде абстрактной "игры с выключателем". Роботу с выключателем дается некоторое задание, которое человек в любой момент может прервать, нажав на кнопку. Однако если робот считает такой поступок неразумным, он блокирует действия оператора и продолжает свою работу. При этом главная задача машины — действовать с максимальной выгодой для пользователя.

Реакция робота зависела от его суждений о том, насколько правильно поступает человек. И если он считал, что действует во благо, а человек вредит, то не позволял выключать кнопку. Если же машина исходила из того, что человек априори прав во всем, то он позволял делать с ним, что угодно, даже если выполнял задание правильно.

Консенсус заключался в том, что машину надо научить воспринимать информацию человека о том, что он хочет прервать работу, дать ответ, что робот против, дождаться ответа человека и тогда уже отключаться либо продолжать работу. Например, в ситуации, когда беспилотный автомобиль самостоятельно везет маленького ребенка в школу, наилучшей стратегией для него было бы игнорировать действия пассажира.

Ученые пока не пришли к конкретным решениям, но планируют просчитать вероятность разных реакций робота в случаях, когда он осведомлен о собственной полезности. Например, робот-бариста может счесть свои действия более ценными ранним утром, чем днем.

Ранее "Правда.Ру" сообщала, что в Китае искусственный интеллект будет сдавать вместе со школьниками выпускной экзамен "гаокао" — аналог российского ЕГЭ — по математике. Экзамен пройдет 7 июня, робот AI-MATHS будет решать несколько вариантов заданий в течение двух часов, которые идет экзамен.

Искусственный интеллект уже пытался сдать такой экзамен в феврале этого года, набрал 93 балла, но это на три пункта превысило проходной минимум. На предстоящем экзамене робот постарается выполнить тест с более высоким результатом.

Читайте последние новости "Правда.Ру" на сегодня

Встройте "Правду.Ру" в свой информационный поток, если хотите получать оперативные комментарии и новости:

Подпишитесь на наш канал в Яндекс.Дзен

Добавьте "Правду.Ру" в свои источники в Яндекс.Новости

Также будем рады вам в наших сообществах во ВКонтакте, Фейсбуке, Твиттере, Одноклассниках, Google+...


Названы главные угрозы человечеству
Комментарии
Израиль нарушил договоренности с Россией, вовремя не предупредив об атаке на Сирию
Израиль нарушил договоренности с Россией, вовремя не предупредив об атаке на Сирию
Haaretz: Россия может "обрезать крылья" Израилю
Haaretz: Россия может "обрезать крылья" Израилю
МВФ призвал Украину выставить на продажу все без исключения
МВФ призвал Украину выставить на продажу все без исключения
МВФ призвал Украину выставить на продажу все без исключения
Подробности: спутник снял удар Израиля, погубивший Ил-20
Подробности: спутник снял удар Израиля, погубивший Ил-20
Подробности: спутник снял удар Израиля, погубивший Ил-20
Подробности: спутник снял удар Израиля, погубивший Ил-20
Подробности: спутник снял удар Израиля, погубивший Ил-20
Подробности: спутник снял удар Израиля, погубивший Ил-20
Подробности: спутник снял удар Израиля, погубивший Ил-20
Подробности: спутник снял удар Израиля, погубивший Ил-20
Президент Владимир Путин подписал указ об отставке Василия Лихачева
На Украине заявили о поражении в битве против "Северного потока - 2"
Израиль нарушил договоренности с Россией, вовремя не предупредив об атаке на Сирию
Haaretz: Россия может "обрезать крылья" Израилю
Израиль нарушил договоренности с Россией, вовремя не предупредив об атаке на Сирию
Хабаровск Владимирович всё: сенсационные итоги второго тура выборов