Американцы свели с ума компьютер

Американским ученым удалось провести эксперимент, в результате которого компьютер "заразился" психическим заболеванием, похожим на шизофрению. Это подтвердил и присутствовавший при опыте психиатр. Исследователи уверены, что данный эксперимент поможет медикам лучше понять процессы в больном человеческом мозгу и научиться их корректировать.

До сих пор считалось, что компьютер, в отличие от человека, никогда не может сойти с ума. В критической ситуации он просто зависнет или ошибется, однако это будет разовым сбоем. Однако недавно ученые из Техасского Университета (США) смогли добиться того, что железный помощник человечества, что называется, "съехал с катушек". А присутствующий при эксперименте психиатр вынес неутешительный диагноз "Шизофрения в острой форме".

Правда, если быть совсем точным, психическим недугом заболел не сам компьютер, то есть процессор, память, жесткий диск и т. п., а его программное обеспечение. Это знаменитая нейросеть Discern-а, которая, как известно, способна естественному человеческому языку. Напомню, что нейронные сети — это программы, представляющие собой, некие блоки со способностью к самообучению и распознаванию образов, классификации и прогнозированию. То есть данная программа работает примерно так же, как и цепочка нервных клеток, отвечающих за выработку условного рефлекса в организме живого существа.

Итак, в эксперименте исследователи начали подавать данные в память Discern-а способом, очень похожим на способ, которым человеческий мозг принимает и сохраняет информацию. То есть, это были не различные единицы данных (как это делается обычно), а набор связанных между собой слов, предложений, сценариев и историй. Проше говоря, этой программе "рассказали" несколько несложных историй, не связанных между собой, которые нейросеть прилежно запомнила. Впрочем, контрольный опыт показал, что некоторые детали программа отсеяла и забыла, видимо, сочтя их малозначимыми.

Далее экспериментаторы приказали программе "запоминать все" и повторили процесс обучения с самого начала. После чего задали программе несколько вопросов, связанных с заложенной в компьютер недавней информацией. В результате нейросеть повела себя достаточно странно.

После повторного обучения Discern-а начала воспроизводить какие-то абсолютно бредовые и фантастические истории. Анализ сообщений показал, что в большинстве случаев они являлись мозаикой, элементами которой являлись кусочки тех ситуаций, которые были заложены в нейросеть учеными. Но они были скомбинированы в произвольном порядке, и, что самое интересное, без всякого учета причинно следственных связей.

Фото: AP

Читайте также: Компьютер целуется и отгадывает мысли

Но это еще не все. В ряде случаев у программы вдруг разыгрывалась фантазия — так, например, после ряда вопросов Discern-а добровольно взяла на себя ответственность за гипотетический террористический акт. А иногда нейросеть выдавала полный "бред сумасшедшего", выражавшийся в беспорядочном наборе предложений, резких отклонениях от темы заданного вопроса, постоянных возвратах к началу ответа и беспорядочных переходах на повествование от первого или третьего лица.

Присутствовавший при эксперименте специалист по шизофрении, доктор медицинских наук Ральф Хофман из Йельского университета, ознакомившись со всем, что выдала Discern-а, засвидетельствовал, что поведение нейросети действительно очень похоже на то, что наблюдается у шизофреников.То есть получается, что в какой-то момент программа действительно сошла с ума. Однако почему это случилось? Существуют две версии, объясняющие столь странное поведение нейросети.

Согласно одному из предположений, некоторые случаи шизофрении у человека связаны с повышенной концентрацией в мозге нейромедиатора дофамина. Это вещество, вырабатывающееся в нескольких участках нашего высшего нервного центра, в частности, отвечает за сортировку информации. Проще говоря, когда его в норме, то мозг "обращает внимание" лишь на самые важные составляющие поступающей туда информации. Но если его количество становиться очень большим (что часто и бывает у шизофреников), то любая информация становиться для него автоматически важной.

В результате получается такая ситуация, при которой мозг шизофреников не в состоянии отсеять и забыть незначащие или малозначимые факты, которые являются для него помехами или информационными шумами. Перегруженный такой "шумовой" информацией наш высший нервный центр оказывается не в состоянии сделать правильные выводы, построить логические цепочки, что приводит к возникновению нереальных образов и чувству причастности к несовершенным поступкам.

"Когда концентрация дофамина превышает установленный предел, мозг начинает считать, что исключительно все поступающие данные достоверны и строит логические выводы, основываясь на данных, которые мозг обычного человека попросту игнорирует" — говорит об этом Ули Граземан, ученый из университета Техаса — " А поскольку обработка информации в нейронных сетях имеет тенденцию весьма походить на обработку информации человеческим мозгом, мы смоделировали для программы ситуацию, аналогичную той, что возникает при высокой концентрации этого нейромедиатора. Таким образом, мы надеялись, что компьютер "свихнется" схожим с человеком способом. Что собственно и произошло".

Фото: AP

Интересно, что приняв такую точку зрения, исследователи заявили о том, что намерены продолжать работу над сведением компьютера с ума, чтобы лучше понять процессы в больном человеческом мозгу и, возможно, научиться их корректировать. Они считают, что находятся на правильном пути, ведущим к расшифровке самого процесса возникновения и развития шизофрении. Однако некоторые их коллеги не уверены, что ученым из Техаса удалось правильно интерпретировать результаты проведенного эксперимента.

Читайте также: У роботов появится собственный интернет

В частности, научный сотрудник лаборатории информационных технологий управления робототехники Санкт-Петербургского института информатики и автоматизации РАН Алексей Бакурадзе считает, что возможно, этот сбой произошел потому, что при конструировании сети Discern-а исходно была допущена ошибка. Ученый отмечает, что, возможно, сама сеть была построена неэффективно, и  в результате неоптимальная структура не сумела обеспечить самообучение системы, которая и  повела себя как шизофреник.

Тем не менее, он согласился с тем, что у человеческой и компьютерной шизофрении действительно может быть одна и та же причина — нарушение нормального функционирования системы обработки информации. Однако насколько данные случаи тождественны — пока сказать сложно. Чтобы подтвердить или опровергнуть данное предположение, видимо, потребуется еще ряд похожих экспериментов.

Читайте самое интересное в рубрике "Наука и техника"

Не забывайте присоединяться к Pravda.Ru во ВКонтакте, Telegram, Одноклассниках, Google+, Facebook, Twitter. Установи "Правду.Ру" на главную страницу "Яндекса". Мы рады новым друзьям!

Комментарии
"Вы вообще нормальные люди?": 10 ярких цитат из пресс-конференции Путина
"Вы вообще нормальные люди?": 10 ярких цитат из пресс-конференции Путина
Назван способ, как США "задушат" "Северный поток-2"
Евгений Федоров: США раскупили всю Россию и пишут нам законы
Трамп продаст дипломатические дачи РФ с сорванными флагами
"Вы вообще нормальные люди?": 10 ярких цитат из пресс-конференции Путина
"Джон умирает?": в США госпитализирован онкобольной сенатор Маккейн
"Джон умирает?": в США госпитализирован онкобольной сенатор Маккейн
Рассекречено: как США "кинули" СССР с нерасширением НАТО
Трамп продаст дипломатические дачи РФ с сорванными флагами
"Джон умирает?": в США госпитализирован онкобольной сенатор Маккейн
Кривое зеркало: что сказал бы Фрейд о русофобии США
Кривое зеркало: что сказал бы Фрейд о русофобии США
Супер-скандал: ФБР называло Трампа "идиотом"
Почему КНДР дает Штатам отпор, а у России "кишка тонка"
Кравчук: Советский Союз развалили украинцы
Взрыв газа в Австрии: украинская труба — всё
Рассекречено: как США "кинули" СССР с нерасширением НАТО
Рассекречено: как США "кинули" СССР с нерасширением НАТО
Максим Шевченко: "Они предпримут все попытки сорвать ЧМ-2018"
Украинский историк объяснил России, как США выиграли две мировые войны

Русская эскадра - не просто набор слов. Это историческое название последнего соединения кораблей и судов Императорского флота России. Именно она эвакуировала из Крыма армию генерала Врангеля и гражданское население. Беженцев приняла Франция, предоставив эскадре стоянку в Тунисе, в городе Бизерта. Судьбы большинства беженцев поистине трагичны…

Последнее пристанище Русской эскадры