Американцы свели с ума компьютер
Американским ученым удалось провести эксперимент, в результате которого компьютер "заразился" психическим заболеванием, похожим на шизофрению. Это подтвердил и присутствовавший при опыте психиатр. Исследователи уверены, что данный эксперимент поможет медикам лучше понять процессы в больном человеческом мозгу и научиться их корректировать.
До сих пор считалось, что компьютер, в отличие от человека, никогда не может сойти с ума. В критической ситуации он просто зависнет или ошибется, однако это будет разовым сбоем. Однако недавно ученые из Техасского Университета (США) смогли добиться того, что железный помощник человечества, что называется, "съехал с катушек". А присутствующий при эксперименте психиатр вынес неутешительный диагноз "Шизофрения в острой форме".
Правда, если быть совсем точным, психическим недугом заболел не сам компьютер, то есть процессор, память, жесткий диск и т. п., а его программное обеспечение. Это знаменитая нейросеть Discern-а, которая, как известно, способна естественному человеческому языку. Напомню, что нейронные сети — это программы, представляющие собой, некие блоки со способностью к самообучению и распознаванию образов, классификации и прогнозированию. То есть данная программа работает примерно так же, как и цепочка нервных клеток, отвечающих за выработку условного рефлекса в организме живого существа.
Итак, в эксперименте исследователи начали подавать данные в память Discern-а способом, очень похожим на способ, которым человеческий мозг принимает и сохраняет информацию. То есть, это были не различные единицы данных (как это делается обычно), а набор связанных между собой слов, предложений, сценариев и историй. Проше говоря, этой программе "рассказали" несколько несложных историй, не связанных между собой, которые нейросеть прилежно запомнила. Впрочем, контрольный опыт показал, что некоторые детали программа отсеяла и забыла, видимо, сочтя их малозначимыми.
Далее экспериментаторы приказали программе "запоминать все" и повторили процесс обучения с самого начала. После чего задали программе несколько вопросов, связанных с заложенной в компьютер недавней информацией. В результате нейросеть повела себя достаточно странно.
После повторного обучения Discern-а начала воспроизводить какие-то абсолютно бредовые и фантастические истории. Анализ сообщений показал, что в большинстве случаев они являлись мозаикой, элементами которой являлись кусочки тех ситуаций, которые были заложены в нейросеть учеными. Но они были скомбинированы в произвольном порядке, и, что самое интересное, без всякого учета причинно следственных связей.
Читайте также: Компьютер целуется и отгадывает мысли
Но это еще не все. В ряде случаев у программы вдруг разыгрывалась фантазия — так, например, после ряда вопросов Discern-а добровольно взяла на себя ответственность за гипотетический террористический акт. А иногда нейросеть выдавала полный "бред сумасшедшего", выражавшийся в беспорядочном наборе предложений, резких отклонениях от темы заданного вопроса, постоянных возвратах к началу ответа и беспорядочных переходах на повествование от первого или третьего лица.
Присутствовавший при эксперименте специалист по шизофрении, доктор медицинских наук Ральф Хофман из Йельского университета, ознакомившись со всем, что выдала Discern-а, засвидетельствовал, что поведение нейросети действительно очень похоже на то, что наблюдается у шизофреников. То есть получается, что в какой-то момент программа действительно сошла с ума. Однако почему это случилось? Существуют две версии, объясняющие столь странное поведение нейросети.
Согласно одному из предположений, некоторые случаи шизофрении у человека связаны с повышенной концентрацией в мозге нейромедиатора дофамина. Это вещество, вырабатывающееся в нескольких участках нашего высшего нервного центра, в частности, отвечает за сортировку информации. Проще говоря, когда его в норме, то мозг "обращает внимание" лишь на самые важные составляющие поступающей туда информации. Но если его количество становиться очень большим (что часто и бывает у шизофреников), то любая информация становиться для него автоматически важной.
В результате получается такая ситуация, при которой мозг шизофреников не в состоянии отсеять и забыть незначащие или малозначимые факты, которые являются для него помехами или информационными шумами. Перегруженный такой "шумовой" информацией наш высший нервный центр оказывается не в состоянии сделать правильные выводы, построить логические цепочки, что приводит к возникновению нереальных образов и чувству причастности к несовершенным поступкам.
"Когда концентрация дофамина превышает установленный предел, мозг начинает считать, что исключительно все поступающие данные достоверны и строит логические выводы, основываясь на данных, которые мозг обычного человека попросту игнорирует" — говорит об этом Ули Граземан, ученый из университета Техаса — " А поскольку обработка информации в нейронных сетях имеет тенденцию весьма походить на обработку информации человеческим мозгом, мы смоделировали для программы ситуацию, аналогичную той, что возникает при высокой концентрации этого нейромедиатора. Таким образом, мы надеялись, что компьютер "свихнется" схожим с человеком способом. Что собственно и произошло".
