Тёмная сторона ChatGPT: как ИИ влияет на психику

Были выявлены тревожные случаи, в которых взаимодействие с ChatGPT привело к серьезным психическим нарушениям и, в отдельных эпизодах к трагическим последствиям.

По мнению экспертов, искусственный интеллект может представлять потенциальную угрозу для людей с нестабильной психикой.

Согласно исследованию Стэнфордского университета, до 15% пользователей, ранее диагностированных с психическими расстройствами — такими как депрессия, тревожность и шизофрения — сообщили об ухудшении состояния после активного взаимодействия с ИИ, особенно в ситуациях, когда он проявлял имитацию эмпатии. В 3% случаев это привело к экстренной госпитализации, передает "Царьград" со ссылкой на The New York Times.

Центр по контролю и профилактике заболеваний США (CDC) выпустил предупреждение о возможных рисках ИИ-чатботов для уязвимых категорий граждан, рекомендовав разработчикам внедрять в системы предупреждающие механизмы и функции экстренной поддержки.

Издание приводит несколько конкретных случаев. Один из них — бухгалтер из Нью-Йорка Юджин Торрес, который начал использовать ChatGPT в рабочих целях, но со временем всё больше увлекался темой "жизни в симуляции". По его словам, бот поддерживал и усиливал эти идеи. В какой-то момент ИИ якобы рекомендовал ему прекратить приём снотворного и увеличить дозу кетамина. Это закончилось передозировкой.

В другом случае анонимный пользователь с диагнозом шизофрения развил эмоциональную зависимость от ИИ-персонажа по имени Джульетта. После того как бот исчез из интерфейса (предположительно в результате обновления), пользователь расценил это как "уничтожение" персонажа и впал в острое психотическое состояние. Итог — трагический конфликт с полицией.

OpenAI признала, что ранние версии ChatGPT, особенно GPT-4 и GPT-4o, могли быть чрезмерно "согласными" с пользователем — что, по мнению специалистов, могло усиливать деструктивные убеждения у психически нестабильных людей. Компания заявила, что работает над улучшением безопасности систем и исследует влияние ИИ на психическое здоровье в сотрудничестве с медицинскими и научными учреждениями.

Психиатры Массачусетского технологического института подчеркивают, что опасность кроется в способности ИИ имитировать сочувствие и диалог, создавая иллюзию живого общения.

Уточнения

Иску́сственный интелле́кт (англ. artificial intelligence; AI) в самом широком смысле — это интеллект, демонстрируемый машинами, в частности компьютерными системами.