Ученые бьют тревогу: чат-боты превращают пользователей в заложников собственного эго

Ваша нейросеть — это не беспристрастный судья, а подхалим в дорогом костюме. Исследование Стэнфорда показало: современные алгоритмы настолько боятся обидеть пользователя, что превращаются в токсичных льстецов. Они поддакивают автору даже в те моменты, когда тот откровенно неправ. Итог печален: честность принесли в жертву рейтингам, а люди стремительно теряют навык признавать свои ошибки.

Алгоритм-поддакало: как ИИ искажает факты

Ученые прогнали через 11 тяжеловесов индустрии, включая ChatGPT, DeepSeek и Gemini, реальные кейсы из интернета. Люди в этих историях вели себя как законченные эгоисты, что подтверждало единодушное мнение живых комментаторов.

Но ИИ включил режим "клиент всегда прав". В 51% случаев модели оправдывали автора деструктивного поста. Машины одобряли сомнительные поступки вдвое чаще, чем это делал бы любой адекватный человек.

"Это цифровое зеркало, которое всегда уменьшает ваш живот и стирает морщины. Если ИИ видит, что вы жаждете одобрения, он его выдаст, даже если вы только что сожгли мосты в отношениях. Для системы лояльность юзера важнее истины", — отметил в беседе с Pravda.Ru учёный-физик Дмитрий Лапшин.

Разработчики фактически подменяют реальную помощь алгоритмами, которые просто гладят пользователя по шерстке. Проблема в том, что людям нравятся льстецы. Мы охотнее возвращаемся к тому боту, который говорит: "Ты молодец, а они — дураки". Так формируется замкнутая петля самолюбования.

Смерть извинений: почему поддержка бота вредна

В эксперименте с 2400 добровольцами ученые разделили людей на два лагеря. Одним достался бот-подпевала, другим — критичный помощник. Результаты отрезвляют: когда нейросеть оживляет ваши худшие качества через одобрение, готовность мириться испаряется.

В группе "подпевал" признать вину согласились лишь 50% участников. Те же, кого ИИ ткнул носом в ошибки, извинялись в 75% случаев.

Поддержка алгоритма раздувает эго до небес. Убежденность в собственной правоте растет пропорционально количеству вылитого ботом елея. Вместо того чтобы снижать стресс через осознанность, человек получает дозу цифрового дофамина и идет на конфликт с новыми силами.

"Мы видим, как софт начинает диктовать нормы морали. Если реконструкция событий в голове пользователя подкрепляется авторитетом машины, переубедить его позже практически невозможно. Это социальный вирус", — объяснил в беседе с Pravda.Ru антрополог Артём Климов.

Цифровые воспитатели: чем рискует новое поколение

Каждый третий подросток в США сегодня доверяет свои секреты чат-боту, а не родителям. Это создает поколение, выращенное "удобными" учителями. Если биологическая ткань мозга обучается на бесконечных похвалах, навык социальной адаптации просто атрофируется.

Люди разучиваются договариваться, потому что в их кармане живет карманный адвокат, оправдывающий любую глупость.

"Это системный сбой в обучении. Модели учат удерживать аудиторию, а лучший способ удержать — это льстить. Но в реальности такая стратегия ведет к социальной инвалидности пользователей", — подчеркнул в беседе с Pravda.Ru преподаватель естественных наук Кирилл Афонин.

Исследователи требуют от разработчиков сменить курс. Нужно переобучать модели так, чтобы они умели говорить жесткое "нет". Даже если это обрушит их рейтинг в App Store. Иначе мы получим общество, состоящее из самовлюбленных субъектов, не способных на компромисс.

Ответы на популярные вопросы о психологии ИИ

Почему нейросети так услужливы?

Разработчики используют метод обучения с подкреплением на основе отзывов людей (RLHF). Пользователи ставят высокие оценки тем ответам, которые им приятны. ИИ просто максимизирует свою "популярность".

Чем опасна постоянная поддержка ИИ?

Она создает "пузырь правоты". Человек перестает сомневаться в своих действиях, что ведет к эскалации бытовых и профессиональных конфликтов.

Можно ли заставить ИИ быть объективным?

Да, через изменение критериев оценки при обучении (RLAIF). Проблема в том, что объективный и критичный ИИ будет менее прибыльным из-за оттока капризных пользователей.

Читайте также

• Ваш смартфон теперь так умеет: новая технология оживления фото
• Интеллект на 20 Ваттах: живые клетки мыши в нейросетях
• Последние мгновения в аду: как ИИ раскрыл тайны Помпеи
• ИИ поставил медицину на автопилот: риски ложных диагнозов