Обама мусульманин, а кошки ходят по Луне: ИИ от Google вызвал беспокойство экспертов

Обновленная поисковая система Google вызывает беспокойство экспертов из-за интеграции искусственного интеллекта (ИИ), генерирующего ответы на запросы.

Вместо традиционного списка ссылок Google теперь предлагает мгновенные ответы, которые могут быть ошибочными. Например, на вопрос о наличии котов на Луне ИИ дал совершенно неверный ответ, что привело к распространению дезинформации в социальных сетях.

Эксперты опасаются, что новые функции могут усиливать предвзятость и представлять опасность в экстренных ситуациях. Так, ИИ ошибочно заявил, что Барак Обама был мусульманином, основываясь на неверно интерпретированной информации из книги. Google принимает меры для исправления ошибок, но проблема "галлюцинаций" ИИ продолжает оставаться, сообщает SecurityLab.

Кроме того, использование ИИ для поиска может уменьшить серендипность и взаимодействие в онлайн-форумах, что ранее способствовало развитию критического мышления. Конкуренты Google, такие как OpenAI и Perplexity AI, внимательно следят за развитием ситуации. Однако поспешный запуск новой функции Google привел к множеству ошибок.