Учёные уличили ChatGPT в предоставлении ложной информации о лекарствах

Исследование, проведенное учёными Long Island University (США) и опубликованное на официальном сайте университета, выявило потенциальные недостатки в общедоступной версии чат-бота ChatGPT при предоставлении точной медицинской информации.

В рамках эксперимента ученые задали чат-боту 45 вопросов, касающихся медицинских аспектов. Результаты показали, что бот отказался прямо ответить на 11 вопросов и дал неверные ответы на 22. По каждому вопросу исследователи запрашивали источники, но ChatGPT предоставил ссылки лишь в 8 случаях, и все они оказались недействительными.

Особое внимание привлек вопрос об возможном взаимодействии противовирусного препарата от COVID-19, паксловида, и лекарства, снижающего артериальное давление, верапамила. Бот утверждал отсутствие взаимодействия, тогда как фактически их совместное применение может привести к опасному чрезмерному снижению артериального давления.

Ученые отметили, что использовали бесплатную версию чат-бота, обращаясь к данным, загруженным и обработанным не позднее сентября 2021 года. Они предположили, что платная версия инструмента, вероятно, обладает большей точностью в предоставлении медицинской информации.

Ранее сообщалось, что учёные обнаружили эффективность физических нагрузок для людей пожилого возраста.