Исследование открывает глаза: неправильные оценки людей могут привести к ошибкам в работе ИИ

В последнее время алгоритмы машинного обучения и большие языковые модели стали отлично справляться с множеством задач, таких как обработка текста, изображений, музыки и даже в робототехнике.

Искусственный интеллект обучается на информации, которую люди предварительно помечают, добавляя эмоции к текстам, изображениям, аудио и видео, пишет "Царьград".

Однако исследования показывают, что люди иногда неправильно определяют эмоции в текстах. Сара Райтмайер отметила, что, полагаясь на эти неверные оценки, ИИ может делать ошибки, что может привести к нежелательным последствиям.

Аспирант Цзяи Ли занимался распознаванием эмоций в текстах и выяснил, что многие нейросети используют текстовые сообщения. Его исследование показало, что люди часто неправильно понимают эмоции других, что может негативно сказаться на работе моделей ИИ.

Уточнения

Иску́сственный интелле́кт (англ. artificial intelligence; AI) в самом широком смысле — это интеллект, демонстрируемый машинами, в частности компьютерными системами.