Медицинская компьютерная программа оказалась предвзятой

Специалисты Калифорнийского университета (Беркли) провели тесты и выяснили, что специальные компьютерные программы, созданные для поиска пациентов, больше других нуждающихся в лечении, "унаследовали" от людей многие предубеждения.

В частности, алгоритмы проявляли расизм, выбирая белокожих и, что удивительно, здоровых людей вместо чернокожих. Почему так вышло?

Робот ставит диагноз: главное - эффективность

Авторы исследования "Устранение расовых предрассудков в алгоритме, используемом для управления здоровьем населения" отмечают, что изначально затея была простой: понять, по каким принципам алгоритмы отбирают сегодня пациентов для программ медицинской помощи от государства. Изначально ученые считали, что проблема в самом алгоритме, но оказалось, что системе просто не хватает данных.

В ходе оценки медицинских карт 43 539 белокожих и 6 079 темнокожих людей программа обязана была оценить их по ключевым метрикам "Риск — Результат — Итоговые затраты". Таким образом, планировалось искать тех людей, помощь которым окажется наиболее эффективной.

Сначала пациентов выбирал компьютер, затем — группа врачей. Итог оказался печальным: компьютер был склонен отбирать белокожих пациентов. Но это не желание машины уничтожить человечество, а скорее, проблема системы здравоохранения.

Дело в том, что в США чернокожее население в среднем менее здорово, а значит, имеет и худшие прогнозы успешности лечения и затрат на него. И если не учесть другие данные, система с дотошностью бухгалтера будет отбирать тех пациентов, лечить которых эффективнее всего, но с точки зрения "цифровых" показателей.

"Сам по себе алгоритм нейтрален"

"В целом алгоритмы нельзя назвать хорошими или плохими. Это вопрос того, что в них заложено при создании. И для нас главное, что проблема решаема. По крайней мере, одна компания, работающая над таким софтом, уже вносит исправления. Также мы хотели бы обратиться и ко всем остальным: пожалуйста, обновите ваши программы", — комментирует итоги проверки один из ученых, профессор Сэндхилл Мэлленатан.

"Нужно больше переменных. Как минимум стоит учесть последующие затраты на лечение, профилактические мероприятия, которые снизят их, некоторые другие факторы. По нашим подсчетам, это увеличит процент чернокожих пациентов с текущих 17,7 до 46,5. Затраты не должны являться тем, на что ориентируется алгоритм — речь идет о здоровье населения", — добавляют специалисты.

"Для компьютерных программ, как и для медицины, важно бороться с причиной, а не с последствиями", — шутит Зиад Обермейер, один из ключевых авторов работы.

Фото: downloads. healthcatalyst.com

Встройте "Правду.Ру" в свой информационный поток, если хотите получать оперативные комментарии и новости:

Подпишитесь на наш канал в Яндекс.Дзен или в Яндекс.Чат

Добавьте "Правду.Ру" в свои источники в Яндекс.Новости или News.Google

Также будем рады вам в наших сообществах во ВКонтакте, Фейсбуке, Твиттере, Одноклассниках...