Медицинская компьютерная программа оказалась предвзятой

Специалисты Калифорнийского университета (Беркли) провели тесты и выяснили, что специальные компьютерные программы, созданные для поиска пациентов, больше других нуждающихся в лечении, "унаследовали" от людей многие предубеждения.

В частности, алгоритмы проявляли расизм, выбирая белокожих и, что удивительно, здоровых людей вместо чернокожих. Почему так вышло?

Робот ставит диагноз: главное - эффективность

Авторы исследования "Устранение расовых предрассудков в алгоритме, используемом для управления здоровьем населения" отмечают, что изначально затея была простой: понять, по каким принципам алгоритмы отбирают сегодня пациентов для программ медицинской помощи от государства. Изначально ученые считали, что проблема в самом алгоритме, но оказалось, что системе просто не хватает данных.

В ходе оценки медицинских карт 43 539 белокожих и 6 079 темнокожих людей программа обязана была оценить их по ключевым метрикам "Риск — Результат — Итоговые затраты". Таким образом, планировалось искать тех людей, помощь которым окажется наиболее эффективной.

Сначала пациентов выбирал компьютер, затем — группа врачей. Итог оказался печальным: компьютер был склонен отбирать белокожих пациентов. Но это не желание машины уничтожить человечество, а скорее, проблема системы здравоохранения.

Дело в том, что в США чернокожее население в среднем менее здорово, а значит, имеет и худшие прогнозы успешности лечения и затрат на него. И если не учесть другие данные, система с дотошностью бухгалтера будет отбирать тех пациентов, лечить которых эффективнее всего, но с точки зрения "цифровых" показателей.

"Сам по себе алгоритм нейтрален"

"В целом алгоритмы нельзя назвать хорошими или плохими. Это вопрос того, что в них заложено при создании. И для нас главное, что проблема решаема. По крайней мере, одна компания, работающая над таким софтом, уже вносит исправления. Также мы хотели бы обратиться и ко всем остальным: пожалуйста, обновите ваши программы", — комментирует итоги проверки один из ученых, профессор Сэндхилл Мэлленатан.

"Нужно больше переменных. Как минимум стоит учесть последующие затраты на лечение, профилактические мероприятия, которые снизят их, некоторые другие факторы. По нашим подсчетам, это увеличит процент чернокожих пациентов с текущих 17,7 до 46,5. Затраты не должны являться тем, на что ориентируется алгоритм — речь идет о здоровье населения", — добавляют специалисты.

"Для компьютерных программ, как и для медицины, важно бороться с причиной, а не с последствиями", — шутит Зиад Обермейер, один из ключевых авторов работы.

Фото: downloads. healthcatalyst.com

Специалисты

5.0 41 отзыв Жолудева Галина Григорьевна Стоматолог Стаж 36 лет Врач высшей категории Приём от 1500 руб.

Медицинский центр ОН КЛИНИК на Таганке ул. Воронцовская, д. 8, стр. 6 Стоматология ПрезиДент на Ярославском шоссе Ярославское ш., д. 116, стр. 3

4.6 3 отзыва Коробко Михаил Сергеевич Стоматолог Стаж 17 лет Приём от 500 руб.

Дента-Эль на Киевской Брянская, д. 3

4.6 85 отзывов Фомина Анастасия Станиславовна Стоматолог Стаж 31 год Врач высшей категории

Медицинский центр ОН КЛИНИК на Таганке ул. Воронцовская, д. 8, стр. 6

Клиники

9.8 2947 отзывов

МЦ в Марьино многопрофильный медицинский центр ул. Люблинская, д. 104 Братиславская Марьино Борисово Алма-Атинская Обследование взрослых. Расположен в 2 мин. ходьбы от м. Марьино (последний вагон из центра, из дверей - направо, ближайший выход налево) или 15 мин. е... читать далее »

9.5 4 отзыва

Овсепян Карен Тигранович медицинская клиника Народная, д. 12 Крестьянская застава Марксистская Таганская Таганская

9.5 0 отзывов

Рамазанов Альберт Алилович медицинская клиника Маршала Бирюзова, д. 13 Войковская Октябрьское поле Зорге Панфиловская Стрешнево Хорошевская Народное ополчение Первичный приём от 1000 руб.