Amazon запретил полиции использовать технологию распознавания лиц

Технологический гигант Amazon запретил полиции использовать программы, которые помогают распознать лицо преступника и быстро найти его "профиль" в базе данных, как минимум до конца 2020 года. Это произошло вскоре после того, как различные правозащитные организации выразили обеспокоенность по поводу "возможных признаков расизма" в технологии.

Вместе с Amazon свою позицию высказали и в IBM: представители IT-гиганта отметили, что прекратят поставлять ПО для распознавания лиц для "массового наблюдения или расового профилирования".

В чем же сложность — и почему существующая достаточно давно технология вдруг оказалась "запретной"?

Amazon уходит на год. Хватит ли времени?

Как и другие программы для распознавания лиц, Amazon Rekognition может использовать искусственный интеллект (AI), чтобы быстро сравнить изображение, например, с камеры телефона офицера, и попытаться сопоставить его с фотографиями, которые хранятся в базах полиции.

Технология в целом неоднократно подвергалась критике за потенциальную предвзятость, и исследования показали: у алгоритмов действительно проблемы. Исследователи отметили: шанс ошибки при поиске по базе афроамериканца намного выше, чем белого.

Решения о запрете следуют за растущим давлением на фирмы, которое в первую очередь связано со смертью во время задержания афроамериканца Джорджа Флойда.

Представители Amazon заявили, что приостановление использования правоохранительными органами программного обеспечения Rekognition должно дать законодателям США возможность принять поправки, регулирующее использование этой технологии.

"Мы хотим, чтобы правительство плотно занялось пакетом поправок, которые урегулировали бы этический вопрос технологии распознавания лиц. И Конгресс, похоже, готов пойти нам навстречу", — отмечается в заявлении Amazon.

"Мы надеемся, что однолетний мораторий даст политикам достаточно времени для внедрения соответствующих поправок, и мы готовы помочь, если потребуется", — добавили в компании.

IBM: нужно работать совместно с правительством

Ранее ограничить использование технологии распознавания лиц решили и в другом гиганте — IBM.

Представители компании сообщили прессе, что "…IBM больше не будет предлагать свою технологию распознавания лиц стражам порядка, потому что системы искусственного интеллекта, используемые в правоохранительных органах, должны тестироваться "на предвзятость"".

Исполнительный директор IBM Арвинд Кришна написал открытое письмо представитям Конгресса, в котором указал, что "…борьба с расизмом актуальна как никогда", и назвал три области, в которых компания хотела бы поработать с политиками:

• реформа полиции;

• ответственное использование технологий;

• образовательные возможности.

Помогут ли новые поправки?

Представители демократической партии Штатов уже внесли предложения о поправках в законы, которые запретят федеральным правоохранительным органам использовать распознавание лиц в режиме реального времени. Однако такая мера многим показалась избыточной: по словам политиков, достаточно просто снизить финансирование, чтобы технологию не применяли по поводу и без.

С этим согласны в Союзе гражданских свобод: представитель организации отметил, что "…федеральное финансирование должно быть ограничено по крайней мере для местных правоохранительных органов".

Технология распознавания лиц — достаточно "щекотливая", и регулирование ее применения на фоне протестов и очередной волны "корректности", скорее всего, не приведет ни к чему хорошему.

Властям стоит немного выждать, а затем уже начинать что-то менять: иначе есть риск поддаться настроениям общественности и "закрутить гайки" до упора. Тем более что технология сама по себе не хороша и не плоха: эти критерии можно применить лишь к использующим ее людям.

Фото: windowssearch-exp.com