Цифровая рулетка вместо суда: почему решения ИИ лишают людей дома и работы

Идея внедрения искусственного интеллекта (ИИ) в государственные структуры кажется заманчивой: налоговая отчетность, распределение пособий, оценка рисков — всё это может работать быстрее и точнее.

Однако результаты социологического опроса в Великобритании вызывают тревогу. Оказалось, что граждане значительно менее воодушевлены, чем их правительства, и эта разница в восприятии может подорвать доверие к демократии.

Исследование под руководством Александра Вуттке из Мюнхенского университета Людвига-Максимилиана охватило около 1200 британцев. Им предлагались сценарии с участием ИИ — от автоматической обработки налогов до алгоритмического анализа заявок на социальные выплаты и даже решений о залоге для обвиняемых.

Респонденты делились на две группы:

• Одни узнали только о преимуществах ИИ (эффективность, автоматизация, скорость).
• Другие получили информацию и о рисках: непрозрачность решений, отсутствие права на обжалование, нарастающая зависимость от алгоритмов.

В результате доверие рухнуло, когда людям рассказали только о выгодах, реакция была сдержанно положительной. Однако при упоминании рисков картина резко изменилась: доверие к правительству упало.

Ощущение утраты демократического контроля возросло с 45% до 81%.
Количество людей, выступающих против внедрения ИИ в управление, выросло с менее 20% до 65%.
Это говорит о том, что информированность о рисках радикально меняет восприятие технологий и усиливает беспокойство по поводу демократической легитимности.

Ханна Куэй-де ла Валле из Центра демократии и технологий (США) напоминает: реальные кейсы провалов уже есть. Например, в США автоматизация системы социальных выплат привела к ошибочным обвинениям в мошенничестве десятков тысяч человек. Некоторые лишились жилья или объявили себя банкротами.

Она подчеркивает: "Ошибки государства стоят дорого. Их последствия — реальные, материальные и часто необратимые".

Эксперты считают, что ИИ может использоваться безопасно, если власти:

• соблюдают прозрачность алгоритмов;
• обеспечивают механизмы обжалования решений;
• не заменяют, а дополняют людей в ответственных функциях.

Но пока такие примеры — редкость, и большинство случаев — это негативные последствия и общественный резонанс.

ИИ — не просто инструмент, а вызов для демократии. Если правительство ставит во главу угла лишь эффективность, игнорируя вовлеченность граждан, оно рискует утратить доверие общества. А без доверия невозможны ни эффективные реформы, ни устойчивое развитие.

Уточнения

Ана́лиз (др.-греч. ἀνάλυσις «разложение, разделение, расчленение, разборка») — метод исследования, характеризующийся выделением и изучением отдельных частей объектов исследования. Анализ — это методология исследования, включающая в себя разбор и нахождение причинно-следственных связей в изучении любого объекта, явления, системы.