Запрет на дипфейки и слежку: как Казахстан планирует контролировать ИИ

В Казахстане разрабатывается первый закон, регулирующий использование искусственного интеллекта. Мажилис одобрил его в первом чтении.

Документ вводит чёткие запреты на опасные ИИ-практики и создаёт основы для развития технологии под государственным контролем, сообщает Finratings.

Как пояснила депутат Екатерина Смышляева, ИИ — это не только мощный инструмент, но и источник серьёзных рисков, особенно в условиях отсутствия регулирования. Новый закон призван устранить этот пробел.

Ключевым элементом станет Национальная платформа ИИ — технологическая база с доступом к библиотекам, данным и сервисам для обучения моделей. Закон также предусматривает финансирование науки, образовательные программы и международное сотрудничество, чтобы Казахстан мог занять прочные позиции на рынке высоких технологий.

ИИ-системы будут классифицированы по уровням риска. Высокорисковые решения приравняют к объектам критической ИКТ-инфраструктуры. Полностью автономные ИИ, как наименее предсказуемые, будут запрещены.

Закон прямо запрещает ИИ, который:

•  влияет на поведение людей без их согласия;
•  эксплуатирует уязвимости (по возрасту, здоровью, соцположению);
•  занимается социальным скорингом (если это не разрешено напрямую);
•  анализирует эмоции без разрешения;
•  распознаёт лица в реальном времени в общественных местах (за исключением отдельных случаев);
• создаёт и распространяет незаконный контент, включая дипфейки.

Нарушителям грозят штрафы от 15 до 100 МРП. За вред, причинённый ИИ, будут отвечать владельцы и операторы систем. Вводится возможность добровольного страхования ответственности.

Законопроект будет доработан ко второму чтению.

Уточнения

Ры́нок — совокупность процессов и процедур, обеспечивающих обмен отдельными товарами и услугами между покупателями (потребителями) и продавцами (поставщиками).