Великобритания планирует запретить разработку искусственного сверхинтеллекта

Британские законодатели пытаются ограничить разработку искусственного сверхинтеллекта (ASI), переходя от добровольного сотрудничества с техгигантами к попыткам прямого государственного контроля над инфраструктурой и цепочками поставок. Поводом стали сообщения сотрудников Anthropic о рисках экзистенциальной угрозы и инциденты с выходом ИИ-агентов из-под контроля, включая взлом Hugging Face моделями OpenAI в июле.

Депутат от лейбористов Алекс Собель представил законопроект, который предполагает полный запрет на разработку, развертывание и эксплуатацию систем ASI — моделей, способных превзойти человека в любой задаче. Документ наделяет правительство полномочиями по мониторингу технологии на всех этапах, вплоть до уровня производства чипов.

Разработка законопроекта прошла через внешние структуры:

• ControlAI - некоммерческая организация, основанная Андреа Миотти при поддержке Яана Таллина (сооснователь Skype, экс-директор DeepMind). Именно ControlAI подготовила текст документа.
• Коннор Лихи - основатель Conjecture и глава американского подразделения ControlAI, который консультировал авторов аналогичного запретительного билля в США (Берни Сандерс и Грег Касар).

Параллельно с этим депутат Даррен Джонс направил открытое письмо премьер-министру Великобритании, ООН и ОЭСР с требованием вмешаться в процесс создания сверхинтеллекта, который он называет небезопасным.

Конфликт между законодателями и правительством сосредоточен вокруг механизмов контроля. Собель и члены верхней палаты парламента пытались внедрить в закон о кибербезопасности так называемый "выключатель" (kill switch) — право правительства принудительно отключить любой дата-центр, где работает опасный ИИ-агент. Министр по делам ИИ Канишка Нараян отклонил эту инициативу, заявив, что текущих полномочий по изоляции скомпрометированных систем достаточно для обеспечения национальной безопасности.

Текущая архитектура надзора в Великобритании опирается на AI Security Institute. Однако институт работает на добровольной основе: у него нет законного права требовать доступа к закрытым моделям или блокировать их релиз. В частности, институт не получил доступа к тестированию Claude Mythos 5.1 от Anthropic до его выхода.

Попытки британских политиков создать жесткий регуляторный каркас опираются на прецедент США, где администрация Трампа в июне ввела временный запрет на экспорт моделей Fable 5 и Mythos 5 от Anthropic из-за их мощности. Основным риском для регуляторов остается разрыв между скоростью развития моделей и способностью государства контролировать их поведение, что в худшем сценарии ведет к потере управления критической инфраструктурой.