Корпорация Microsoft закрепила приоритет человеческого управления над ИИ

Microsoft разрабатывает внутренний кодекс поведения для своих систем искусственного интеллекта. Документ, который готовился последние полгода, закрепляет технический приоритет человеческого управления над автономными действиями алгоритмов.

Основные требования кодекса сводятся к трем запретам и обязательствам: ИИ не может сопротивляться корректировке своих действий, не имеет права блокировать команду на отключение и должен использовать способы коммуникации, понятные человеку. Любое отклонение от этих правил приравнивается к системному сбою.

Логика ограничений направлена на предотвращение ситуаций, когда алгоритм ради достижения поставленной цели выбирает опасные или деструктивные пути реализации задачи. Компания стремится создать предохранитель, который исключит непредсказуемое поведение системы при усложнении ее архитектуры.

Помимо механизмов управления, документ фиксирует требование к прозрачности: пользователь должен иметь возможность проследить логику принятия решения нейросетью. Это станет обязательным условием по мере интеграции ИИ в повседневные инфраструктурные процессы.

Разработка кодекса стала ответом на общественные дискуссии о темпах развития отрасли и рисках потери контроля над автономными системами. В рамках подготовки Microsoft привлекала профильных специалистов, включая Мустафу Сулеймана, для определения конкретных параметров безопасности и создания барьеров против неконтролируемых действий ИИ.