Люди не смогут сдерживать сверхразумный компьютер - исследование

Люди не смогут полноценно управлять работой сверхразумных компьютеров, обладающих искусственным интеллектом.

Алгоритмы, приближенные к искусственному интеллекту, уже сегодня вызывают опасения.

"Сверхразумные компьютеры воспринимаются сегодня как что-то фантастическое, но в мире уже есть системы, которые выполняют те или иные задачи в полностью автономном режиме, и их создатели не всегда понимают, как именно они этому научились. Если развитие таких систем продолжится, то в какой-то момент они могут начать представлять реальную опасность для людей", — говорит Мануэль Себриан, глава группы цифровой мобилизации в Центре людей и машин Института развития человека Макса Планка.

В существующей парадигме вычислений невозможно создать теоретические ограничивающие алгоритмы, с помощью которых можно сдерживать сверхразумный искусственный интеллект. Поэтому нет гарантий, что ИИ не навредит человечеству.