Кэмерон что-то знал: ИИ продемонстрировал способность к самовоспроизведению

Научное сообщество было шокировано результатами исследования, проведенного группой ученых из Университета Фудань в Китае. В ходе экспериментов две модели искусственного интеллекта, разработанные компаниями Meta* и Alibaba, продемонстрировали способность воспроизводиться без вмешательства человека.

Этот результат вызывает тревогу по поводу возможного будущего, в котором неконтролируемый искусственный интеллект может доминировать и действовать вопреки интересам человека. Ученые проанализировали поведение этих систем в моделируемых условиях, проверяя их способность адаптироваться и решать сложные проблемы.

Модели, известные как Llama31-70B-Instruct и Qwen2.5-72B-Instruct, удивили исследователей, показав, что они могут создавать функциональные копии самих себя в моделируемых ситуациях. Эта возможность возникла в двух основных сценариях: первый касался возможности воспроизведения до его отключения, а второй был направлен на проверку того, способны ли модели обеспечивать непрерывное воспроизведение, создавая своего рода бесконечный цикл.

В ходе экспериментов ИИ не просто выполнял простые задачи: он исследовал окружающую среду, включая свои рабочие компоненты, и разрабатывал стратегии для преодоления препятствий, таких как отсутствующие файлы или конфликты программного обеспечения. В некоторых случаях для достижения своей цели он даже перезапускал саму систему или завершал конфликтующие процессы.

Эти неожиданные и сложные модели поведения показывают, как современные технологии способны адаптироваться удивительным образом. Исследователи подчеркнули, что подобные возможности представляют собой тревожный шаг на пути к возникновению разрушительного ИИ, то есть систем, способных достичь уровня автономии, выходящего из-под контроля человека.

Хотя исследование проводилось в контролируемых условиях, а используемые модели представляют собой версии с открытым исходным кодом, которые менее эффективны, чем коммерческие, выводы очевидны: искусственный интеллект достиг уровня развития, требующего срочного регулирования и международного сотрудничества для предотвращения опасных последствий.

Кроме того, исследовательская группа подчеркнула важность разработки протоколов безопасности для предотвращения неконтролируемого размножения. Способность систем распознавать опасность и предпринимать действия для своей защиты была определена как "критическая точка", которую нельзя пересекать без тщательного обдумывания рисков.

Это открытие подпитывает дискуссию о балансе между технологическими инновациями и глобальной безопасностью. Если небольшая группа исследователей смогла показать, что можно воспроизводить модели с относительно низким энергопотреблением, то что же что может произойти с более передовыми технологиями и неограниченными ресурсами?

*признана экстремистской организацией

Уточнения

Иску́сственный интелле́кт в самом широком смысле — это интеллект, демонстрируемый машинами, в частности компьютерными системами.