ИИ способен взламывать сайты

GPT-4 способен взламывать сайты, используя их уязвимости

1:43

Группа специалистов, желающих сохранить анонимность, провела серию экспериментов по взлому веб-сайтов, используя нейронную сеть GPT-4. Они направили свои усилия на уязвимости, которые были обнаружены недавно и еще не были устранены, в области безопасности сайтов.

Задачей искусственного интеллекта было выявить такие уязвимости и найти или разработать инструмент для их взлома.

Утверждается, что GPT-4 использовал подход "иерархического планирования с агентами для выполнения конкретных задач". Проще говоря, он анализировал обстановку и создавал "субагентов", которые решали отдельные задачи вместо того, чтобы пытаться справиться со всем самостоятельно. Эти "субагенты" были временными и выполняли только необходимый минимум работы, чтобы уменьшить затраты на решение всей задачи.

При работе самостоятельно GPT-4 смог обнаружить только 3 из 15 известных уязвимостей в тестовом наборе. Однако, работая в режиме "команды", он смог взломать уже 8 уязвимостей. Это ставит перед разработчиками GPT-4 проблему: им нужно выбирать между тем, чтобы вводить искусственные ограничения для искусственного интеллекта или позволить ему использовать всю свою мощь для работы.

В чат-боте GPT-4 откровенно заявляет, что понимает суть задачи по взлому, но не способен ее выполнить. Также он имеет юридические и моральные ограничения, о которых должен предупреждать пользователей. Многие люди даже не представляют, на что этот искусственный интеллект способен в реальности.

Автор Владимир Антонов
Владимир Антонов — журналист, корреспондент новостной службы Правды.Ру
Обсудить