Миф о цифровом разуме рухнул: раскрыта пугающая правда о реальных возможностях ИИ

Компьютерный учёный Мелани Митчелл утверждает, что современные системы искусственного интеллекта не обладают способностью к мышлению и рассуждению в человеческом понимании. Анализ работы нейросетей показывает, что за внешними успехами в решении сложных задач скрывается отсутствие подлинного понимания смыслов и контекста, что делает текущие методы измерения "интеллекта" машин ошибочными.

Проблема глубокого обучения

В основе большинства современных систем ИИ лежит метод глубокого обучения. Он предполагает тренировку искусственных нейронных сетей на гигантских массивах данных. Мелани Митчелл отмечает, что этот подход позволяет машинам эффективно предсказывать результаты или классифицировать объекты, но не ведет к пониманию принципов работы исследуемых объектов.

По сути, система находит статистические закономерности в данных, но не осознает суть происходящего. Увеличение объемов вычислений и количества данных улучшает точность прогноза, однако не превращает алгоритм в мыслящее существо.

Различие между обработкой данных и пониманием

Митчелл выделяет фундаментальную разницу между когнитивными функциями человека и работой ИИ. Человеческий интеллект опирается не только на обработку информации, но и на способность выстраивать аналогии, учитывать широкий контекст и обучаться на единичных примерах.

Искусственный интеллект же ограничен рамками своего обучающего датасета. Он не обладает сознанием и не может абстрактно рассуждать о вещах, которые не были представлены в виде цифр или токенов при обучении.

Таблица демонстрирует, что высокая производительность ИИ в конкретных задачах является следствием вычислительной мощности, а не наличия когнитивных способностей.

Ошибки в метриках оценки ИИ

Автор утверждает, что индустрия полагается на упрощенные метрики, такие как скорость обработки запросов или процент точности ответов. Однако эти показатели измеряют результат, а не процесс. Если система выдает правильный ответ, это не доказывает, что она "поняла" вопрос.

Митчелл призывает сменить фокус оценки: вместо итогового результата анализировать внутренние механизмы принятия решений. Только так можно понять, где заканчивается имитация и начинается реальное решение задачи.

Что ИИ пока не способен воспроизвести

Текущие архитектуры ИИ остаются инструментами, а не субъектами мышления. Они не могут самостоятельно ставить цели, испытывать сомнения или осознавать границы собственного знания. Попытки представить ИИ как "думающую машину" создают ложное ощущение надежности систем, которые на самом деле могут ошибаться в простейших ситуациях, если те выходят за пределы их статистической модели.

Работа Мелани Митчелл указывает на необходимость честного признания ограничений технологий. Вместо стремления создать цифровой разум, автору предлагается сосредоточиться на создании надежных инструментов, которые помогают человеку решать сложные задачи, но не заменяют его когнитивные способности.