ИИ упёрся в человеческую тайну: почему машины не могут повторить наш разум

Анализ концепций искусственного интеллекта (ИИ) указывает на фундаментальную невозможность создания машин с человеческим уровнем мышления из-за отсутствия у них доступа к "неявному знанию" (tacit knowledge). Исследователь Питер Деннинг утверждает, что ИИ принципиально отличается от человеческого разума, так как интуиция, культурный контекст и практические навыки не могут быть оцифрованы или запрограммированы. Это создает разрыв в понимании между человеком и машиной, что делает задачу полной синхронизации целей ИИ с человеческими ценностями практически невыполнимой.

Проблема неявного знания

В основе аргументации Деннинга лежит разделение между декларативным знанием ("знать что") и процедурным или воплощенным знанием ("знать как"). Неявное знание — это массив данных и опыта, которые человек использует в жизни, но не может полностью выразить словами или символами. Автор выделяет пять областей, которые недоступны машинному обучению: здравый смысл, повседневные социальные взаимодействия, чувства, практические навыки и культурно-исторический бэкграунд.

В качестве примера ограниченности цифрового подхода приводится проект Cyc, запущенный в 1980-х годах. В течение 40 лет исследователи наполняли базу данных фактами "здравого смысла", собрав 25 миллионов записей. Однако даже этот массив не сделал системы достаточно "умными", так как большая часть человеческого опыта не может быть представлена в виде логических утверждений.

Аналогично обстоит дело и с практическими навыками. Виртуозный музыкант может исполнить произведение, но не способен полностью описать процесс извлечения звука так, чтобы другой человек или машина в точности повторили это через инструкции. Поскольку у роботов нет биологического тела, они не могут пережить физический и эмоциональный опыт, который лежит в основе мастерства.

"Проблема заключается в том, что мы не понимаем механизмов работы неявного знания в человеческом организме. Мы знаем, что оно воплощено в биологии, но не имеем инструментов, чтобы измерить его или перенести в программный код", — отметил учёный-физик Дмитрий Лапшин.

Проблема репрезентации и контекста

Деннинг называет центральным препятствием "проблему репрезентации". Компьютеры работают только с данными, закодированными в физические формы, которые они могут обрабатывать. Неявное знание в такой формат не конвертируется. Современные большие языковые модели (LLM), такие как ChatGPT или Claude, оперируют символами (словами), но не понимают смыслов, стоящих за ними. Слова для ИИ — это статистические токены, а не отражение реальности.

Критически важным фактором является контекст. Значение фразы меняется в зависимости от того, сказана она с сарказмом, гневом или иронией. Человеческое общение опирается на бесконечную цепочку предыдущих контекстов, которые образуют своего рода фрактальную структуру. Машины, лишенные социального и биологического опыта, не могут уловить эти нюансы.

Эта таблица демонстрирует, почему простое масштабирование нейросетей не приведет к созданию полноценного общего искусственного интеллекта (AGI). Увеличение объема данных не заменяет наличие физического опыта и культурной принадлежности.

Риски "неинтеллектуальных" машин

Разрыв между человеческим и машинным мышлением создает серьезные угрозы безопасности. Если ИИ не понимает неявный контекст человеческих инструкций, его поведение невозможно надежно синхронизировать с человеческими целями. Деннинг предупреждает, что главной опасностью является не "сверхразум", который захватит мир, а сеть менее интеллектуальных, но мощных автоматизированных систем.

Такие системы могут действовать непредсказуемо и вредоносно, поскольку их логика решения задач "чужеродна" человеку. В условиях, когда машины начинают управлять критически важными процессами, отсутствие общего смыслового поля между оператором-человеком и исполнителем-машиной может привести к системным катастрофам.

Автор делает вывод, что человечество должно отказаться от попыток "думать как машины" и признать свою уникальность. Основным вызовом станет поиск способа безопасного сосуществования с системами, которые обладают мощью вычислений, но полностью лишены человеческого понимания мира.