Искусственный интеллект без тайн: что скрывает новый алгоритм

Можно ли доверять алгоритму, если никто — даже разработчик — не понимает, как он принимает решения? Сегодня это главный вызов для большинства ИИ-систем, построенных по принципу "чёрного ящика".

Но российские учёные нашли альтернативу.

Прозрачность против загадочности

Большинство современных ИИ работают по сложным схемам, где внутренние процессы недоступны для анализа. Пользователь вводит данные — получает результат, но не знает, почему именно такой. Это затрудняет адаптацию, диагностику ошибок и ставит под угрозу безопасность.

"Реализованный нами вариант символического ИИ основан на полностью прозрачных алгоритмах и имеет природу "белого ящика", — объясняет Лев Калмыков, научный сотрудник ИТЭБ РАН. — Этим он принципиально отличается от современного генеративного ИИ".

Что такое "белый ящик"

Учёные из ИТЭБ РАН и Института биофизики клетки РАН предложили подход, основанный на логических клеточных автоматах. Это математическая модель, где пространство представлено ячейками. Каждая может менять своё состояние в зависимости от соседей — и весь процесс полностью прозрачен.

На этой базе удалось создать ИИ, способный автоматически проверять научные гипотезы. В частности — в области экологии и биоразнообразия.

Почему это важно

Попытки сделать ИИ "объяснимым" предпринимались и раньше — например, в США в рамках программы XAI. Но даже тогда удалось лишь частично заглянуть внутрь алгоритмов. Российская разработка делает принципиально другой шаг — логика работы алгоритма изначально открыта и понятна.

Система уже показала свою эффективность: учёные проверили гипотезы о сосуществовании видов и решили старый парадокс биоразнообразия. Это подтверждает, что "белый" ИИ может работать не хуже "чёрного" — но без слепых зон и сюрпризов.

Потенциал гораздо шире

Исследователи уверены: на основе логических автоматов можно создать ИИ не только для экологии. Технология применима для систем общего назначения и гибридных моделей, сочетающих прозрачность и мощность.

Уточнения

Иску́сственный интелле́кт или ИИ (англ. artificial intelligence; AI) в самом широком смысле — это интеллект, демонстрируемый машинами, в частности компьютерными системами.