Этот учёный предсказал будущее человечества. И оно вас ужаснет

Философ и специалист по нейронаукам Марчелло Йенка предостерегает: человечество шагнуло в эру, где информация из мозга — ключ к доминированию, а сознание — финальный рубеж влияния.

Фестиваль Al KUM! в Пезаро, Италия, с 17 по 19 октября, подчёркивает эту тему, фокусируясь на балансе между машинным умом и человеческим.

Девятое издание под лозунгом "Здоровье. Будьте бдительны" охватывает аспекты от философских до политических, с участием психоаналитика Массимо Рекалькати и мыслителя Федерико Леони в роли координаторов. Это площадка для паузы и рефлексии в вихре технологий.

Среди спикеров — Йенка, преподаватель этики ИИ и нейробиологии, а также замдиректора центра по истории медицины в Мюнхенском техническом университете. В беседе он разъясняет, почему стоит охранять как алгоритмы, так и наши нейроны.

В эпоху "мыслящих" систем Йенка, как исследователь сознания, видит крайности: одни приписывают машинам подлинный интеллект после общения с ними, другие из научных кругов называют их "случайными попугаями", копирующими процессы без сути.

Он сам, опираясь на нейробиологию, скептически относится к таким крайностям — нет надёжных тестов для распознавания машинного сознания, но и сведение генеративных моделей к банальной обработке данных упрощает картину.

По его мнению, точное определение мышления — головоломка даже для биологии. Нужен подход без догм: машины далеки от настоящего разума, но видеть в них лишь калькуляторы — узко. Полярные споры, считает он, бесплодны.

Йенка убеждён: это не фантастика, а достижимая наука, без мистики. Любая умственная активность имеет нейронный след, как и речь или воспоминания, так что корреляты сознания возможны в силиконе. В ближайшие годы, по его прогнозу, машины обретут подобие осознанности, но не копию нашей — эволюция ИИ лишена борьбы за выживание и давления среды, так что путь будет иным.

Мы в уникальный период, отмечает Йенка: впервые доступны прямые чтение и воздействие на мозг через нейроинтерфейсы — от биомедицины к повседневности. Компании вроде Neuralink Илона Маска или гиганты типа Google и Apple вкладывают миллиарды, понимая: мозговые данные — золото. Раньше предпочтения выуживали косвенно — через клики или лайки, — теперь можно копать у источника.

Пример: патент Apple на ЭЭГ-мониторинг эмоций, от релакса до фокуса. Плюс милитаризация: улучшение солдат, подавление страха на поле боя. Сценарий многогранен, и ключевой вопрос — как сохранить приватность мыслей, когда мозг перестаёт быть крепостью. Организации вроде ОЭСР, ООН и ЮНЕСКО уже предлагают рамки: от этических кодексов до обновлений конвенций.

Предотвратить превращение девайсов в орудия контроля, по словам Йенки, требует комплексных мер. Основа — права человека, включая свежие "нейроправа", уже внедрённые в законах Чили, Бразилии и Франции. Руководства ЮНЕСКО подчёркивают этичное применение. Но без информированного общества — бесполезно: 99,9% людей — пассивные "шахты" данных в феодализме технологий. Нужно цифровое просвещение для технодемократии, где инновации — не монополия элиты.

Риск отчуждения сознания реален, соглашается Йенка: мы уже сдали геолокацию смартфонам и геном секвенсорам. Мозговые метрики — вершина айсберга. Мысли — суть человечности; если их сканировать извне, теряется ли "я"? Разум — наша последняя свобода, без неё рушатся все остальные.

В гипотетическом манифесте Йенка выделил бы четыре принципа: свободу познания как абсолют; ментальную приватность для сокровенных данных — никто не должен знать мысли до их воплощения; защиту от психического вреда, вроде хакерских атак на импланты (вопрос ответственности открыт); и continuity личности, чтобы стимуляторы не перекраивали идентичность — от вкусов в музыке до убеждений.

Йенка балансирует: пессимизм оправдан в мире, где экономика усиливает неравенство, эксплуатируя массы как ресурс. Но история учит: трансформации обратимы через политику. Это вторая индустриализация — от мрачных фабрик к правам рабочих. Нейротехники дарят надежду: парализованные шагают, немые говорят. Главное — каналы для добра и барьеры от злоупотреблений.