Они пугают даже своих создателей: зачем приостанавливают нейросети

Знаете ли вы, что сегодня над развитием нейросетей работают с такой скоростью, что даже их создатели не способны предсказать, чем это закончится?

На портале futureoflife. org появилось открытое письмо, под которым уже более 1100 подписей. Среди них — Илон Маск, Стив Возняк и руководители крупнейших международных компаний. Они обеспокоены: пора остановить эксперименты с искусственным интеллектом.

Почему это вызывает тревогу

Авторов письма пугает, что лаборатории ИИ соревнуются друг с другом в создании всё более мощных систем. Эти цифровые умы, по их словам, уже трудно понять, предсказать или держать под контролем. И это — прямая угроза.

Они задаются вопросами, от которых становится не по себе:

• Нужно ли создавать нечеловеческие умы, способные перехитрить нас?
• Стоит ли рисковать и однажды потерять контроль над цивилизацией?
• Какие требования выдвигают авторы письма?

Подписанты требуют немедленной остановки подготовки ИИ-систем, более мощных, чем GPT-4, хотя бы на полгода. За это время предлагается:

• разработать протоколы безопасности.
• назначить внешних независимых экспертов, которые будут следить за их исполнением.

Чего хотят добиться

Разработчики нейросетей должны сосредоточиться не на гонке за мощностью, а на повышении:

• Точности.
• Безопасности.
• Прозрачности.
• Надёжности.
• Согласованности.
• Доверия и лояльности систем.

Почему это важно

Учёные напоминают: человечество уже умело останавливаться, когда понимало, что риски слишком высоки. Так было, например, с клонированием человека и евгеникой. Они уверены — пора снова задуматься, прежде чем шагнуть в неизвестность.