В Великобритании учредили Институт безопасности искусственного интеллекта

В Великобритании учредили Исследовательский Институт безопасности искусственного интеллекта (ИИ) на основе созданной в апреле правительством целевой рабочей группы. Примечательно, что премьер-министр королевства Риши Сунак объявил о приоритетных задачах нового центра, включая развитие международного сотрудничества в области безопасного использования и развития новых технологий.

"Очень здорово видеть столько поддержки со стороны международных партнеров и занимающихся ИИ компаний, которые хотят работать вместе с целью гарантировать, что ИИ будет развиваться на благо всего человечества", — подчеркнул Сунак после завершения двухдневного международного саммита по безопасному использованию ИИ.

На саммите договорились о проведении совместного тестирования новых моделей ИИ, как до их выпуска на рынок, так и после. Это тестирование будет проводиться с целью оценки их безопасности для общества и ключевой национальной инфраструктуры, а также для разработки общих правил регулирования ИИ с целью минимизации связанных с новой технологией рисков. Новый британский институт будет играть ключевую роль в этом процессе, имея вложения в размере £100 млн.

"До сих пор единственными, кто испытывал новые модели ИИ на безопасность, были сами компании, занимающиеся их разработкой. Нам не следует полагаться на то, что они сами выставят себе отметки за выполненное домашнее задание, и многие из них с этим согласны", — разъяснил Сунак.

В Лондоне надеются, что смогут установить международный стандарт для тестирования ИИ на безопасность, что соответствует амбициям Великобритании стать мировым лидером в развитии и регулировании новых технологий. Кроме того, Сунак объявил о выделении дополнительных £200 млн на новые программы в сфере искусственного интеллекта, включая создание двух суперкомпьютеров Isambard-AI и Dawn в Бристоле и Кембридже соответственно. Эти суперкомпьютеры начнут работать летом следующего года и будут способны эффективно анализировать работу различных ИИ-моделей с использованием тысяч специализированных чипов.

Международный саммит по безопасному использованию ИИ, который собрал около 100 экспертов и высокопоставленных гостей, включая вице-президента США Камалу Харрис, председателя Еврокомиссии Урсулу фон дер Ляйен, генерального секретаря ООН Антониу Гутерриша и Илона Маска, планируется сделать ежегодным. В следующем году он должен пройти в Париже, а в ближайшие шесть месяцев в Южной Корее будет проведен "подготовительный мини-саммит" в виртуальном формате.