Компания OpenAI не выполняет обязательства по борьбе с потенциально опасным ИИ

OpenAI сталкивается с критикой из-за применения голоса Скарлетт Йоханссон в своей лингвистической модели GPT-4, обвинения также затрагивают компанию в недостаточной борьбе с опасным искусственным интеллектом.

Фото: commons.wikimedia.org by Uses of Wikidata Infobox is licensed under From Wikimedia Commons, the free media repository

Недавний доклад утверждает, что OpenAI не выполнила свои обязательства по предоставлению ресурсов для нейтрализации потенциально опасных ИИ и роспускает группу, занимавшуюся этим вопросом. В новой публикации журнала Fortune содержатся обвинения в адрес компании OpenAI, ответственной за создание ChatGPT. Согласно информации из внутренних источников, OpenAI не смогла обеспечить нужными ресурсами свою команду Superalignment, сформированную прошлым летом для борьбы с потенциально опасными технологиями искусственного интеллекта. OpenAI обязалась использовать 20% своих вычислительных возможностей для достижения поставленной цели, но команда Superalignment была распущена.

По данным отчета, руководство OpenAI регулярно игнорировало запросы команды на предоставление вычислительных мощностей и специализированных чипов, необходимых для выполнения поставленных задач. Сотрудники компании заявляют, что OpenAI так и не выделила обещанные 20% вычислительных мощностей на контроль за опасным ИИ. Эти события происходят в период разгорающихся дискуссий вокруг использования голоса, очень схожего с голосом Скарлетт Йоханссон, в лингвистической модели GPT-4, что вызвало критику со стороны актрисы.