Видеогенератор Openai Sora создает впечатляющие фильмы, но, к сожалению, он дублирует социальные предрассудки

Опели создал инновационный инструмент для создания фильмов, который уже привлекает большое внимание средств массовой информации и технологического сообщества. Однако наряду с его впечатляющими возможностями возникают важные вопросы об ответственности, а также о влиянии искусственного интеллекта на социальное восприятие различных групп людей. Мы смотрим на противоречие вокруг новой технологии, а также обсуждаем планы реакции OpenAI и планы компании на будущее.
Мы знаем, что Сора все еще может отражать вредные стереотипы. Мы усердно работаем, чтобы ограничить их — признает Опели.
Сора из Openai теперь доступна. Видеогенератор для каждого пользователя — если он платит за подписку
Опели недавно представила новую технологию под названием Sora, способная генерировать реалистичные видео материалы на основе краткосрочных текстовых описаний. Хотя решение впечатляет с техническими возможностями, внимание было быстро замечено. Оказалось, что созданные фильмы часто отражают негативные социальные, разведывающие социальные стереотипы, а также людей с ограниченными возможностями. Анализ нескольких сотен сгенерированных пленок показал, что инструмент Openai объединяет традиционные стереотипы. Соревнования социально рассматриваются как престижные, такие как пилот, генеральный директор или профессор, обычно были представлены мужчинами. В свою очередь, женщины чаще появлялись в качестве бортпроводников, администраторов или няни. Люди с ограниченными возможностями были представлены в основном в качестве использования инвалидных колясок, и люди с большим весом редко показывались в движении.
Новый генератор фильмов 4K от Google может быть лучше, чем Sora, чем Openai. Компания также улучшила модель изображения Imagen 3
Компания знает о недостатках своей технологии и открыто признает, что инструмент может укрепить вредные предрассудки. Согласно документации, опубликованной Openai («Карта»), проблема вытекает из ограниченного разнообразия учебных данных, которые использовались для обучения алгоритму. Опели заявляет, что он проводит интенсивную работу по увеличению разнообразия наборов данных и улучшении систем контроля качества, чтобы минимизировать риск увековечивания негативных стереотипов со стороны SORA. Споры вокруг нового инструмента показывают, насколько важен подход к разработке ИИ. Хотя OpenAI обещает восстановить ошибки, этот вопрос привлекает внимание к необходимости быть осторожным при внедрении таких технологий в более широком масштабе. В ближайшем будущем следует ожидать, что обновления будут ограничивать возникновение стереотипов, а также увеличить социально положительный потенциал видео генератора SORA.
Источник: Wired