OpenAI周一推出了视频生成工具Sora。但在进一步测试之前，该公司选择不向大多数用户发布一项关键功能。该功能以上传的照片或真人镜头为参照物生成视频。OpenAI表示，它将让"一部分"Sora用户使用该功能，但在有机会对其"安全方法"进行微调之前，它不会广泛推出该功能。
"使用上传的真人照片或视频作为'种子'生成视频的功能是潜在滥用的一个载体，我们正在采取一种特别渐进的方法来学习早期的使用模式，"OpenAI在博文中写道。"艺术家们的早期反馈表明，这是一个他们非常重视的强大创意工具，但考虑到滥用的可能性，我们最初并没有向所有用户开放。"
生成视频是一个强大的工具，也是一个有争议的工具。当然，深度伪造和错误信息同样令人担忧。根据ID验证服务Sumsub的数据，从2022年到2023年，全球的深度伪造欺诈增加了10倍以上。
OpenAI表示，为防止滥用，Sora还采取了其他措施，其中包括一个过滤器，用于检测生成的视频是否描绘了未满18岁的人。如果有，OpenAI就会采用"更严格的门槛"来审核与性、暴力或自残有关的内容。
所有Sora生成的视频都包含元数据以显示其出处，特别是遵守C2PA技术标准的元数据。当然，这些元数据可以删除。但是，OpenAI将其作为支持C2PA的平台快速检测视频是否来自Sora的一种方式。
为了抵御版权投诉，OpenAI还表示，它正在使用"及时重写"技术，防止Sora以在世创作者的风格生成视频。
该公司写道："我们增加了提示重写功能，旨在当用户尝试以在世艺术家的风格生成视频时触发。随着我们对创意社区如何使用Sora有了更多的了解，我们选择对这一版本的Sora采取保守的做法......在创意领域，借鉴其他艺术家的风格是一个非常悠久的传统，但我们理解一些创作者可能会有顾虑。"
一些艺术家已经起诉了包括OpenAI在内的人工智能公司，指控他们未经许可对其作品进行训练，以创建人工智能工具，用他们独特的风格重新生成内容。这些公司则声称，公平使用原则保护他们免受版权侵权索赔，而且人工智能模型事实上并不会反刍。
根据视频博主MarcusBrownlee的说法，Sora可以根据文本提示或图片创建视频，并通过重新混合工具编辑现有视频。故事板"界面可让用户创建视频序列，而"混合"工具则可提取两个视频并创建一个保留了两个视频元素的新视频。
OpenAI的 ChatGPTPro 和Plus计划的用户今天可以访问OpenAI的视频生成器Sora，但前提是他们居住在特定国家/地区。
了解更多：
https://openai.com/index/sora-system-card/
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】