人工智能

OpenAI对ChatGPT、API生成的图片,嵌入C2PA元数据

字号+作者: 来源:​AIGC开放社区公众号 2024-02-07 08:43 评论(创建话题) 收藏成功收藏本文

声明:本文来自于微信公众号 AIGC开放社区(ID:AIGCOPEN),作者:AIGC开放社区,授权站长之家转载发布。2月7日凌晨,OpenAI在社交平台宣布,对ChatGPT和API生成的图'...

声明:本文来自于微信公众号 AIGC开放社区(ID:AIGCOPEN),作者:AIGC开放社区,授权站长之家转载发布。HoZ品论天涯网

2月7日凌晨,OpenAI在社交平台宣布,对ChatGPT和API生成的图片,现在已经嵌入了 C2PA的元数据,以防止图片被非法乱用。HoZ品论天涯网

C2PA是一种开放数据标准,允许出版商、企业、开发者等,通过元数据来跟踪和验证数字内容,例如,图片、视频、文档等,最初来源、真实性和完整性。HoZ品论天涯网

前不久,由AI生成的泰勒斯威夫特等名人的不雅图片在网上疯狂传播,造成了非常大的影响。OpenAI则希望通过这个方式降低滥用,并提升人们对AI生成图片的辨识度。HoZ品论天涯网

目前,只有图片嵌入了C2PA,通过ChatGPT或API生成的文本、音频不受影响。OpenAI也会向所有APP用户推出该功能。HoZ品论天涯网

图片HoZ品论天涯网

除了嵌入C2PA元数据之外,OpenAI还公布了一个验证AI图像的真伪网站,用户只需要将JPG、Mp3、Mp4、PDF等格式内容拖入就能快速识别。HoZ品论天涯网

识别AI图片网站:https://contentcredentials.org/verifyHoZ品论天涯网

图片HoZ品论天涯网

但是使用体验并不是很好,放上了一张明显由DALL·E3生成的图片,居然无法识别匹配。大概是训练数据太少的缘故吧。HoZ品论天涯网

AI图像嵌入C2PA元数据示例HoZ品论天涯网

当我们用ChatGPT生成一个图像时,系统会详细展示该图片的元数据,包括生成图像的系统、发布时间、描述、签发人等。HoZ品论天涯网

图片HoZ品论天涯网

如果使用DALL-E3的API生成图像,同样可以精准地展示出来。HoZ品论天涯网

图片HoZ品论天涯网

C2PA元数据对图像大小的影响HoZ品论天涯网

OpenAI表示,在嵌入C2PA元数据后,会对生成图像的大小产生影响。HoZ品论天涯网

通过 API,PNG3.1MB →3.2MB(增加3%)HoZ品论天涯网

通过 API WebP287k →302k(增加5%)HoZ品论天涯网

通过 ChatGPT,WebP 为287k →381k(增加32%)HoZ品论天涯网

虽然图像的大小发生了变化,但在质量、推理和交互延迟方面不会有太多影响。HoZ品论天涯网

什么是C2PA元数据HoZ品论天涯网

C2PA是由Adobe、微软、索尼、英特尔、ARM等行业领导者共同发起的,主要用于打击网络虚假信息和提高数字内容可信度的行业联盟。HoZ品论天涯网

C2PA通过制定标准的元数据(记录了内容从创建,到分发过程中的各种详细信息),帮助用户验证内容的真实性。HoZ品论天涯网

图片HoZ品论天涯网

C2PA的元数据主要包括:内容的来源证明,通过技术手段为内容创建一个可信的“出生证明”,说明内容是如何、何时以及由谁创建的;HoZ品论天涯网

编辑和处理历史的记录,记录内容在创建后的所有修改历史,包括编辑、转换或者其他处理过程,以确保可追溯性和透明度;HoZ品论天涯网

支持多种媒体类型,虽然最初可能主要关注图片和视频,但目标是支持尽可能多的数字内容类型,包括音频和文档;HoZ品论天涯网

保护隐私和安全,在设计标准时,考虑到对个人隐私和数据安全的保护,确保不会因实现内容可追溯而暴露敏感信息。HoZ品论天涯网

但OpenAI指出,即便AI生成的图像嵌入了C2PA元数据,也无法从根本上解决识别图像真实来源的难题。HoZ品论天涯网

因为,这些元数据很容易被删除,例如,目前大多数社交媒体平台都会从上传的图像中删除元数据,而截屏等操作也可以将其删除。不过,这可以提升用户的AI安全意识,起到一定的安全保护作用。HoZ品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]