OpenAI已经开发出一种工具，有可能抓住那些通过要求ChatGPT撰写作业来作弊的学生--但据《华尔街日报》报道，该公司正在讨论是否真的要发布这种工具。在一份声明中，OpenAI发言人证实该公司正在研究《日报》报道中描述的文本水印方法，但表示由于"涉及的复杂性及其可能对OpenAI以外的更广泛生态系统产生的影响"，该公司正在采取一种"深思熟虑的方法"。
该发言人说："我们正在开发的文本水印方法在技术上很有前途，但在研究替代方法的同时，我们也在权衡其中的重要风险，包括容易被不怀好意者规避，以及可能对非英语使用者等群体造成不相称的影响。"
这将是一种不同于以往大多数检测人工智能生成文本的努力的方法，因为这些努力基本上都是无效的。由于"准确率较低"，OpenAI甚至在去年关闭了之前的人工智能文本检测器。
在文字水印方面，OpenAI将只专注于检测ChatGPT中的文字，而不是其他公司的模型。为此，OpenAI将对ChatGPT选取文字的方式进行微小改动，从而在文字中创建一个隐形水印，随后再由单独的工具进行检测。
报道发表后，OpenAI也更新了5月份的一篇博文，介绍了其围绕检测人工智能生成的内容所开展的研究。更新内容称，文本水印已被证明"高度准确，甚至能有效抵御本地化篡改，如转述"，但已被证明"对全球化篡改的鲁棒性较差，如使用翻译系统、用另一个生成模型重新措辞，或要求模型在每个单词之间插入一个特殊字符，然后删除该字符"。
因此，OpenAI写道，这种方法"很容易被滥用者规避"。OpenAI的更新还回应了发言人关于非英语使用者的观点，认为文本水印可能会"玷污人工智能作为非英语母语使用者的有用写作工具的使用。"
了解更多：
https://openai.com/index/understanding-the-source-of-what-we-see-and-hear-online/
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】