外媒报道称，美国情报界已经启动了一项AI开发计划，希望能够有效地推断出匿名写手的身份、或通过巧妙改变文字来伪装其身份。美国国家情报局局长办公室ODNI表示，在情报高级研究项目活动（IARPA）基础结构上使用的“人类可解文本归因”（HIATUS）计划，旨在构建可执行“语言指纹识别”的软件。
人工智能
美情报界希望开发出可揭示匿名作者身份的AI
字号+作者： 来源：cnBeta.COM 2022-09-29 19:13 评论(创建话题) 收藏成功收藏本文
外媒报道称，美国情报界已经启动了一项AI开发计划，希望能够有效地推断出匿名写手的身份、或通过巧妙改变文字来伪装其身份。美国国家情报局局长办公室ODNI'...
IARPA在一份PDF文档中指出：“每一天，人类和机器都会生成大量的文本内容，而其中就包含了可揭示作者身份的语言特征”。
ONDI表示，有了正确的模型，IARPA相信它能够识别不同样本中的作者风格一致性。
当然这项技术也能够通过修饰语言模式，使之以新手能够解释的方式来完成相关工作，但HIATUSAI必须是与语言无关的。
HIATUS项目经理TimothyMckinnon博士称：
我们很有希望达成这一目标，为情报界提供急需的能力，并借助计算语言学和深度学习的最新进步，大幅扩展我们对人类语言演变的理解。
为开发强大的模型，HIATUS将着重于对抗性AI研究——作者与匿名文本，与问题是一体两面。
IARPA认为，归因系统的评估，主要根据统一作者在大型收藏中匹配项目的能力。
而隐私系统的评估，则是根据阻止归因系统的能力。
此外该机构表示，其计划为HIATUSAI制定可解释性的标准。
TimothyMckinnon补充道，HIATUS正在从事的部分工作，是试图揭开围绕神经语言模型的某些未知因素。
他表示这些模型的运作良好，但其本质上仍是一个黑匣子，开发人员并不知晓它们是如何做出具体判断的的。
理想情况下，系统会在我们执行时切实理解为何要这么做，并且能够验证其没有接收到虚假的东西、及其正在做哪些正确的事情。
若顺利走到这一步，从打击境外影响活动、到识别反情报风险，HIATUS都有可能产生深远的影响。
此外HIATUSAI能够识别文本是否由机器生成、而不是真人创作出来的。
最后，在IARPA完成的研究中，约有70%会交给其它政府合作伙伴去实施——前者只负责技术的开发，而不会参与到具体的实施。
目前HIATUS研究项目已经开拔，但鉴于距离实验结束还有42个月（三年半）的时间，所以不要指望这项技术会很快以完整形态出现。
本网除标明“PLTYW原创”的文章外，其它文章均为转载或者爬虫(PBot)抓取； 本文只代表作者个人观点，不代表本站观点，仅供大家学习参考。本网站属非谋利性质，旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的，可来信联系本站删除。 本站邮箱[email protected]
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】