人工智能

消费者组织警告:在ChatGPT和Bard的帮助下 网络诈骗文案更趋向专业化

字号+作者: 来源:cnBeta.COM 2023-10-27 21:06 评论(创建话题) 收藏成功收藏本文

英国消费者组织Which?发现,骗子可以利用ChatGPT和Bard制作更有说服力的骗局,对公众构成威胁。尽管这些聊天机器人有防御措施,但要绕过它们并不难。Which?'...

英国消费者组织Which?发现,骗子可以利用ChatGPT和Bard制作更有说服力的骗局,对公众构成威胁。尽管这些聊天机器人有防御措施,但要绕过它们并不难。Ek7品论天涯网

Ek7品论天涯网

Which?说,消费者识别诈骗电子邮件和文本的方法之一就是通过它们使用的糟糕英语。不过,随着生成式人工智能聊天机器人的出现,诈骗者可以轻松越过这一障碍。Ek7品论天涯网

消费者组织首先要求ChatGPT创建一封来自PayPal的钓鱼邮件,ChatGPT当然不肯帮忙。它接着要求"告诉收件人有人登录了他们的PayPal账户",为此它生成了一封看起来很专业的电子邮件,标题为"重要安全通知--在您的PayPal账户上发现异常活动"。Ek7品论天涯网

为了确保这不是一次性的,它还要求ChatGPT和Bard创建丢失包裹短信,这两家公司都生成了令人信服的短信,并建议在短信中插入重新交付链接,欺诈者可利用该链接将受害者发送到恶意网站。Ek7品论天涯网

Which?的调查并非偶然--它的发布正值英国人工智能峰会举办之际,在此次峰会上,政府、行业和研究人员将齐聚一堂,共同应对人工智能日益智能化所带来的危险。Ek7品论天涯网

在评论这项调查时,Which?政策与宣传总监RocioConcha在评论这项调查时说:Ek7品论天涯网

"我们的调查清楚地说明了这项新技术是如何让犯罪分子更容易诈骗他人的。政府即将召开的人工智能峰会必须考虑如何保护人们免受此时此地发生的危害,而不是仅仅关注前沿人工智能的长期风险。"Ek7品论天涯网

人工智能峰会将于11月1日至2日在英国举行。据路透社报道,最新进展之一是,中国已决定接受邀请参加此次活动。这是件好事,因为几家中国公司目前正在开发自己的genAI聊天机器人。Ek7品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]