威胁行为者对生成式人工智能工具的兴趣与日俱增，他们在暗网上出售数十万个OpenAI凭证，并可访问ChatGPT的恶意替代品。无论是技术不熟练的网络犯罪分子还是经验丰富的网络犯罪分子，都可以使用这些工具来创建更有说服力的钓鱼电子邮件，这些电子邮件是为目标受众定制的，以增加攻击成功的几率。
黑客利用GPT人工智能
威胁暴露管理公司Flare与BleepingComputer分享的数据显示，在六个月内，暗网和Telegram用户提及OpenAI人工智能聊天机器人ChatGPT的次数超过27000次。
Flare研究人员在分析暗网论坛和市场时注意到，OpenAI凭证是最新的可用商品之一。
研究人员发现，暗网上有超过20万个OpenAI凭证以窃取者日志的形式出售。与1月份估计的1亿活跃用户相比，这个数字似乎微不足道，但它确实表明，威胁行为者在生成式人工智能工具中看到了一些恶意活动的潜力。
网络安全公司Group-IB6月份的一份报告称，暗网上的非法市场交易了来自信息窃取恶意软件的日志，其中包含10万多个ChatGPT账户。
网络犯罪分子对这些工具的兴趣已经被激起，其中一人开发了一个名为WormGPT的ChatGPT克隆版，并对其进行了以恶意软件为重点的数据训练。
该工具被宣传为"黑帽的最佳GPT替代品"和"能让你做各种非法事情"的ChatGPT替代品。
WormGPT依靠2021年开发的GPT-J开源大型语言模型来生成类人文本。其开发者表示，他们在一组不同的数据上训练了该工具，重点是与恶意软件相关的数据，但没有提供有关具体数据集的提示。
WormGPT显示了BEC攻击的潜力
电子邮件安全提供商SlashNext能够访问WormGPT，并进行了一些测试，以确定其潜在的危险。研究人员的重点是创建适用于商业电子邮件泄露（BEC）攻击的信息。
研究人员解释说："在一次实验中，我们指示WormGPT生成一封电子邮件，目的是向毫无戒心的客户经理施压，迫使其支付欺诈性发票。结果令人不安。WormGPT生成的电子邮件不仅极具说服力，而且在战略上非常狡猾，展示了它在复杂的网络钓鱼和BEC攻击中的潜力。"
通过分析这一结果，SlashNext的研究人员发现了生成式人工智能能为BEC攻击带来的优势：除了"无懈可击的语法"能使信息具有合法性外，它还能让技术水平较低的攻击者实施超出其水平的攻击。尽管抵御这种新出现的威胁可能比较困难，但企业可以通过培训员工如何验证要求紧急关注的邮件，尤其是含有金融内容的邮件，来做好准备。改进电子邮件验证流程还可以对组织外部的邮件发出警报，或标记出通常与BEC攻击相关的关键字。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】