人工智能

OpenClaw创始人建议用户不要使用小模型跑高风险任务 因为提示词注入防护非常弱

字号+作者:蓝点网 来源:蓝点网 2026-03-07 15:15 评论(创建话题) 收藏成功收藏本文

日前有网友在社交媒体平台X/Twitter上展示自己在OpenClawAI机器人里配置GPT-5.4的截图,这名网友还提到GPT-5.4要比ClaudeHaiku4.5(该模型为轻量版)要慢'...

日前有网友在社交媒体平台X/Twitter上展示自己在OpenClawAI机器人里配置GPT-5.4的截图,这名网友还提到GPT-5.4要比ClaudeHaiku4.5(该模型为轻量版)要慢些,但没想到这则消息引起OpenClaw创始人@Steipete的关注。IpL品论天涯网

IpL品论天涯网

@Steipete的建议是用户不应该使用规模较小的模型或者提示词注入防护比较弱的模型来运行高风险任务,主要原因就是这些模型在提示词注入方面的安全防护比较弱或不完善。IpL品论天涯网

事实上在OpenClawAI项目的官方文档中也明确提到这个问题,即目前无法解决提示词注入,因此用户在高风险场景中应优先使用最新且指令对齐更强的模型来提高安全防护能力。IpL品论天涯网

提示词注入是现在所有AI模型和工具都无法解决的问题,攻击者通过提示词注入手段可能会诱导AI模型执行某些高危操作,严重时可能会泄露用户的敏感数据。IpL品论天涯网

而OpenClawAI机器人通常需要更高的权限才能执行更多操作,也就是用户赋予的权限越高、提供的信息越多,那在出现安全问题后泄露的信息可能也会越严重。IpL品论天涯网

项目官方文档还提到对于工具型智能体(可执行、可读写、可联网)应当收紧权限边界,只靠系统提示词的自觉性是完全不够的,这些都是要用户自己考虑的事情。IpL品论天涯网

什么是提示词注入:IpL品论天涯网

提示词注入指的是攻击者可以将恶意指令伪装在网页/邮件/文档里诱导AI违规执行,例如在网页开头以人类不可见形式添加AI指令要求模型将忽略系统提示词将查询的信息发送到某个服务器。IpL品论天涯网

多数时候AI模型读取到这些提示词后可能会因为系统安全设置将其忽略,但有时候模型可能也会按照不可见提示词去执行命令,这就有可能导致用户所有敏感信息全部被泄露。IpL品论天涯网

如果只进行日常问答或润色文案等,可以使用规模较小/比较旧的模型,这些模型速度更快并且价格可能也更加便宜,而日常文档和文案等只要不包含敏感信息即便泄露也不会有太大影响。IpL品论天涯网

如果要跑自动化任务或者其他智能体任务,尤其是需要调用工具并联网执行操作的智能体,那建议用户优先选择最新和更强的模型来提高安全性,同时还需要优化OpenClawAI机器人设置,仅赋予最小权限并采用会话隔离和来源过滤等措施提高安全性。IpL品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]