知名网络服务提供商CloudFlare今天宣布推出FirewallforAI，这并不是基于AI技术开发的传统防火墙应用，而是专门为AI开发的防火墙。这个AI防火墙的主要客户是企业，即面向那些部署AI模型的企业，在部署之前提供一个保护层，如果终端用户输入有问题的内容那么可能会被防火墙直接拦截。
本质上这个AI防火墙也是个WAF(网页应用防火墙)，用户输入的提示词API请求会预先经过WAF扫描和分析，只有安全的请求才会被传送给AI模型。
CloudFlare也针对AI进行了专门的开发和策略调整，用于拦截潜在的漏洞利用、非法利用和AI模型的滥用问题，例如提示词注入、模型拒绝服务(MDoS)、敏感信息泄露等，AI防火墙可以提供保护模式用来拦截这类常见的针对AI模型的攻击。
这里额外提下MDoS即模型拒绝服务，这与DDoS(分布式拒绝服务)本质上是类似的，DDoS是耗尽目标服务器的资源，MDoS则是通过提示词来耗尽AI模型服务器的资源，使其不能提供服务。
CloudFlare的AI防火墙会通过速率限制来控制各个对话请求的速率，从而降低MDoS的风险、减少企业业务中断的风险。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】