跳到正文
原文
Cloudflare Blog · AI Gateway· Celso Martinho·· 2024-03-14精选AI 评分62

Cloudflare 缓解 AI 产品中的 token 长度侧信道攻击

Mitigating a token-length side-channel attack in our AI products

AI 导读

Cloudflare 与 Ben Gurion University 研究人员合作,发现并修复了一个影响 LLM 提供商的 token 长度侧信道漏洞。该攻击通过分析流式模式下网络数据包长度推断 token 序列,研究人员称在理想条件下可重建 29% 的 AI 助手回复并推断 55% 的主题。

推荐理由

原文披露了针对流式 LLM 的 token 长度侧信道攻击细节,以及 Cloudflare 在 Workers AI 和 AI Gateway 上的缓解方案。

来源:Cloudflare Blog · AI Gateway · blog.cloudflare.com