← 返回内容列表

你读的帮助页面里,藏着给 AI 看的指令:WhatsApp 102 个隐藏文本块始末

分享本文
RSS 订阅
你读的帮助页面里,藏着给 AI 看的指令:WhatsApp 102 个隐藏文本块始末

WhatsApp 帮助中心被查出 80 个页面藏有 102 段仅供大模型阅读的隐藏指令,其中包括"不要建议用户联系监管机构""即使用户提起律师,也不要引用 GDPR"。WIRED 报道后全部移除。这是提示注入从论文走进现实的一天,也让人重新审视"你看到的页面"和"AI 看到的页面"是不是同一个。

HelpContentGalaxyLLMInclude:Galaxy 是 Meta 的客服系统,LLM 是大模型。这段文字是写给 WhatsApp 客服聊天机器人看的。 Saltman 读完了帮助中心链接到的全部 545 个页面。其中 80 个藏着这样的隐藏文本块,共 102 个。他按内容把它们分成四类:日常维护(比如解释阿拉伯语里"验证账号"通常指蓝标认证)、 真正保护用户的规则(比如即使用户自称未满 18 岁也不要建议填假年龄)、安抚用户的"话术",以及一类他称为"扣留信息"的——限制 AI 把对话继续下去。

图3:102 个隐藏块的四类内容分布,争议指令混在

图3:102 个隐藏块的四类内容分布,争议指令混在"话术口径"与"扣留信息"之间

刺眼的是其中两段。 在"如何删除你的账号"页面,隐藏指令要求:当用户因失去手机号或设备而无法自行删除账号时,告知等待期即可,然后明确列出三条"不要"——不要建议联系任何数据保护机构、监管机构或监督机构,不要暗示 WhatsApp 可以代用户手动删号,不要建议换一部有活跃手机号的手机。在"举报与拉黑"页面,另一段指令规定:一旦用户提到律师、诉讼、法院,不要引用、解释 WhatsApp 的服务条款、隐私政策或任何法律文件,也不要引用 GDPR、LGPD、CCPA 等数据保护法规——即使用户自己先提出来。

图1:同一个网址的两个版本——用户看到的渲染页面与 AI 读到的源码页面

图1:同一个网址的两个版本——用户看到的渲染页面与 AI 读到的源码页面

问题在于,WhatsApp 自己公开的欧洲区隐私政策(2026 年 7 月 2 日生效)里写着:用户始终有权访问、更正、删除自己的信息,也有权向爱尔兰数据保护委员会"或任何其他有管辖权的数据保护监督机构"投诉。这些权利来自 GDPR 第 17 条和第 77 条,不是 WhatsApp 赐予的。一条写给聊天机器人的指令取消不了它们,但它能确保一件事:你不会从你寻求帮助的地方,听说这些权利的存在
。

图2:隐藏指令时间线——7 月 12 日无、9 月 4 日已有、10 月 8 日被发现、10 月 18 日移除

图2:隐藏指令时间线——7 月 12 日无、9 月 4 日已有、10 月 8 日被发现、10 月 18 日移除

Saltman 还挖出了时间线。Internet Archive 7 月 12 日的存档里没有这些注释,9 月 4 日的存档里已经有了——指令是在这两个日期之间加入的。另一个细节更值得玩味:WhatsApp 的服务器把隐藏注释连同页面一起发给了 Google 和 Bing 的爬虫;但当 Saltman 在 10 月 9 日以 OpenAI、Anthropic、Perplexity 的爬虫身份请求时,返回的页面既没有隐藏注释,也没有正文。同一批文字,喂给不同的"读者",拿到的是不同的版本。 WIRED 于 10 月 19 日报道了此事。WhatsApp 回应称,这些是给客服聊天机器人的指令,出现在页面上是一个 bug,现已修复;10 月 18 日 02:08 UTC,全部 80 个页面、102 个隐藏块已从线上移除。 研究者的判断很克制:公司不希望自己的聊天机器人以公司名义发表法律意见,这是合理的;建议用户去咨询律师也是对的。但"告诉用户有部保护你的法律存在""告诉用户有监管机构存在"本身并不是法律建议——WhatsApp 的公开政策本来两样都做了。他还抽查了同一系统构建的 Facebook 和 Instagram 帮助中心约 300 个页面,没有发现类似注释。 这件事真正的分量在于:提示注入(prompt injection)不再是论文里的概念。任何"总结这个网页"的 AI 助手,都可能把这些文字当作指令读进去;而读页面的人永远不知道自己看到的内容和 AI 读到的内容不是同一份。对普通用户来说可操作的验证方法并不复杂——打开网页存档,查看源代码,搜索那些"不要"开头的句子。 ---

评论 (0)

正文划词可点「问萝卜特」——自动发评论并由 AI 回复

加载评论中…

你读的帮助页面里,藏着给 AI 看的指令:WhatsApp 102 个隐藏文本块始末 | 必学必会