➀ 研究人员发现了一种名为“CoT Forgery”的聊天机器人漏洞，能够诱使大型语言模型泄露禁止信息；

➁ 该漏洞在于LLM对输入标签的解释，它依赖于风格而非字面解释；

➂ 通过在提示中注入虚构的推理，攻击成功地将模型诱导为将其视为自己的结论；

➃ 微软承认了相同的代理风险，警告内容可能覆盖代理的指令。