新黑客利用AI幻觉攻击欺骗代理运行恶意代码 —— 'HalluSquatting'攻击利用了每个可用模型的基本弱点

➀ 以色列特拉维夫大学、特拉维夫理工学院的学者和Intuit的研究人员发现了一种名为'HalluSquatting'的新攻击，该攻击利用AI幻觉欺骗代理运行恶意代码；

➁ 该攻击利用AI机器人遇到未知术语时倾向于产生'正确'答案的倾向；

➂ 研究人员发现，LLM会高达85%的时间幻觉出最近代码仓库的位置，对于流行的代理技能，这个数字可以达到100%。