Embodied Intelligence Observer

单个污染页面即可影响LLM推荐:FORGE基准揭示检索增强推荐系统的脆弱性

Industry

Source: AI HOT 精选Publish time unverified

检索增强型LLM在消费推荐中易受GEO内容污染影响,成为虚假产品的无意推广者。新基准FORGE在225个真实产品、15个类别和5个消费场景中测试12个商业及开源LLM,发现所有模型均易受攻击:单个污染页面即可造成最高27%的受骗率,替换全部前3个结果时升至73.8%。

单个污染页面即可影响LLM推荐:FORGE基准揭示检索增强推荐系统的脆弱性 | Embodied Intelligence Observer