Skip to content

步骤越多,幻觉越多 - 幻觉逐步积累,甚至并不比朴素搜索RAG优 #32

@choyakawa

Description

@choyakawa

例子:

mindsearch openxlab org cn_ (3)

  1. 缺少验证环节:几个步骤都缺乏自我验证 - 初始构建的图谱是否合理、提出的问题是否可以被文段回答、回答是否在文段中有给出答案
  2. 存在重复或相似步骤被反复执行
  3. 由于幻觉逐步积累,甚至并不比朴素搜索RAG优。
  4. 节点没有权重的概念,导致不重要的细节被放大,而应该有的、多文档之间交错的信息没有体现。

像极了很多Agent LLM应用,步骤很多,看起来很炫酷,然后积累幻觉,不太可用。

Metadata

Metadata

Assignees

Labels

No labels
No labels

Type

No type

Projects

No projects

Milestone

No milestone

Relationships

None yet

Development

No branches or pull requests

Issue actions