Merge pull request #96 from itmisx/fix/orphan-tool-message

🐛 fix orphan-tool-message

Author: itmisx

agent/llm.go

@@ -974,7 +974,9 @@ func streamOnce(
 		StreamOptions: &streamOptions{
 			IncludeUsage: true,
 		},
-		Messages: convo,
+		// 发送前消毒:剔除孤儿 tool 消息 / 剥掉无响应的 tool_calls,避免 API 400(见 issue #94),
+		// 并自愈已被写进历史的坏配对(下次请求即恢复)。正常对话是 no-op。
+		Messages: sanitizeToolPairs(convo),
 		Tools:    toolSpecs,
 		// thinking 和 reasoning_effort 是两个独立顶层字段。各自 omitempty,
 		// 用户设了就发、没设就不发,白名单内的值才透传(防 yaml 笔误)。
@@ -1086,7 +1088,13 @@ func streamOnce(
 	sort.Ints(idxs)
 	toolCalls := make([]ToolCall, 0, len(idxs))
 	for _, idx := range idxs {
-		toolCalls = append(toolCalls, *toolBuf[idx])
+		tc := *toolBuf[idx]
+		if tc.ID == "" {
+			// 供应商流式整段未给 id(部分第三方/自建 base_url 池子)→ 合成稳定 id。
+			// assistant 的 tool_call 与随后的 tool 结果都用它,保证 API 侧能配对(见 issue #94)。
+			tc.ID = fmt.Sprintf("call_%d", idx)
+		}
+		toolCalls = append(toolCalls, tc)
 	}
 	return contentBuilder.String(), reasoningBuilder.String(), toolCalls, finishReason, lastUsage, nil
 }

agent/sanitize.go

@@ -0,0 +1,65 @@
+package agent
+
+import "strings"
+
+// sanitizeToolPairs 在发请求前修正消息序列,保证 tool 与 tool_calls 严格配对,规避两类 400:
+//   - 孤儿 tool 消息:role=tool 但前面没有携带对应 tool_call 的 assistant
+//     → "Messages with role 'tool' must be a response to a preceding message with 'tool_calls'"
+//   - 悬挂 tool_calls:assistant 带 tool_calls 但缺少对应的 tool 响应(部分 API 也会拒)
+//
+// 这类失配可能由旧版压缩切点、中途中断、供应商流式 tool_calls 异常、或历史损坏造成(见 issue #94)。
+// 做法:剔除孤儿 tool;剥掉 assistant 里无响应的 tool_call(剥空且无正文则整条丢弃)。
+// 正常对话(配对完整)下原样返回,不动前缀、不影响缓存。
+func sanitizeToolPairs(msgs []ChatMessage) []ChatMessage {
+	// 第一遍:收集所有出现过的 tool 响应 id(用于判断某个 tool_call 有没有被回应)。
+	answered := make(map[string]bool)
+	for i := range msgs {
+		if msgs[i].Role == "tool" && msgs[i].ToolCallID != "" {
+			answered[msgs[i].ToolCallID] = true
+		}
+	}
+
+	out := make([]ChatMessage, 0, len(msgs))
+	valid := make(map[string]bool) // 最近一条 assistant 保留下来的 tool_call id;只有这些 id 的 tool 才合法
+	changed := false
+	for _, m := range msgs {
+		switch m.Role {
+		case "assistant":
+			if len(m.ToolCalls) > 0 {
+				kept := make([]ToolCall, 0, len(m.ToolCalls))
+				valid = make(map[string]bool)
+				for _, tc := range m.ToolCalls {
+					if tc.ID != "" && answered[tc.ID] {
+						kept = append(kept, tc)
+						valid[tc.ID] = true
+					}
+				}
+				if len(kept) != len(m.ToolCalls) {
+					changed = true
+					m.ToolCalls = kept
+				}
+				// tool_calls 全被剥光且无正文 → 整条丢弃(空 assistant 无意义)
+				if len(m.ToolCalls) == 0 && strings.TrimSpace(m.Content) == "" {
+					changed = true
+					continue
+				}
+			} else {
+				valid = make(map[string]bool) // 普通 assistant 终结上一组 tool 配对
+			}
+			out = append(out, m)
+		case "tool":
+			if m.ToolCallID != "" && valid[m.ToolCallID] {
+				out = append(out, m)
+			} else {
+				changed = true // 孤儿 tool,丢弃
+			}
+		default: // user / system:终结上一组 tool 配对
+			valid = make(map[string]bool)
+			out = append(out, m)
+		}
+	}
+	if !changed {
+		return msgs
+	}
+	return out
+}

agent/sanitize_test.go

@@ -0,0 +1,58 @@
+package agent
+
+import "testing"
+
+func roles(msgs []ChatMessage) []string {
+	r := make([]string, len(msgs))
+	for i, m := range msgs {
+		r[i] = m.Role
+	}
+	return r
+}
+
+func TestSanitizeDropsOrphanTool(t *testing.T) {
+	// tool 消息前面没有对应 tool_call → 孤儿,应被丢弃
+	in := []ChatMessage{
+		{Role: "user", Content: "hi"},
+		{Role: "tool", ToolCallID: "x", Content: "orphan result"},
+		{Role: "assistant", Content: "answer"},
+	}
+	out := sanitizeToolPairs(in)
+	got := roles(out)
+	if len(got) != 2 || got[0] != "user" || got[1] != "assistant" {
+		t.Fatalf("孤儿 tool 应被剔除,got %v", got)
+	}
+}
+
+func TestSanitizeKeepsValidPair(t *testing.T) {
+	in := []ChatMessage{
+		{Role: "user", Content: "hi"},
+		{Role: "assistant", ToolCalls: []ToolCall{{ID: "x", Function: ToolCallFunc{Name: "Read"}}}},
+		{Role: "tool", ToolCallID: "x", Content: "ok"},
+		{Role: "assistant", Content: "done"},
+	}
+	out := sanitizeToolPairs(in)
+	if len(out) != 4 {
+		t.Fatalf("完整配对应原样保留,got %d 条: %v", len(out), roles(out))
+	}
+}
+
+func TestSanitizeStripsDanglingToolCalls(t *testing.T) {
+	// assistant 带 tool_calls 但没有对应 tool 响应:
+	//  - 有正文 → 剥掉 tool_calls,保留正文
+	//  - 无正文 → 整条丢弃
+	in := []ChatMessage{
+		{Role: "user", Content: "hi"},
+		{Role: "assistant", Content: "让我查一下", ToolCalls: []ToolCall{{ID: "x", Function: ToolCallFunc{Name: "Read"}}}},
+		{Role: "assistant", ToolCalls: []ToolCall{{ID: "y", Function: ToolCallFunc{Name: "Grep"}}}}, // 无正文、无响应 → 丢
+		{Role: "assistant", Content: "结果如下"},
+	}
+	out := sanitizeToolPairs(in)
+	got := roles(out)
+	if len(got) != 3 {
+		t.Fatalf("悬挂 tool_calls 处理错误,got %d 条: %v", len(got), got)
+	}
+	if len(out[1].ToolCalls) != 0 || out[1].Content != "让我查一下" {
+		t.Errorf("应剥掉无响应 tool_calls、保留正文,got %+v", out[1])
+	}
+}