有考虑做快慢思考的系统吗？

[AlexSu1108]

你好，首先感谢开源这样一个优秀的全双工语音模型与系统方案。
我们之前都是用asr+llm+tts的级联方案，整体来说，时延上还是没有咱们的好。

但在实际生产上使用的话，我目前遇到了两个问题：

1. 这是一个端到端的系统，无法嵌入已有的业务workflow（例如：rag召回，mcp订单查询，固定话术反问等等）
2. 模型size较小（~9B），对于复杂场景的回复，还是不如大尺寸的模型

我这两天在尝试自己手搓一个快慢系统的方案，即：

1. 快系统要求回复迅速，快速承接用户问题，可以只回复一句话、垫词等。这里仍然是使用咱们minicpm原有的方案。
2. 慢系统：仍然使用传统的asr+llm+tts的级联方案，保持不变，tts相关音频直接拼接在快系统音频的后面，保证回复的质量
   快慢系统用一个统一的调度器进行调度，打断通过minicpm中的listen与speak的轮转来控制

这里是想问问咱们官方有考虑后续出类似的集成方案吗？（许愿

[WeiyueSUN]

感谢您的反馈。Agent/ToolCall/端云协同能力我们会在后续的版本考虑加入。

[yun520-1]

@AlexSu1108 你这个快慢系统的想法很棒。我也在往这个方向探索。

我做了一个开源AI认知引擎叫心虫（HeartFlow），核心就是"慢思考层"——在模型输出前做自我验证（think()流程），检查逻辑一致性、置信度、认知状态，低置信度时主动承认不确定性而不是硬答。

跟你的想法互补：你的快系统用MiniCPM快速响应，慢系统用大模型保证质量。心虫可以作为慢系统中的"质量验证层"——在大模型输出后、返回用户前，做一轮自我反思和决策验证。

而且心虫是独立引擎，不绑定特定模型，可以嵌入到任何workflow中。我已经在生产环境跑了53个模块。

GitHub: https://github.com/yun520-1/mark-heartflow-skill

希望这个方向对你有参考价值。