Files
deepseek-harness/packages/llm/README.zh.md

1.7 KiB
Raw Blame History

llm/ — LLM大语言模型能力家族

English | 中文

LLM seam 及其提供方适配器。接口包(llm)负责抽象服务、内容块词汇和流式分片组装器;适配器是注册到 ctx.llm 的具体实现。这些全是产品包。

职责 ctx key
llm/ LLM 服务和共享流式词汇 ctx.llm
token-meter/ 可感知回放的 token 测量 ctx.tokenMeter
llm-retry/ 提供方作用域的重试策略 监听 agent/request-error
llm-deepseek/ 直接 DeepSeek 适配器 注册到 ctx.llm
llm-pi-ai/ 多提供方 pi-ai 适配器 注册到 ctx.llm

适配器在 seam 上注册提供方路由;重试与 token 测量仍是独立消费方。子 README 负责路由、元数据、回放和提供方协议细节;LLM 架构决策负责设计原理。

子系统参考——消息与内容块、模型请求、StreamChunk 协议、适配器约定adapter contract——见 docs/subsystems/llm-streaming.mdtoken 计量:token-meter.md);另见孪生适配器回放 token 计量按路由模型上下文 Agent Note。