LLM Router / 网关是什么?

LLM 路由/网关位于模型 API 前,负责路由、缓存、回退与可观测。

LLM Router / 网关是什么? 示意图
「LLM Router / 网关是什么?」三格示意图。

多模型控费让 LLM 路由/网关成为开发者基础设施上升词。