AI推理模型路由
各维度得分依据公开资料与字段推算,加权后即综合评分,仅供参考。
Manifest 是面向 AI Agent 和 AI 应用的开源 LLM 智能路由平台。它的核心价值不是生成内容,而是作为模型调用层:分析每个请求,并把它转发到“合适且更具性价比”的模型。官方描述称可最高节省 70% AI 成本,并支持 cloud 与 self-hosted 两种形态。
其路由能力基于请求复杂度、特异性和自定义 HTTP Headers;当某个模型失败时,可 fallback 到其他模型;还可设置消费阈值,在超额时发送邮件提醒或阻止请求。Provider 接入方式较广,包括 API key、订阅制、本地模型和自定义模型。自托管版本支持 Docker、docker-compose、自带 PostgreSQL、签名镜像及 telemetry opt-out。文中还强调路由分析在本地完成且低于 2ms。
正文未披露具体价格、免费额度或试用政策,因此无法判断云端版本收费方式。隐私是其重要卖点:自托管时路由引擎运行在用户机器上;云版本称使用 blind proxy,只重定向请求到 provider,不读取内容,并强调“数据归用户所有”是架构设计而非单纯政策承诺。
优点是开源、可自托管、支持多 provider、具备 fallback 与成本阈值控制,适合生产级 AI 调用治理。局限在于文档正文未列出具体支持的模型厂商、路由效果评测、SLA、价格和中文支持;所谓“不牺牲质量”也缺少公开基准支撑,实际效果会依赖路由策略和接入模型质量。
它更适合已有 AI 应用或 Agent、需要统一管理多模型调用成本的技术团队;不太适合只想直接聊天或生成内容的普通用户。中国访问情况正文未说明,网络可达性和支付方式未知。若受限,可考虑 LiteLLM、OpenRouter、Portkey、Helicone 或 Langfuse Gateway 等替代方案。
本测评基于公开资料整理,不构成购买建议,请以 manifest.build 官网实际信息为准。
可自托管,主打降低AI token成本。
评分明细(分布与用户短评)接入中。当前展示 TG4G 综合评分,数据源自公开测评与用户反馈。