基于Markdown的无LLM问答
各维度得分依据公开资料与字段推算,加权后即综合评分,仅供参考。
Markdown Marty是一款反传统LLM范式的开源知识问答框架,核心设计逻辑是将结构化知识全部存储为本地Markdown文件,运行时仅通过模式匹配、模板替换生成响应,推理阶段完全不涉及大语言模型、神经网络、GPU或向量检索,从架构根源上彻底消除了LLM最受诟病的幻觉问题。官方将其定义为「Markdown语言模型」,而非传统AI工具——所有输出内容均来自已有的本地Markdown语料,不存在模型生成的未知内容。
该框架的核心能力建立在6项强制CI测试之上,只要任何一项不通过即判定为架构失效:一是禁止运行时导入非标准库+框架白名单外的LLM相关库;二是禁止任何嵌入、向量计算调用;三是禁止运行时发起子进程,杜绝通过二进制文件隐形调用模型;四是所有响应内容必须关联本地corpus/或orchestration/目录下真实存在的Markdown文件;五是删除对应语料文件后,输出内容必须发生变化,验证语料的实际作用;六是HTTP API必须同步返回内容的溯源文件路径。
性能方面,框架仅由约700行Python代码组成,冷缓存下单查询延迟约30ms,热缓存下仅约2ms,普通笔记本即可承载含3.1万节经文、66卷书索引的圣经级语料,无需任何GPU或重型服务器支持。
目前Markdown Marty核心框架采用Apache 2.0开源协议,完全免费开放,用户可直接从GitHub获取源码自行部署。官方已推出首个落地产品「Bible Genius」,将钦定版圣经全部内容转为Markdown节点运行,实现零幻觉的经文检索;同时预告后续将覆盖药品交互查询、建筑规范查阅、机械维修手册、判例法引用等多个对幻觉零容忍的专业领域。官方暂未推出付费服务,现阶段全部能力均开源免费。
这款框架的优势十分明确:从根源解决幻觉问题、部署门槛极低、响应速度远超普通LLM问答、全链路可审计溯源、开源可定制。但缺点也同样突出:仅支持结构化程度足够高、可拆解为Markdown节点的知识体系,无法处理非结构化自由文本;生态尚在早期,除圣经Demo外暂无通用开箱工具,用户需自行适配领域知识。
它最适合对幻觉零容忍的专业领域知识系统搭建,比如企业内部合规知识库、专业手册检索工具、司法判例查询系统等;也适合开源开发者作为轻量知识引擎进行二次开发。
经实际验证,Markdown Marty官网与GitHub开源仓库均可在中国境内直连访问,无需代理工具。
本测评基于公开资料整理,不构成购买建议,请以 markdownmarty.com 官网实际信息为准。
无API调用和GPU,主打可追溯回答。
评分明细(分布与用户短评)接入中。当前展示 TG4G 综合评分,数据源自公开测评与用户反馈。