AI模型内部可解释性
NeuronLens 是一个面向大模型内部可解释性与运行时治理的平台。它的核心主张不是只看提示词、输出或链路日志，而是读取模型内部激活、稀疏特征和概念信号，将其转化为可部署的“Lens”，用于安全、Agent监督、领域智能和模型修复。
平台分为四层：Runtime Lens 用内部信号做实时 allow/block/reroute/review；Concept Studio 用于搜索、检查和测试模型内部概念；Domain Lenses 面向交易/风险、信用、网络安全、科学/医疗等高风险领域；Model Design Studio 用于定位反复失败背后的内部特征并做定向修复。其研究路线包括稀疏自编码器、自动特征标注、激活搜索、token级热力图、特征族、对比指纹、steering和reinspection。Agent Lens 明确提到可两行接入，并支持 LangChain、CrewAI、Claude Agents、AutoGen、OpenAI Agents 等。
网站只提供 Request Demo、early access，并表示与少量研究和企业团队合作，未披露免费额度、公开价格、计费方式或付款方式。因此更像企业定制/设计伙伴阶段产品，不适合期待立即自助注册和低成本试用的个人用户。
优势是定位清晰，针对提示注入、RAG污染、敏感泄露、工具调用劫持、目标漂移、权限升级等现实风险，提供从发现到运行时控制再到修复的闭环；同时研究内容较透明，承认自动标签、稀疏特征和steering的边界。主要不足是缺少生产案例、模型支持清单、部署性能、隐私合规和安全认证信息；中文支持也未披露。
它更适合AI安全团队、企业Agent平台团队、模型治理/审计团队，以及金融、信用、网络安全、科研医疗等高风险场景。中国访问、支付和本地支持信息未知；如需落地，应重点确认网络连通性、数据是否出境、是否支持私有化部署、合同付款方式。替代方向可考虑LLM安全网关、Agent监控、RAG安全检测、模型评估和可解释性研究工具。
本测评基于公开资料整理,不构成购买建议,请以 neuronlens.com 官网实际信息为准。
研究模型内部概念，可用于AI安全、Agent和模型修复。
评分明细(分布与用户短评)接入中。当前展示 TG4G 综合评分,数据源自公开测评与用户反馈。