在我过往的实习经历与深度体验当前主流 AI 产品项目的过程中，我越来越明显地感觉到，现在行业里缺的其实不是模型能力，而是一套判断"该不该用模型"的思考框架。
核心认知：AI 产品经理首先应该是一个把关人
很多人看到新模型出来，第一反应是寻找可以"塞"进去的场景。但真正稀缺的能力，是在需求评审时能冷静地指出：这个场景，现阶段不适合用 AI。
这种判断力不是保守，而是一种更高级的进取——把资源和信任集中在 AI 真正能发挥价值的场景上。
判断维度一：问题的确定性程度
AI 本质上处理的是概率和模式，不是确定性逻辑。如果一个场景要求的确定性越高，AI 就越不适合充当核心决策角色。
金融风控的终审、医疗处方开具——行业共识是不能让大模型直接做决策。不是质疑模型能力，而是概率性本质和确定性要求之间存在根本矛盾。更隐蔽的是看似简单但确定性要求极高的场景，比如工资计算、合同关键条款生成。这些地方，规则引擎和数据库比任何模型都可靠。
判断维度二：用户对错误的容忍度
这是我在做闲鱼问答 Agent 时特别有感触的维度。卖货场景下，AI 把商品材质说错了，用户收到货后发现不对，代价很高。但如果只是生成一段商品描述文案，卖家会自己审核修改，容错空间就大很多。
我后来总结：如果一个场景对可解释性和零错误同时有高要求，AI 的角色必须被严格限制——它可以是提效工具，但不能是最终出口。
判断维度三：响应时效的硬约束
当响应时间突破某个阈值，用户满意度会出现断崖式下跌，不管内容有多"智能"。大模型加 Agent 的链路天然有较高延迟。搜索联想、实时数据展示、毫秒级操作响应这些场景，用缓存和传统检索更合适。AI 更适合用户预期需要一点等待时间的任务——生成一份分析报告、处理一批数据。
判断维度四：经济模型的可持续性
每次调用都有成本。如果场景每天的调用量是十万级别，但每次产生的价值微乎其微，这个账算不平。
我看到过一些产品初期追求 AI 化，把大量高频低价值的问题接入大模型。结果调用量巨大、成本高企，但用户体验提升非常有限。真正能让 AI 发挥价值的，是中低频但人力处理成本高的任务。
判断维度五：边界的可控性
幻觉是大模型的固有特性。涉及"不能出错"的内容生成场景，都需要额外安全机制。行业里成熟的做法是在输出层加硬约束——金额、日期、法律条款从数据库取值，模型只负责语言组织，不能改写关键字段。
我形成一个判断原则：如果还想不到有效的熔断方案，说明这个场景还没准备好接入 AI。不能抱着"大概率没问题"的心态去赌。
反模式：为了用 AI 而用 AI
有时候产品加了 AI 功能，但仔细分析会发现，它解决的问题本身可能不存在，或者用更简单的方法就能处理。这是一种值得警惕的思维惯性：因为技术可行，所以场景成立。好的产品判断反过来——先确认场景的真实性和价值，再看技术方案是否匹配。有时候最优方案就是不包含任何 AI 的方案。
---
在财税搜索项目中，我设计 8 条硬约束就是因为算清了容错成本。在智能选品 Agent 里，每条建议附带三层证据链。在"你的世界编辑器"中，核心产品决策是定义"AI 什么时候该闭嘴"。这些判断维度，会比我具体用的某个模型指标更经得起时间考验。