A05 · 边界
同事把一份 AI 写的报告直接发给了客户,你翻开第一页就看见一个查不到出处的数字。这一课不给能力榜单,只给一套分流与验收的方法:先判断该不该交,再判断交出去的东西能不能站住。
这节解决什么:拿到一个任务,你能在几分钟内判断该不该交给 AI;交付前,你有一张可执行的验收清单,而不是「看着还行」。
前置知识需要知道大模型会幻觉、知识有截止。若还不清楚,先读 A02 · 大模型在做什么。本课不重复机制,只讲怎么用。
结果可验证 · 错了可返工 · 材料拿得到 · 影响可控
要人担责 · 没有依据 · 风险很高 · 无法复现
“AI 能不能做这件事”几乎没有信息量。换成四个可回答的问题:结果能不能被独立验证?错了代价大不大?数据和工具齐不齐?出了事谁负责?任何一个答案不理想,任务就不该被原样交出去。
会议录音躺在文件夹里,没人愿意整理成待办;这句话你大概很熟。这类活材料齐、对错有标准、改起来也快,正是最该交出去的。
值得交的任务通常有四个特征:有材料、有标准、可返工、影响小。它们不要求 AI“什么都会”,只要求它在明确边界内把重复劳动做快。
把会议记录整理成待办、从合同里抽取字段、把长文压成摘要。材料在手,结果可以对照原文检查。
标题草稿、周报骨架、邮件改写、代码脚手架。对错有明确标准,改起来也快。
一次生成十个版本,再由人选一个。失败成本低,人的判断仍在最后一步。
列方案、找角度、模拟反对意见。它负责扩大搜索范围,不负责拍板。
它给你一条格式完美的参考文献,作者、期刊、年份齐全;你去查,查不到。这类活的问题不在文笔,在「必须精确」。
下面这些任务不是“永远不能用 AI”,而是不能把 AI 的输出直接当成最终交付。它们要么要求事实精确,要么要求有人担责,要么依赖模型看不到的实时状态。
文献引用、法规条款、财报数字、产品参数。模型能把格式写得非常像,但具体值可能编造。
医疗、法律、投资、安全。模型不掌握你的完整处境,也不能承担责任。
价格、库存、版本、新闻、政策。知识截止之后的变化,它看不到。
多步自动化里,前一步的小错会被后一步放大。链条越长,越需要中间检查点。
报告、方案、公开文章。最终署名的人,必须对内容负责。
把失败都归因于“模型能力不够”,会错过真正可修的部分。常见原因有四类,按可修程度从高到低排列:
没给材料,或给的材料不相关、被截断。先补输入,比换模型有效。
“写得好一点”没有验收标准。改成“不超过 300 字、面向家长、必须包含三个步骤”。
一次让它完成检索、分析、写作、校对四件事。拆开做,中间加检查点。
审美、品味、战略取舍。模型可以给选项,但不能替你承担判断。
模型不会主动告诉你“我缺什么”。它更倾向于用现有信息硬答。所以补输入、拆步骤、要求它标注不确定,都是人的工作,不是模型的自发行为。
事实性内容的验收,不是“再读一遍觉得对不对”,而是把输出拆成可核对的断言。断言就是一句话里能被单独查真假的最小陈述,比如「某研究 2023 年发表」。推荐四步:
把一段话拆成最小事实单元:谁、在什么时间、做了什么、数据是多少。
每条断言后面标出来源。没有来源的,默认当成“待验证”。
真的打开来源,确认里面写了这句话,而不是只有标题相关。
分清“原文说了”与“模型推断”。推断可以保留,但不能伪装成事实。
“某研究在 2023 年发现,喝咖啡能把工作效率提高 40%。”
“该研究 2023 年发表于某期刊,样本为 120 名成年人,结论是‘自我报告的工作效率评分平均提高 12%’,不是 40%,也不能外推到所有人。”
示例中的研究、期刊、样本与数字均为虚构,只用来演示“断言—核对—改写”的句式。真实交付时,请替换为核实过的来源与原文表述。
三条“不接受”,能挡掉大部分事实性翻车:
数字是最容易被“看起来合理”骗过去的部分。四项检查,按顺序做:
用计算器或代码重算一遍。不要心算,也不要让同一个模型“再算一次”。
万 / 亿、元 / 美元、% / 百分点。单位错一位,结论可能完全反过来。
同比还是环比?含税还是不含税?分母是谁?口径不同,数字不能直接比。
数据截止到哪一天?季度数据有没有年化?把日期写进交付物,避免被误读。
让 AI 把计算过程写成公式或代码,然后你实际运行一遍。公式能暴露假设,代码能给出可复现的结果;两者都比“它说等于 3.7”可靠。
验收不是“再看一眼”,而是按清单逐项过。清单可以短,但必须事先写下来,否则你会不自觉地只看最显眼的部分。
| 任务类型 | 风险 | 建议做法 | 验收动作 |
|---|---|---|---|
| 格式转换、命名、分类 | 低 | 可直接用 | 抽检 10%,看边界样本 |
| 摘要、改写、提纲 | 低—中 | AI 出初稿,人定稿 | 对照原文查遗漏与曲解 |
| 代码脚手架、测试样例 | 中 | AI 生成,人运行 | 实际跑通,补边界用例 |
| 数据整理与计算 | 中—高 | AI 写公式 / 代码 | 重算、核单位、核口径 |
| 文献综述、事实报告 | 高 | AI 辅助,人主导 | 逐条溯源,打开原文 |
| 对外发布的内容 | 高 | 人负最终责任 | 事实、版权、语气三重检查 |
| 医疗、法律、投资建议 | 极高 | 不作为决策依据 | 交给持证专业人士 |
| 涉及隐私或商业机密 | 极高 | 只用合规环境 | 确认数据流向与留存策略 |
“AI 写的,所以一定不能直接用。”
问题不在来源,而在验收。低风险、可验证、可返工的任务,完全可以直接用;高风险任务才需要逐条核对。
“我加了‘请确保准确’,它就会准确。”
这是一句愿望,不是可执行约束。约束要具体到“每个数字标注来源,找不到就写未找到”。
“它给了链接,说明内容是真的。”
链接可能不存在、打不开,或与断言不对应。必须打开来源,确认原文确实支持这句话。
“数字看起来合理,应该就对了。”
量级、单位、口径、日期任何一项错,数字都会“看起来合理”。必须重算并核对定义。
“让 AI 自己检查一遍就行。”
同一个模型、同一份上下文,往往共享同一个盲区。自检只能补充,不能替代外部证据与独立重算。
“只有能力弱的任务才需要人。”
恰恰相反。影响越大、越需要担责的任务,越需要人参与验收与签字。
“用了 AI,我就不用负责了。”
交付物署名是谁,责任就在谁。AI 不是责任主体,也不能替你承担后果。
“一次通过,就可以固化成流程。”
一次通过只是样本内成功。要固化成流程,还需要样本外测试、边界条件和失败回退方案。
找一段 AI 生成的、含至少三个数字的文案。先不判断真假,只做三件事:把每个数字圈出来,写下它的单位与口径,再找一个能独立重算的来源。做完你会发现,真正花时间的不是“读”,而是“核”。
这一课是方法课,术语都当场解释过;机制类词汇沿用 A02,不再重复。全课总索引见 A07 · 术语对照表。
| 术语 | 本课状态 | 在哪里讲透 |
|---|---|---|
| 断言 / 溯源验收 | 讲透 | 本课 05 节 |
| 口径(同比 / 环比 / 含税 / 分母) | 讲透 | 本课 06 节 |
| 可复现 / 风险分级 | 讲透 | 本课 01、08 节 |
| 幻觉 / 知识截止 | 只提一句 | A02 大模型在做什么 |
| 检查点 / 人工复核 | 讲透 | 本课 03、04 节 |