AI 入门与 ComfyUI 出图课

A05 · 边界

AI 的能力边界

同事把一份 AI 写的报告直接发给了客户,你翻开第一页就看见一个查不到出处的数字。这一课不给能力榜单,只给一套分流与验收的方法:先判断该不该交,再判断交出去的东西能不能站住。

这节解决什么:拿到一个任务,你能在几分钟内判断该不该交给 AI;交付前,你有一张可执行的验收清单,而不是「看着还行」。

阅读时间约 12 分钟
前置知识读完 A02 更顺
学完能做什么做任务分流与交付验收

前置知识需要知道大模型会幻觉、知识有截止。若还不清楚,先读 A02 · 大模型在做什么。本课不重复机制,只讲怎么用。

值得交

结果可验证 · 错了可返工 · 材料拿得到 · 影响可控

别直接交

要人担责 · 没有依据 · 风险很高 · 无法复现

01先问四个问题,而不是先问“能不能”

“AI 能不能做这件事”几乎没有信息量。换成四个可回答的问题:结果能不能被独立验证?错了代价大不大?数据和工具齐不齐?出了事谁负责?任何一个答案不理想,任务就不该被原样交出去。

任务分流 · 从左到右判断,从上到下推进 ① 结果能被独立验证吗? 否 先别直接交付 是 ② 错了的代价可控吗? 否 必须人工复核 是 ③ 数据与工具齐备吗? 否 先补输入条件 是 ④ 责任能落到具体的人吗? 否 不要让它做决定 是 可以交给 AI:按风险等级验收,最终责任仍由人承担 任何一个“否”,都意味着要加人、加证据或换工具,而不是换一句更长的提示词。
这张图不是能力清单,而是交付前的检查顺序。越靠后的问题,越接近“责任”。

02值得交给 AI 的活

会议录音躺在文件夹里,没人愿意整理成待办;这句话你大概很熟。这类活材料齐、对错有标准、改起来也快,正是最该交出去的。

值得交的任务通常有四个特征:有材料、有标准、可返工、影响小。它们不要求 AI“什么都会”,只要求它在明确边界内把重复劳动做快。

有材料 整理与抽取

把会议记录整理成待办、从合同里抽取字段、把长文压成摘要。材料在手,结果可以对照原文检查。

有标准 格式化生成

标题草稿、周报骨架、邮件改写、代码脚手架。对错有明确标准,改起来也快。

可返工 批量初稿

一次生成十个版本,再由人选一个。失败成本低,人的判断仍在最后一步。

影响小 探索与发散

列方案、找角度、模拟反对意见。它负责扩大搜索范围,不负责拍板。

03容易翻车的活

它给你一条格式完美的参考文献,作者、期刊、年份齐全;你去查,查不到。这类活的问题不在文笔,在「必须精确」。

下面这些任务不是“永远不能用 AI”,而是不能把 AI 的输出直接当成最终交付。它们要么要求事实精确,要么要求有人担责,要么依赖模型看不到的实时状态。

事实密度高,且要求精确

文献引用、法规条款、财报数字、产品参数。模型能把格式写得非常像,但具体值可能编造。

高风险决策

医疗、法律、投资、安全。模型不掌握你的完整处境,也不能承担责任。

依赖实时状态

价格、库存、版本、新闻、政策。知识截止之后的变化,它看不到。

长链条、无人复核

多步自动化里,前一步的小错会被后一步放大。链条越长,越需要中间检查点。

对外交付且要署名

报告、方案、公开文章。最终署名的人,必须对内容负责。

04翻车通常不是“模型笨”

把失败都归因于“模型能力不够”,会错过真正可修的部分。常见原因有四类,按可修程度从高到低排列:

A输入缺失

没给材料,或给的材料不相关、被截断。先补输入,比换模型有效。

B目标模糊

“写得好一点”没有验收标准。改成“不超过 300 字、面向家长、必须包含三个步骤”。

C链条过长

一次让它完成检索、分析、写作、校对四件事。拆开做,中间加检查点。

D标准主观

审美、品味、战略取舍。模型可以给选项,但不能替你承担判断。

一个反直觉的事实

模型不会主动告诉你“我缺什么”。它更倾向于用现有信息硬答。所以补输入、拆步骤、要求它标注不确定,都是人的工作,不是模型的自发行为。

05验收事实:每条断言都要能落到来源

事实性内容的验收,不是“再读一遍觉得对不对”,而是把输出拆成可核对的断言。断言就是一句话里能被单独查真假的最小陈述,比如「某研究 2023 年发表」。推荐四步:

  1. 1
    拆句

    把一段话拆成最小事实单元:谁、在什么时间、做了什么、数据是多少。

  2. 2
    标源

    每条断言后面标出来源。没有来源的,默认当成“待验证”。

  3. 3
    打开

    真的打开来源,确认里面写了这句话,而不是只有标题相关。

  4. 4
    区分

    分清“原文说了”与“模型推断”。推断可以保留,但不能伪装成事实。

待验证

“某研究在 2023 年发现,喝咖啡能把工作效率提高 40%。”

可交付

“该研究 2023 年发表于某期刊,样本为 120 名成年人,结论是‘自我报告的工作效率评分平均提高 12%’,不是 40%,也不能外推到所有人。”

示例中的研究、期刊、样本与数字均为虚构,只用来演示“断言—核对—改写”的句式。真实交付时,请替换为核实过的来源与原文表述。

三条“不接受”,能挡掉大部分事实性翻车:

06验收数字:重算、单位、口径、日期

数字是最容易被“看起来合理”骗过去的部分。四项检查,按顺序做:

重算

用计算器或代码重算一遍。不要心算,也不要让同一个模型“再算一次”。

单位

万 / 亿、元 / 美元、% / 百分点。单位错一位,结论可能完全反过来。

口径

同比还是环比?含税还是不含税?分母是谁?口径不同,数字不能直接比。

日期

数据截止到哪一天?季度数据有没有年化?把日期写进交付物,避免被误读。

一个实用习惯

让 AI 把计算过程写成公式或代码,然后你实际运行一遍。公式能暴露假设,代码能给出可复现的结果;两者都比“它说等于 3.7”可靠。

07验收文本、代码、图片:各自看什么

文本
  • 事实断言是否都有来源
  • 逻辑有没有跳步、循环论证
  • 语气与受众是否匹配
  • 格式、长度、必含项是否满足
代码
  • 能不能实际运行
  • 边界输入与异常路径
  • 依赖、版本、许可证
  • 有没有安全问题或数据泄露
图片
  • 手指、文字、结构是否崩坏
  • 主体一致性是否达标
  • 分辨率与用途是否匹配
  • 素材、风格、肖像的授权

验收不是“再看一眼”,而是按清单逐项过。清单可以短,但必须事先写下来,否则你会不自觉地只看最显眼的部分。

08风险分级表

任务类型风险建议做法验收动作
格式转换、命名、分类低可直接用抽检 10%,看边界样本
摘要、改写、提纲低—中AI 出初稿,人定稿对照原文查遗漏与曲解
代码脚手架、测试样例中AI 生成,人运行实际跑通,补边界用例
数据整理与计算中—高AI 写公式 / 代码重算、核单位、核口径
文献综述、事实报告高AI 辅助,人主导逐条溯源,打开原文
对外发布的内容高人负最终责任事实、版权、语气三重检查
医疗、法律、投资建议极高不作为决策依据交给持证专业人士
涉及隐私或商业机密极高只用合规环境确认数据流向与留存策略

09常见误解

  1. “AI 写的,所以一定不能直接用。”

    问题不在来源,而在验收。低风险、可验证、可返工的任务,完全可以直接用;高风险任务才需要逐条核对。

  2. “我加了‘请确保准确’,它就会准确。”

    这是一句愿望,不是可执行约束。约束要具体到“每个数字标注来源,找不到就写未找到”。

  3. “它给了链接,说明内容是真的。”

    链接可能不存在、打不开,或与断言不对应。必须打开来源,确认原文确实支持这句话。

  4. “数字看起来合理,应该就对了。”

    量级、单位、口径、日期任何一项错,数字都会“看起来合理”。必须重算并核对定义。

  5. “让 AI 自己检查一遍就行。”

    同一个模型、同一份上下文,往往共享同一个盲区。自检只能补充,不能替代外部证据与独立重算。

  6. “只有能力弱的任务才需要人。”

    恰恰相反。影响越大、越需要担责的任务,越需要人参与验收与签字。

  7. “用了 AI,我就不用负责了。”

    交付物署名是谁,责任就在谁。AI 不是责任主体,也不能替你承担后果。

  8. “一次通过,就可以固化成流程。”

    一次通过只是样本内成功。要固化成流程,还需要样本外测试、边界条件和失败回退方案。

10自检清单

验收演练

找一段 AI 生成的、含至少三个数字的文案。先不判断真假,只做三件事:把每个数字圈出来,写下它的单位与口径,再找一个能独立重算的来源。做完你会发现,真正花时间的不是“读”,而是“核”。

11本课术语台账

这一课是方法课,术语都当场解释过;机制类词汇沿用 A02,不再重复。全课总索引见 A07 · 术语对照表。

术语本课状态在哪里讲透
断言 / 溯源验收讲透本课 05 节
口径(同比 / 环比 / 含税 / 分母)讲透本课 06 节
可复现 / 风险分级讲透本课 01、08 节
幻觉 / 知识截止只提一句A02 大模型在做什么
检查点 / 人工复核讲透本课 03、04 节