一句话定义
人类检查点把关键判断留给人,防止自动流程把错误一路放大。
机制 / 原理
越靠近安全、质量、发布和价值判断,越需要人工确认。
经典实验 / 例子
本书案例:人要坐在导演椅上。AI 可以生成初稿、整理资料、运行脚本和重复检查,但目标取舍、质量判断、发布决定仍要由人确认。尤其在内容写入、文件删除、外发邮件、公开发布这类动作前,工作流要设置人工检查点,防止错误被自动化放大。
书中案例出处
人坐导演椅
核心原文线索
人坐导演椅
案例现场复述
多 skill 工作流中,人负责关键取舍和最终确认,智能体负责执行和初稿。
为什么重要
人工检查点防止自动化把错误批量放大。
生活中的例子
引申案例:自动生成课程时,系统可以连续产出卡片、题目和审查报告,但正式写入网站前必须有人看替换计划、审查结论和样张预览。这个检查点把“批量生产”控制在施工区内,不让问题直接进入用户可见页面。
常见误区
误区:自动流程越少打断越好。 关键判断如果不让人确认,错误会被后续步骤放大。涉及发布、安全、价值判断和高成本写入时,要设置人工检查点。