一句话定义
技能退化与过度信任是人长期远离直接操作和真实反馈后,判断、警觉和恢复能力下降,同时又更容易相信机器。自动化越可靠,越可能让人失去发现它不可靠的能力。
机制 / 原理
人类技能依赖持续感知和练习。自动化把人移到安静的控制室或后台面板,减少触觉、声音、气味和直接试错;系统长期正常,又让人降低警觉。假警报太多会让人忽视系统,错失太多会让人不信任系统。设计要用信息化增强技能:保留关键反馈、安排有意义参与、显示不确定性,并让人定期练习接管。
经典实验 / 例子
工厂自动化后,工人从生产线旁进入安静的空调控制室,只能看仪表和显示器。过去他们能通过机器声音、气味和手感预测问题,现在这些直接经验消失,发现和纠正异常的老练判断也不再容易发挥。
书中案例出处
工厂自动化与火警误报
核心原文线索
工厂自动化与火警误报
案例现场复述
自动化让工人失去直接经验,假警报和错失又会破坏人对系统的信任。
为什么重要
它说明自动化设计要维护人的判断能力,而不是只追求少参与。
生活中的例子
客服质检 AI 连续几个月自动给通话打分,主管只看总分排行。后来系统把方言口音误判成态度差,团队才发现人工复核能力退化,没人会抽样听原录音。新增随机复核和模型不确定提示后,误罚明显减少。
常见误区
误区:越少让人操作,越能避免人为错误。 完全移除练习和反馈,会让人更难在机器失败时发现问题并恢复系统。