一句话定义
情境意识缺口是机器只能根据可测信号推断世界,却把信号当成目标、原因或意图。机器看见了动作,不代表知道人为什么这样做。
机制 / 原理
传感器擅长测量光线、距离、重量、运动、频率或记录数据,但人的目标常藏在场景、关系和计划里。设计团队只能预先想象可能状况,再把规则写进系统。只要真实情境超出预设,机器就可能把局部信号解释成完整事实,随后给出强制、冒犯或危险的行动。
经典实验 / 例子
冰箱知道主人取出鸡蛋,也能连接体重计和诊所记录,发现胆固醇偏高,于是阻止他吃鸡蛋。它测到的是取蛋动作和健康数据,却不知道鸡蛋可能是给客人、孩子或一道菜准备的。机器把可测信号当成人的目的,才显得蛮横。
书中案例出处
冰箱不让主人吃鸡蛋
核心原文线索
冰箱不让主人吃鸡蛋
案例现场复述
冰箱掌握健康记录和取蛋动作,却不能知道鸡蛋真正用途。
为什么重要
它说明传感器数据和人的目标之间必须保留不确定性。
生活中的例子
健身 App 发现用户连续三天没有跑步,自动推送“你又偷懒了”。实际用户膝盖受伤,医生要求休息。团队后来把运动数据、伤病备注和用户确认结合起来,只在目标仍有效时提醒,负面投诉明显减少。
常见误区
误区:传感器越多,系统越接近读心。 更多数据只是更多线索;没有任务背景和用户确认,机器仍可能把局部事实误当完整情境。