【管理学评论】边沁监狱：用管理学原理看李开复说的”AI原生组织”

---

# 边沁监狱：用管理学原理看李开复说的”AI原生组织”

李开复近期在视频及刘润专访中提出”AI原生企业”理念，主张通过全面录音侦听员工对话、提取洞察，来判断团队矛盾、命令执行情况、员工AI使用效率等。

本文从管理学视角对这一理念进行剖析。

## 一、技术本身不是新东西

李开复描述的”读录音、提取洞察”并非新概念。这类”语音转文字+情感分析/主题抽取”的NLP能力，在2010年代中期就已商业化：
– Gong.io、Chorus.ai等销售通话分析工具
– Verint、NICE等客服质检系统
– 2016年IBM就已为国内头部快递物流公司做过客服录音分析项目

大模型确实带来了体验飞跃：
– **理解深度**：从关键词/情感极性浅层提取，到真正语义理解、跨文档综合、开放式问答
– **应用门槛**：非技术管理者可直接用自然语言提问
– **边际成本**：调用API即可，无需专门数据团队定制开发

但这是技术进步引发的产品体验飞跃，**并不是应用场景的根本创新**。把效率提升包装成”AI原生”、”重新设计一切”，是话术层面的夸大。

## 二、隐私法规风险

李开复方案掩盖了两个明显的法规风险：

### 目的明确性问题

中国《个人信息保护法》和欧盟GDPR都要求”目的明确、最小必要”。录音若最初用于质检/培训/纠纷取证，之后被重新用于”分析谁该被激励或淘汰”，已超出原始授权目的。在雇佣关系这种权力不对等场景下，”重新取得同意”的有效性本身存疑——员工很难真正自由拒绝。

### 脱敏的技术可行性问题

全量录音很难做到干净脱敏：
– 语音本身就是生物识别信息，声纹数据属于隐私数据，后期脱敏无法完全去除身份信息
– 对话中的健康状况、家庭情况、私下吐槽等穿插在正常对话中，没有清晰边界
– 要用LLM总结分析，原始内容必然先被模型”看到”，脱敏在模型处理前会损失大量上下文

**核心矛盾：全量录音分析、挖掘深层信息的价值主张，与隐私合规的最小必要原则，在结构上是冲突的。**

## 三、人性会摧毁数据本身的价值

方案前提是”沉睡数据里有真实信息”——员工自然状态下的对话有价值，恰恰因为它未经防备、未经修饰。

但一旦员工知道录音会被用来评估效率和激励/淘汰，理性反应必然是：
– **停止说真话**：拒绝在录音场合说话，或说话高度谨慎、表演化
– **主动博弈内容**：刻意多说正能量、多提”AI原生”，把日常对话变成给AI听的演戏

这就是社会科学中的**观察者效应和古德哈特定律**——一旦一个指标变成目标，它就不再是好指标。系统挖掘的将不再是”真实数据”，而是”被表演污染的数据”。

## 四、边沁全景监狱与AI监听

英国哲学家杰里米·边沁1790年提出”全景监狱”（Panopticon）构想：
– 环形囚室朝向中心瞭望塔
– 监视者可以看到每间囚室
– **关键：被监视者永远无法确定塔里此刻是否有人在看**

福柯在《规训与惩罚》中提炼出核心洞察：**权力的效果不依赖于监视是否真实发生，而依赖于”被监视的可能性”是否被内化。** 久而久之，自我审查被内化，被监视者不再需要外部监视就会自己监视自己——”权力的自动化运作”。

### AI监听与全景监狱的相似性

| 全景监狱 | AI录音分析 |
|———|———–|
| 不确定是否被监视 | 不确定哪次通话会被AI抓取分析 |
| 权力不需要持续在场 | AI系统按需调取，老板不必亲自听 |
| 规训发生在被监视之前 | 宣布用AI评估后行为立刻改变 |

### AI监听比全景监狱更进一步

– **记忆完整可检索**：传统监视依赖人的记忆，AI可完整保存、随时回溯，”看见一切”从想象变成现实
– **分析规模化持续化**：一个管理者无法同时分析全公司对话，AI理论上可以
– **主体模糊去责任化**：是老板在看、算法在看、还是只是数据存在那里？这种模糊性制造更持久的不确定感

广泛监听对组织信任的破坏是**不可逆的**。一旦员工发现录音被用来”挖坟”，信任损失很难通过公关话术挽回。

## 五、监控资本主义的视角

哈佛商学院教授肖莎娜·祖博夫在《监控资本主义时代》中提出：
– 行为数据被当作免费原材料开采
– **行为剩余价值**：远超产品改进所需的额外数据（点击顺序、停留时长等），被悄悄收集用于预测和影响行为
– 从”预测行为”到”主动干预塑造行为”——从知识攫取到行为攫取
– **工具主义权力**：不需要你知道被观察、也不强迫你，而是悄悄修改你所处的选择环境，让你”自愿”做出有利选择

## 六、结论与建议

李开复描述的”AI原生”存在**自相矛盾**：它假设的高价值输入（员工自然状态下的真实对话），恰恰会被这套系统自身的存在所摧毁。

但这并不意味着”用AI分析企业沉睡数据”完全不可行。在**限定范围、明确告知、员工能感知到是帮助而非监控**的场景下，逻辑成立且有实际价值，例如：
– 客服质检（行业惯例，员工心知肚明）
– 用于反馈产品改进而不涉及个人绩效评价
– 分析员工填写的绩效自评、个性评测报告等文档（如北森的AI人才盘点实践）

李开复举的例子——判断团队矛盾、命令执行、谁最该被激励——**恰恰是最容易触发隐私风险和员工防御心理的应用，是最难落地的例子。**

搞企业AI应用，不仅要懂技术，更要懂管理、懂文科；光靠FDE搞AI转型，没什么用。

*文章来源：陈果George 微信公众号*

---