世界由“既聪明又在乎”的实干家维系

一个被反复验证的真理是:世界的运转依赖于那些既聪明又在乎的人。每当审视那些勉强维持运作的复杂系统时,这一真相便格外鲜明。

在 Stripe 工作期间,我深入了解了银行及资金流转系统。以自动清算所(ACH)为例,这个日常依赖的基础设施老旧、漏洞百出且背负沉重历史包袱,但通常仍能安全、廉价且可靠地运行。这种技术现实与功能表现之间的巨大落差,归因于单一因素:那些具备亲密系统认知、并拥有迫使系统正常运行决心的实干家。他们通过修复、打补丁、绕过限制或手动处理,填补了系统的每一个裂缝。

关心驱动深入了解,而深入了解又加剧了对关键基础设施的关切。这一逻辑适用于从大型基建到应用程序的所有复杂系统。若抽离这些人,系统将不可避免地崩溃。

近期故障频发背后的共同线索

崩溃正在发生。过去一周左右,微软 365、空中交通管制、联合航空、美国国家安全局(NSA)、多家主要银行及苹果系统等接连出现故障。尽管外界称这些事件互不相关且非网络攻击或生成式 AI 直接所致,但经验表明,所有中断背后有一条共同线索:既聪明又在乎的人太少了。

资本主义向来未善待这类人才,但出于必要性曾将其纳入体系。然而,生成式 AI 的出现改变了这一平衡。在管理层眼中,机器更便宜、工时更长、无需福利且从不反驳糟糕主意。对于远离一线的管理者而言,由实干家驱动力支撑的有缺陷系统,与 AI 生成的垃圾内容在输出层面看似无异——都是可读的文字、可运行的代码或顺眼的像素。

AI 无法替代的系统凝聚力

这种认知偏差极具危险性。生成式 AI 既不聪明,也不在乎。其看似智能的表现仅是基于公共数据训练的统计幻觉,其底层逻辑冷漠且无情。相反,实干家能洞察细节、连接断点、察觉异常并处理边缘情况。他们知道何时需投入额外努力以扭转局势,正是这些因素将复杂系统凝聚在一起。更多的提示词无法替代这种深层的系统掌控力。

然而,面对 AI 炒作的压力,领导层倾向于相信机器能兑现承诺。解雇实干家或让他们转而“监护”大语言模型,不仅剥夺了他们构建和学习的机会,也切断了他们对系统的归属感。每一个 AI 生成输出的引入,都削弱了人员对系统实际运作方式的理解。

我们正从依赖实干家维系的脆弱世界,转向由 AI 运行的脆弱世界。操作 AI 的人员缺乏足够的智慧与关切,随着这类关键人才数量的持续下降,系统失败将成为常态。

这构成了资本主义的“烫手炉时刻”。警告并未被听进,只有烫伤才能带来教训。不幸的是,此刻所有人都正被烫伤。