
人脑是高效的优化器,倾向于依赖轻松达成目标的路径。正如智能手机普及导致人们不再记忆电话号码,过度依赖AI代笔也会削弱写作带来的认知深化价值。作为创新学教授,笔者虽利用AI进行翻译、检索和概念清晰度评估,但坚持亲自撰写文章,以保护这项如同肌肉般需持续锻炼的核心技能。
这一逻辑同样适用于企业管理。若AI替管理者做出所有选择,可能削弱其判断力。有效的行为取决于目标,有时系统克制才是最优解。当应用从个人转向企业,AI能否在干预适得其反时止步,成为关键考量。这种能力虽在产品演示中缺乏视觉冲击力,却在实践中极具价值。
警惕“过度热心”的销售代理
设想一个自动化销售代理:识别到客户即将续约时,它迅速审查账户、发送个性化邮件并提供折扣。这一流程看似高效,但若客户本就会续约,此举不仅浪费互动机会,还可能因冒犯客户或不必要地让渡利润而产生负面影响。即使任务执行完美,介入决策本身可能是错误的。
与真人合作类似,经验丰富的员工深知何时跟进、何时静默。这种基于无数迭代积累的判断力,是企业付费购买的核心价值。然而,当前对AI的评估往往被可见的活动量——如生成消息数、完成任务数——所迷惑。这如同误判一名过度活跃员工的价值:发送消息翻倍,并不代表价值翻倍。
微软研究人员在《何时显示建议?将人类反馈整合到 AI 辅助编程中》一文中,基于535名程序员的数据发现,以建议接受率为优化目标可能导致建议质量下降。让人接受更多帮助,并非衡量AI真正提供价值的完美指标。
学习何时介入与“等待”的价值
理想的系统应能从历史案例中学习,识别哪些干预对特定客户有效。部分客户偏好自主决策,厌恶被“指导”;部分客户则依赖特定渠道或固定销售代表。当前AI擅长生成内容,却普遍缺乏基于情境分析后决定“什么都不做”的能力。
因此,企业在部署AI时,需明确系统旨在改善的结果,并设计严谨的方法判断其行动是否真正有益。简单的交互历史存储无法解决因果归因问题,一封邮件后的续约未必由邮件促成。这需要精心设计的实验对比,并维持必要的“人在回路”(human-in-the-loop)监督,以防遗漏警告或未回复投诉带来高昂代价。
目前,尚难见到能全面审查ERP或CRM证据后,主动决定“不联系客户”以避免情况恶化的AI系统。理想状态下,这种基于累积经验的“不作为”决策权应保留在企业控制之下,确保数据资产不因模型或供应商更换而流失。尽管缺乏戏剧性的产品演示效果,但这才是符合长期利益的商业逻辑。