
人工智能在编程领域的应用已极为广泛,项目维护者,尤其是开源软件维护者,正面临审查大量低质量代码的沉重负担。事实上,AI已能协助代码开发的全流程,包括编写规范、编码、查错及修复。鉴于编码和找Bug的话题已被广泛讨论,本文将聚焦于人机协作在规范制定和代码修复阶段的工作方式,以及人类在此过程中所需具备的核心技能。
让AI助手撰写规范
开发者不应手动撰写规范,而应与客户经理及客户直接沟通。人类在书面表达上存在局限:易跳过枯燥细节、产生疲劳、术语使用不一致(如混用“客户”与“客户端”),且常遗漏自以为是的假设。相比之下,AI具备人类所缺乏的耐心与严谨。
然而,人类开发者必须在规范中设定护栏(guardrails)或约束条件,即确保无严重错误进入代码的声明。每条护栏条款应包含“必须”或“禁止”的陈述,并附带证明(如测试用例、检查逻辑或审核人员)。缺乏证明的护栏毫无意义。由于产品经理往往无法周全考虑所有边界情况,开发者需明确:哪些事绝对不可发生?谁绝不能访问特定数据?智能体严禁触碰什么?
确立护栏后,可记录对话过程并由AI完成撰写。Plaud Note(可附着于手机背面)、可穿戴设备NotePin(专注面对面谈话)以及运行于电脑或手机上的Granola,在分析需求方面表现优异。这些工具能识别需求漏洞,反复追问边界情况(如字段为空时的处理、并发操作权限等),并将需求名词与程序员构建的本体论(Ontology)进行比对。
开发人员、产品经理和客户需共同阅读AI生成的输出,修正错误并补充缺失信息,通过多次迭代形成规范。实践表明,经此循环产生的规范比人工单独撰写的更为完整一致。Anthropic产品律师Mark Pike仅通过输入自然语言描述便构建了法律团队实用工具;StrongDM也指出,软件起点可以是“几句话、截图或现有代码库”。功能上线后应保留规范,以便后续版本迭代时追溯代码逻辑。
数据模式是规范的另一半
多数团队将数据模式视为单纯的管道工程,表名往往随意决定。这导致反映人类对话的规范中,同一事物可能被标记为客户、账户、客户端或组织。人类可通过上下文学习映射关系,但AI智能体只能猜测,导致结果不稳定。
因此,开发人员必须维护一份本体论(ontology),即关于程序操作对象、关系及访问权限的书面且可由机器检查的记录。以预约调度应用为例,本体论定义患者、医生、预约和时间段的关系:一名患者可预约多个时段,每个预约对应唯一医生,医生在同一时段不可有两个预约,且仅授权人员可查看或修改。本体论连接了商业需求、软件行为和信息存储,赋予AI编码智能体精确的定义。
创建本体论要求开发人员识别术语、消除歧义并就规则达成一致。建议从20个术语开始,利用AI从规范中生成术语映射。若规范中的名词未映射为类型,或类型缺乏规范证明,检查将失败。每条记录需明确访问权限,默认适用最严格权限。此外,应优先使用schema.org等标准词汇表,因为前沿AI模型对其理解远深于私有名称。
简而言之,高效流程为:利用AI根据客户要求制定规范;人类(辅以AI)开发本体论并创建一致的数据模式;最后生成并测试代码。反之,若基于模糊词汇让智能体编写代码,审查者将耗费大量时间猜测含义。本体论还有助于避免组织内不同部门对同一术语定义冲突的问题。
尽管缺乏类似GCC编译器那样的完美参考基准,但我们认为,规范和模式可作为解决此类问题的测试套件。
不要替AI收拾残局,构建自动处理工具
随着AI编码普及,一个智能体可在短时间内提交数千行代码的拉取请求(Pull Request),导致代码审查成本远高于编写成本。若依赖人工作为第一道防线,审查者易因瓶颈效应而草率浏览,使审查形同虚设。
我们不建议更严格地人工审查,而是让人类专注于高价值任务:阅读规范、验证测试框架及完善本体论。对于已通过测试的生成代码,人工审查性价比极低。OpenAI团队曾尝试每周花费一天时间手工清理“AI垃圾”,但发现此举不可持续。随后,他们将护栏设为“黄金原则”,部署智能体扫描过时文档并自动发起修复,同时将Lint消息转化为修复指令注入智能体上下文。这种活的检查机制不仅能在出错时拦截,还能指导智能体自我修复。
建议优先构建以下检查工具:
- 确定性构建的命令行界面:不依赖AI调用,确保高层级流程不偏离预期。
- 代码前关卡:若代码变更未伴随规范或模式变化,立即停止并询问原因。
- 二次检查:从头重建生成内容并与已提交版本比对。若Git发现异常差异,应调整护栏规则而非手写新代码。
- 每周漂移审计:列出引用不存在需求的规范、无证明的需求、未使用的模式术语及未命名需求的测试,标记可疑处供人类决策。
- 从捕获到永久检查的路径:如Sierra在构建客服智能体时,将专家标注的对话作为回归测试基础,确保每个Bug只发生一次并在未来被规避。
- 限制智能体行为范围:区分自动执行与建议操作,特定责任人的行动需签字说明理由,决策需提交提案。
StrongDM的实践证实了最后两点的重要性。为防止智能体通过return true等方式绕过狭窄测试,他们使用存储在代码库之外的端到端“场景”作为隔离测试,原理类似于由外部人员进行伦理违规调查。
目前,Shahid的检查工具仍存在不足,如未检查需求名称是否存在于规范中,且未运行持续集成服务。这些将是下一步构建的重点,也是人类开发者的核心工作。通过上述技术,原本失控的审查负担得以减轻,人类只需阅读带有证明的简短规范,其余交由机器检查。
在开发者职位描述中加入新内容
建议更新开发者职位描述,明确以下职责:
- 负责与客户经理及客户沟通,利用检查工具起草规范和护栏,直到每条需求都有证明。
- 负责本体论维护,确保规范中的单词均出现在最终模式中,否则视为Bug。
- 构建用于审计和修复仓库的检查工具,若仍在手工清理代码,说明工具功能缺失。
可在单个功能上尝试此流程。录音前需征求许可,Plaud和Granola均提供了相关合规指导。通常,知晓录音旨在准确获取需求的客户不会介意。
让检查工具起草规范,阅读其漏洞列表,核对名词与本体论,并添加能捕获最近手工修复Bug的检查项。若审查时间缩短且Bug数量持平,则证明该流程有效。
这一过程的本质与局限
本文基于Shahid的经验与观点,虽缺乏受控研究数据支持,但软件领域的许多最佳实践同样如此。我们相信,遵循此流程能提高生产力并更好地响应客户需求。
有人担忧这将使开发者沦为文书工作者,但我们认为恰恰相反。程序员将转向更高阶的任务,这些任务超越了传统的架构、编码和测试范畴。我们预测,未来几年内,大多数开发者都将从事类似的工作。