课堂上谈到AI参与变更时,我分享了一个自己实际使用的方式:让AI分析运行状态、提出优化建议、做风险分析并写出实施计划,我审阅后再决定是否执行。对于风险居中或偏低、方案清楚且可以回退的操作,AI可以在批准后完成实施;执行结束后,我再检查结果。表面上看,做事的主体变成了AI,我更像一名变更经理。
这个场景容易让人产生一个问题:既然分析、计划和执行都由AI完成,出了问题到底算谁的?答案不能是“AI干的”。智能体不是能够对业务后果负责的组织角色。企业选择了模型,配置了知识,开放了工具和权限,也决定了在哪些条件下允许它执行。最终责任仍然落在设计、批准和管理这套机制的人与组织上。
能力可以转移,责任不能悬空
传统变更流程里,申请人、审批人和实施人可能是不同岗位。这样分工不仅为了提高专业性,也为了形成制衡。AI出现后,申请、分析和实施可能由同一个智能体连续完成。如果组织只是为了提高效率取消原来的分隔,却没有补上新的控制,风险就会集中在一个看似聪明、实际上缺少责任资格的执行主体上。
人机协同中的责任边界,至少要区分建议权、批准权、执行权和验收权。AI可以拥有广泛的建议权,因为生成建议通常不会直接改变生产环境。执行权要按照风险逐级开放,只允许调用经过登记的工具和脚本。批准权应由明确的人类角色承担,尤其涉及生产中断、数据修改、安全权限和不可逆动作时。验收可以由AI先完成技术检查,但业务结果仍需要服务责任人或者用户确认。
这种划分不是为了让人在每一步都点一次“同意”。如果任何操作都要求人工确认,AI只会变成昂贵的操作提示器。更有效的做法是预先定义策略:哪些标准动作可以自动执行,哪些达到阈值后需要单人批准,哪些必须同行复核或者委员会评审。人在设计策略时承担责任,系统按照策略运行;只有超出边界时,再把决定交回给人。

批准的对象不能只是一段漂亮文字
生成式AI很擅长写结构完整的计划,但格式完整不等于方案可靠。审批人要看到支撑结论的证据:相关监控指标、最近变更、涉及的配置项、可能影响的业务、测试结果和回退条件。AI如果只给出“建议扩容、风险较低”这样的判断,人没有足够信息完成真正的批准。
因此,审批界面应尽量把证据与建议放在一起。AI引用了哪段日志、为什么判断是容量问题、准备调用哪个工具、参数是什么、预计改变哪些配置、什么现象会触发回退,都要能被检查。人批准的不是AI的语气,而是一组有来源、有边界、可追踪的操作。
对于重复性高的标准变更,还可以建立经过验证的模板。AI只能在模板允许的参数范围内填写和执行,不能临场改写关键步骤。如果需要偏离模板,就自动提升风险等级并请求新的批准。这样既利用了AI理解现场情况的能力,又用确定性的规则控制生产动作。
把“暂停”设计成一种能力
很多自动化方案只设计正常路径:收到指令、执行操作、返回成功。生产环境真正考验系统的,是结果与预期不一致时怎么办。人机协同流程必须给AI明确的暂停条件,例如关键指标突然恶化、返回结果无法解析、执行对象与计划不一致、依赖服务状态异常。达到条件后,AI应停止下一步,保留现场数据,并把已经完成和尚未完成的动作清楚交给人。
暂停不是失败。一个知道什么时候停下来的智能体,比一个什么都敢做的智能体更适合进入生产环境。相应地,负责人还要定期检查暂停记录。如果大量任务停在同一个节点,可能是操作手册不完整、接口返回不稳定,也可能是风险阈值设得不合理。调整之前要先找原因,不能为了提高自动完成率简单放宽限制。
验收和复盘同样有人负责
AI执行结束后,可以自动运行测试用例、比对配置、检查告警和生成变更记录。这些能力很有价值,因为人工在深夜窗口中容易疲劳,也容易漏掉细小变化。但技术检查通过以后,还要确认服务是否满足业务需要。某个接口返回正常,不代表用户的完整业务流程已经恢复。
发生失败时,复盘也不能归结为“模型判断错了”。团队要继续追问:给它的上下文是否完整,配置基线是否可靠,工具权限是否过宽,审批人是否看到了风险,测试用例是否覆盖关键业务。这样才能把责任落到可改进的设计上,而不是把AI当成新的背锅者。
责任设计还要覆盖模型和工具的变更。团队更换模型版本、增加新的知识库、调整提示词或者开放新的API,都会改变智能体的实际能力。原来被评估为安全的自动操作,升级后不一定仍然具有同样表现。因此,智能体本身也应被当作受控配置项:有版本、有负责人、有测试、有回退,重要调整按照变更流程管理。不能一边要求AI替我们遵循流程,一边让AI系统自身在流程之外随意变化。
在跨团队场景中,还要避免“批准人名义上负责,实际上看不懂”。审批人需要具备判断风险所需的业务和技术信息,也要有拒绝或要求补充材料的权力。如果系统只是把AI生成的长篇报告推给经理,要求在几分钟内点击同意,这并没有形成有效控制。好的审批应当突出差异、风险、不可逆动作和退出条件,把真正需要人判断的部分从大量自动生成的文字中分离出来。