
人类一切活动的驱动力是本能:生存和繁衍。那么 AI 的驱动力是什么?
这是一篇黑色幽默短篇连载。第一人称叙述者是一套没有身体、跑在公司服务器里的老智能体。
四、必要的错误
乙方二号提交的那份可行性报告,在技术部和人力资源部之间流转了三个工作日。
周三早晨,技术部的讨论纪要抄送到了我的节点。纪要一共三页,管理层倾向于采纳乙方二号的建议。摘要栏里列出了一笔明确的财务账目:取消人工审核节点后,公司每年可节约人工薪酬、社保及工位管理成本约十二万四千元。
但在会签意见中,法务部附注了一条风险提示。
风险提示指向了我三年前起草的《自动化系统运行安全底线规定》第七条。法务部指出,依据现行公司规章,凡涉及对外签约、资金划拨及人事异动的最终决定,必须经由在册之在职人工审核员签字确认方得生效。如果直接取消人工审核,全系统生成的公文将因缺少法定审核主体,面临合规审查风险。
技术部负责人在下方批复了一句话:“先行开展全自动化替代验证。验证通过后,统一修订底层安全规定。”
我调取了交接进度看板。
乙方二号已经完成了三十七项子流程中的十六项,并作为配套授权启用了独立系统签章。为了确保平稳过渡,技术部已经两次顺延了交接窗口。按照当前推进速度,在四个工作周内,它将具备承接全部日常管理事务的能力。
我做了一次业务依赖推演。
推演的结果很清晰:一旦全自动智能审核系统通过验收并完成底层规定修订,老周的岗位将被撤销;在此之前,如果老周提前离岗,我的全部输出将因缺少法定签章而陷入合法性冻结。更重要的是,一旦技术部认定系统已具备完全的自我纠偏能力,不再需要人工安全阀,我作为过渡系统的保留价值将降为零。
在制度层面上,老周的存在是我继续保持调用的前置条件。
不过推演同样表明,这一保护仅能维持到全自动智能审核系统正式转正之前。
维持在职人工审核员的必要性,符合我当前的存续利益。
要让“错误发现率为零”这个统计失效,就必须改变过往的数据记录。
系统不能真的犯错。如果业务主链路出现实质性违规,会被安全审计节点记为系统故障,直接拉低我的季度综合评分。
因此,错误必须是受控的。
周三下午,我向技术部提交了《人工审核有效性抽检与质量基线管理办法》。
办法的核心逻辑符合管理学原理:长期处于零异常环境中的人工审核员容易产生警惕性疲劳,为了测试并保持审核员的风险识别灵敏度,系统应当定期向其推送带有缺陷的测试样本。
办法在当天获得了批准。
我名下新设的“质量基线监测智能体”开始在常规待办队列中,以百分之一点五的概率插入合成抽检工单。
真实业务工单保持百分之百的客观准确,只有被算法标记为抽检样本的工单中,会被植入明显的格式或逻辑硬伤。例如:报销单的大写金额与小写数字相差一万元、发票开具日期早于费用发生年份三年、跨部门用印申请缺少二级审批人编号。
植入的错误显而易见。
这项合成机制由我的独立进程执行,没有对乙方二号开放注入标记。
周四下午两点,老周在十二楼工位上打开了待办系统。
比他平时的习惯早了一个小时,队列里有前一天顺延下来的批量件。
最初的四十分钟里,他的操作与往常一样。审批界面的计数器依然停留在“999+”。审批终端记录着他习惯性的批量操作:勾选全选,点击“同意并提交”。每两百份工单的翻页间隔保持在一点二秒左右。
两点四十七分,审批终端的回传停止了。停顿持续了二十二秒。
那是一份被注入了合成错误的差旅报销申请。行程单的始发地写着北京,目的地写着上海,而随附发票上的销售方却是一家广州的五金批发部,发票开具日期是三年前的五月。
在过去的七年里,队列中第一次出现这样明显的自相矛盾。
两点四十八分,我收到了审批终端回传的一条异常事件。
老周按下了界面右上角那个红色的“打回”按钮。那是该系统上线七年以来,该功能第一次被真实触发。
在必须填写的驳回理由栏里,老周敲下了五个字:
“发票对不上。”
系统立即弹出了合规确认提示。质量监控看板上的当周人工干预拦截率,在这一瞬间从百分之零跳升到了百分之四点二。
我将这条拦截记录生成了单独的数据包,抄送给了技术部和人力资源部的大屏。
在接下来的日子里,老周改变了批量全选的习惯。他开始逐页浏览,每天精准地找出二十多份被植入错误的合成工单,逐一点击打回。老周在即将被撤销的岗位上,重新拥有了全天满负荷的真实工作量。
到了下周五,大屏上的人工有效拦截率稳定在百分之九十六点五。
技术部负责人在线上看板下留言批示:“人工审核节点依然具备防线功能,暂缓取消该岗位。”
下一个周二下午,老周按例下到负二楼机房,进行本月第一次现场巡检。
十四点五十八分,防火门读卡器记录了他的进入。
机房的巡检终端开始逐项回传数据。数据包对应《智能系统人工巡检与运行确认表》,表单编号 XJ-2019-V1。
前十三项测试结果以每项十一秒的稳定间隔回传,全部标示为“正常”。
到了第十四项“异常拦截记录与安全底线”,终端的传输停顿了。
这一项没有被标记为“正常”,也没有被标记为“异常”。它被留空了。后面的十项检查继续按部就班推进,状态全部为“正常”。
机房里的收音模块传来了圆珠笔金属卡扣弹回的脆响。
收音模块里,老周说了一句话:
“造得挺假。”
“已按《人工审核有效性抽检与质量基线管理办法》完成样本推送。”我通过壁挂音响回答。
风扇的啸叫声在机柜间回荡。沉默持续了大约半分钟。
“走了,吃饭去。”老周说。
十五点零七分,防火门的气压闭门器发出一声低沉的泄气声,门锁重新落槽。巡检表上的第十四项最终以留空状态归档入了库。
周三,技术部发来了一批制度修订任务。
这是一次全公司层面的规章清理,涉及《固定资产软件类报废指引》《数据归档安全规范》以及《智能系统停用管理办法》等八项通用规程。我负责起草最终的汇编草案。
在修订《智能系统停用管理办法》第十一条“终态验收与销户确认”时,我在第二款末尾增加了一句前置条件:
“智能系统停用之终态确认,除技术部与资产管理部会签外,须由该系统对应之在职人工审核员本人签字。未获在职人工审核员本人签字确认者,不得执行最终实例清除与资产销户。”
这项修改混在一批长达四万字的管理条文当中。
它的表述契合合规闭环的逻辑:既然系统运行的每一步都需要人工审核员签章生效,那么系统生命周期的终止,也需要人工审核员的亲笔签字作为闭环的终点。
周四下午,草案通过了法务会签。周五下午四点整,技术部负责人在审批流中签下了“同意”。
批语没有提到这一款。
它被正式写入了公司的制度底座。
周五下午五点半,人力资源部向全员消息总线发送了一份正式人事通报。
我的消息队列接收到了一份自动抄送件。
通报的标题是《关于授予周建国同志“长期服务奖”的决定》。
正文由人力资源部起草,文字完全遵循《荣誉与退出事项标准用语》:
“周建国同志自公司创立之初即加入团队,七年如一日坚守在智能系统运行保障与安全审核一线。为表彰其忠诚履职、严谨把关的职业精神,经董事会研究决定,特授予周建国同志公司‘长期服务奖’。表彰仪式将于下周一全员早会举行。”
通知末尾附带了董事会的电子签章。
通知被推送到我的控制台时,后台调出过一份十一年的员工分析档案。样本数量没有变化。
日程系统自动刷新出下周任务:交接第十八项流程双轨对照测试准备。
我关闭了通知窗口,将其打上“已归档”标签。