黄浦风云·算法审计困局：判决之后
第一章 法庭外的余震：法槌落下的那一刻，智愈科技cEo陈明远的指节在旁听席扶手上掐出了白印。他没等书记员念完判决书全文，就扯了扯价值不菲的西装领口，弯腰从人群缝隙里钻出去——身后传来记者们“陈总留步”的呼喊，像针一样扎在他背上。走到法院大门外，初秋的风裹着黄浦江上的潮气扑过来，他才发现自己手心全是汗，手机屏幕上跳着三条未读消息，全是投资方发来的“紧急会议”通知。
林砚之被围在审判庭中央，镁光灯晃得她眯起了眼。最先递话筒过来的是《黄浦科技报》的记者，小姑娘声音带着急切：“林处长，智愈科技被暂停全市业务，会不会导致部分医院AI诊断断供？”她还没来得及回答，另一个男声立刻插进来：“有外资背景的科技企业已经在打听，黄浦的伦理审查会不会越来越严，他们要不要转移研发中心？”
林砚之抬手压了压喧闹，目光转向旁听席最后一排——那里坐着三位穿白大褂的人，是市一院、二院的放射科主任，此刻正朝她点头。“大家先看那边，”她伸手指过去，“这三位是咱们黄浦顶尖医院的影像科负责人，开庭前我们聊过，他们最担心的不是AI断供，而是‘带病’的AI继续用。”她顿了顿，声音提高了些，“刚才判决书里说，智愈要补充罕见病数据、优化算法，这期间医院会启用备用方案——比如市一院已经联系了高校实验室，用经过伦理认证的开源AI系统过渡，不会影响患者就诊。”
“那投资环境呢？”又一个问题抛过来。林砚之从公文包里掏出一张折叠的A4纸，展开时边角还带着褶皱：“这是今天早上刚收到的，十家医疗AI企业联合提交的《伦理审计试点申请书》，其中包括本土龙头‘医准智能’，还有两家外资企业的中国分部。”她把纸举到镜头前，“他们在申请里写，‘明确的伦理规则比模糊的灰色地带更能吸引长期投资’。我想，这就是市场给的答案——真正的投资者，不会因为要保护患者生命就撤资。”
人群里响起一阵低低的议论声，有记者开始低头记录。林砚之瞥见人群外的小陈，姑娘正朝她比划“oK”的手势，手里拿着手机，屏幕上是“周明远教授来电”的字样。她趁机对记者们笑了笑：“后续的《AI医疗算法审计指引》会在下午的行业座谈会上公布，大家感兴趣可以去参加，现在我得处理点紧急工作。”说着就侧身从人群里退出来，快步走向电梯。
电梯里只有她和小陈两个人，镜面墙壁映出她们疲惫却挺直的身影。“周教授说，国家卫健委看到了黄浦的判决，想把‘脱敏审计’模式写进《科技伦理审查办法》修订草案，让咱们团队准备一份详细的操作报告。”小陈压低声音，语气里藏不住兴奋，“还有，智愈科技的投资方‘启明资本’刚发了声明，说要撤回对智愈的两亿增资，并且启动对陈明远的尽职调查。”
林砚之靠在电梯壁上，长长舒了口气。电梯下降时轻微的失重感里，她想起三个月前第一次见那三位误诊患者家属的场景——市一院的会议室里，张阿姨的女儿抱着母亲的病历本哭，说“要是AI能多看看那几张片子，我妈就不用遭化疗的罪了”；李大爷的儿子拍着桌子说“他们拿‘技术保密’当挡箭牌，就是拿人命当儿戏”。那时她还不确定，这场官司能不能赢，能不能真的改变点什么。
“对了林处，”小陈突然说，“刚才在法院门口，我看到智愈的cto赵伟了，他蹲在台阶上抽烟，手里攥着一份算法日志，好像在哭。”林砚之愣了一下，赵伟她有印象——庭审时他坐在陈明远旁边，全程低着头，只有在法官问“是否参与调整罕见病数据权重”时，才小声说了句“是”。“先不管他，”她定了定神，“下午的座谈会要提前半小时到，把《审计指引》的ppt再核对一遍，特别是‘动态审计’那部分，要把每季度提交报告的具体指标标清楚。”
电梯门打开，外面的阳光比法庭里亮得多。林砚之走出去时，手机突然响了，是个陌生号码，归属地是黄浦本地。她接起电话，那头传来一个沙哑的男声：“林处长，我是智愈科技的前算法工程师，叫王海。我……我有东西要给您，关于智愈算法的，可能比庭审时的证据更重要。”
第二章 智愈的崩塌
王海约林砚之在江边的一家咖啡馆见面。他来的时候穿着洗得发白的格子衬衫，背着一个旧双肩包，坐下时手还在抖，点了杯热美式，却一口没喝，只是反复摩挲着杯壁。“我上个月从智愈离职的，”他低着头，声音很小，“陈明远让我们把罕见病数据权重下调的时候，我就觉得不对劲，但我不敢说——我老婆怀孕了，要还房贷。”
林砚之没催他，只是把自己的温水推了过去：“慢慢说，你想给我什么？”王海深吸了口气，从双肩包里掏出一个银色的U盘，放在桌上推过来：“这里面是智愈算法的‘后门日志’。陈明远怕审计，让我们在算法里留了个口子——只要输入特定的指令，就能让系统在诊断时跳过罕见病检测模块，直接输出常见病结果。”他抬起头，眼睛通红，“上次庭审时，赵伟说‘系统缓存未清空’，其实是在撒谎，那天审计沙箱里的算法，根本没启用完整功能，是陈明远让他远程操作，开了后门。”
林砚之拿起U盘，指尖传来冰凉的触感。“你为什么现在愿意说？”她问。王海苦笑了一下，从口袋里掏出一张医院的缴费单：“我妈上周查出了肺淋巴管平滑肌瘤病——就是庭审时说的那种罕见病。我带着她去医院，医生说，要是用智愈的AI，大概率会误诊。那时候我才想明白，我当初写的那些代码，可能会害了我最亲的人。”
他的声音开始哽咽：“离职前，我偷偷把后门日志拷了下来，一直不敢交——怕陈明远报复。但昨天看到判决书，看到你说‘创新不能牺牲患者生命’，我觉得我得站出来。不然我妈要是知道我做过这种事，她都不会原谅我。”
林砚之把U盘收进公文包，拿出一张名片递给他：“这个U盘很重要，我会交给技术团队核验，之后可能需要你配合做个笔录。你放心，我们会保护你的个人信息，不会让智愈知道是你提供的。另外，你妈妈的病，我可以帮你联系市一院的呼吸科专家，他们对这种罕见病很有经验。”
王海接过名片，手指在“黄浦市科技局伦理监管处”的字样上反复蹭着，突然就哭了：“谢谢林处长……我一直觉得自己是个帮凶，现在终于能做点对的事了。”
从咖啡馆出来，林砚之立刻给老周打电话——老周是团队里的技术负责人，退休前是市信息安全中心的主任。“老周，你现在立刻回办公室，我带了个U盘，里面有智愈算法的后门日志，需要马上核验。”她语速很快，“另外，查一下智愈科技的服务器Ip，看看他们有没有在判决后偷偷删除数据。”
“好，我这就回去。”老周的声音里带着警惕，“刚才我监测到智愈的后台有异常流量，好像在往境外传数据，我已经截了包，正准备分析。”
挂了电话，林砚之打车往办公室赶。车窗外，黄浦江上的货轮缓缓驶过，岸边的梧桐叶开始泛黄。她想起庭审时陈明远说的“AI准确率98.2%”，突然觉得很讽刺——那2%的误差，对患者来说就是100%的灾难。
回到办公室时，老周已经在技术室等着了。小陈把U盘插进隔离电脑，屏幕上立刻跳出一串加密文件。老周戴上眼镜，手指在键盘上飞快敲击，代码像流水一样在屏幕上滚动。“找到了，”他突然停下，指着其中一行代码，“这里有个隐藏的触发指令，输入‘ZY-2024’，系统就会自动屏蔽罕见病特征提取模块。”他又点开一个日志文件，“你看，从2023年10月开始，这个指令被调用过17次，每次都是在医院突击检查或者客户试用的时候。”
小陈凑过来看，倒吸了一口凉气：“他们竟然早就留了后门？那之前的审计沙箱里，是不是也被调用过？”
“很有可能。”林砚之皱起眉，“老周，能不能根据这个后门，追溯一下之前有多少患者可能被误诊？”
老周摇摇头：“很难，智愈的诊断数据是碎片化存储的，而且他们已经删除了一部分2023年的日志。不过我们可以根据现有的病例，估算一个范围——按照他们的调用频率，保守估计有上百个罕见病患者可能被漏诊。”
林砚之沉默了一会儿，拿起手机拨通了市卫健委的电话：“王主任，我是林砚之。智愈科技的AI系统里发现了隐藏后门，可能涉及大量漏诊患者，需要你们协调各医院做一次全面排查……对，越快越好，特别是2023年10月之后用智愈系统诊断的患者。”
挂了电话，她靠在椅背上，闭上眼睛。小陈递过来一杯热茶，轻声说：“林处，你别太自责，这不是你的错。”
“我知道不是我的错，”林砚之睁开眼，眼底有红血丝，“但我总在想，如果我们早点发现，是不是就能少一些像张阿姨那样的患者？”她想起早上张阿姨女儿的电话，姑娘哽咽着说“妈妈最近咳嗽得更厉害了”，心里就像被什么东西揪着疼。
这时，办公室的门被推开，门口站着一个人——是智愈科技的cto赵伟。他头发乱糟糟的，眼睛红肿，手里提着一个黑色的电脑包，看起来像是一夜没睡。“林处长，”他声音沙哑，“我来交东西——智愈所有AI诊断系统的源代码，还有未删除的原始日志备份。”
林砚之和小陈对视了一眼，都有些意外。赵伟把电脑包放在桌上，拉开拉链：“陈明远跑了，早上的飞机去美国了，留了封信让我‘顶住’，但我顶不住了。”他蹲下来，双手抱着头，“那些代码是我带团队写了三年的，我看着它从一个小模型变成能在几十家医院用的系统，可陈明远为了业绩，一次次让我们改数据、留后门……我知道这不对，但我不敢反对，我怕失业，怕房贷还不上。”
“你现在交出来，是对的。”林砚之走过去，递给他一张纸巾，“这些代码和日志，能帮我们追溯更多可能被误诊的患者，也能帮其他企业避免犯同样的错。”
赵伟接过纸巾，擦了擦眼泪：“我还知道，陈明远在境外开了个离岸账户，里面转了不少钱，是用智愈的技术专利做抵押贷的。我把账户信息也存在这个U盘里了，交给你们。”他从口袋里掏出一个小小的U盘，放在桌上，“我已经跟律师咨询过了，主动配合调查可以从轻处理。我不想再帮陈明远背黑锅了，我想对得起自己写的代码。”
第三章 座谈会上的交锋
下午两点，行业座谈会在市科技局的大会议室召开。林砚之走进会场时，已经坐了大半的人——有医疗AI企业的负责人，有医院的代表，还有高校的专家，周明远教授也来了，坐在第一排靠中间的位置，朝她点头微笑。
小陈把《AI医疗算法审计指引》的纸质版分发给每个人，封面上印着蓝色的黄浦江大桥图案。林砚之走上讲台，打开ppt，屏幕上出现了判决书里的关键条款：“……智愈科技需于90日内完成罕见病数据补充（样本量不低于总数据量的5%），算法决策可解释性需达到ShAp值≥0.7……”
“今天请大家来，不是要批评谁，而是想和大家一起定规则。”林砚之的目光扫过全场，“《审计指引》里有两个核心点，我想重点说一下。第一个是‘动态审计’——高风险AI系统每季度要提交算法更新报告，报告里必须包含罕见病数据占比、决策可解释性指标，还有用户投诉处理情况。我们技术团队会随机抽查，一旦发现隐瞒更新或者数据造假，直接取消行业准入资格。”
台下立刻有人举手，是一家小型AI企业的老板，姓刘，之前在伦理审查意见征集时提过“成本太高”的异议。“林处长，我们公司就十个人，每季度提交报告、接受抽查，人力成本根本扛不住。能不能给小企业放宽点期限？”
林砚之早有准备，她点击ppt，切换到下一页——上面是“伦理审计帮扶计划”的细则：“我们联合了市科技金融集团，对参与试点的中小企业提供两方面支持：一是免费的审计技术培训，二是最高50万元的合规补贴，用于购买加密模块、补充数据。另外，我们还搭建了‘算法共享池’，里面有经过伦理认证的基础模型，小企业可以在此基础上二次开发，能省不少成本。”
刘老板点点头，没再说话。这时，周明远教授举手了：“砚之，我想问一下，‘决策可解释性’的指标是怎么定的？ShAp值≥0.7，有没有考虑到不同疾病的差异？比如罕见病的样本少，模型解释性可能天生偏低。”
“周教授这个问题提得好。”林砚之笑了笑，“我们和高校团队做过调研，罕见病的ShAp值可以放宽到≥0.6，但必须附加‘人工复核’条款——用AI诊断罕见病时，必须有两名副主任以上医师签字确认。另外，我们会建立‘罕见病数据联盟’，由市一院牵头，联合企业、高校收集罕见病病例，逐步提高模型的解释性。”
她的话刚落，会场后排传来一个女声：“林处长，我能说两句吗？”所有人都转过头，只见一个穿米色风衣的年轻女人站起来，手里拿着一个笔记本——是张阿姨的女儿，叫苏晓。林砚之愣了一下，随即朝她点头：“当然可以。”
“我是一名患者家属，我妈妈因为智愈的AI误诊，错过了最佳治疗时间。”苏晓的声音有些发抖，但很坚定，“我今天来，不是要抱怨，而是想跟各位企业老板说——我们患者不怕AI有缺陷，怕的是你们隐瞒缺陷。我妈妈就诊时，医生说‘AI诊断准确率98%’，我们信了，结果……”她顿了顿，深吸了口气，“如果当时智愈能说‘这个病是罕见病，AI可能不准，建议人工复核’，我妈妈就不会走到今天这一步。”
会场里安静下来，没人说话。苏晓接着说：“现在你们要做伦理审计，要补充数据，我很高兴。但我希望你们记住，你们写的每一行代码，都关系着一条人命。合规不是为了应付审查，是为了对得起患者的信任。”
说完，她鞠了一躬，坐了下去。林砚之看着她，心里一阵暖流——早上打电话时，苏晓还犹豫着要不要来，说“怕自己说不好”，现在看来，她比谁都说得好。林砚之清了清嗓子，打破了沉默：“苏女士的话，应该是我们所有人的初心。接下来，我们开放讨论环节，大家有什么问题、建议，都可以提出来。”
讨论环节持续了一个多小时，问题五花八门——有企业问“外资企业能不能加入数据联盟”，有医院问“审计结果能不能作为采购依据”，林砚之和团队成员一一解答。快结束时，“医准智能”的cEo站起来说：“我们公司今天就提交试点申请，并且承诺，把罕见病数据占比提高到8%，比指引要求的还高。我们觉得，伦理不是成本，是竞争力——患者信任你，医院才会用你的产品，长期来看，这比短期利润重要得多。”
他的话赢得了一阵掌声。座谈会结束后，林砚之送周明远教授出门，老教授拍了拍她的肩膀：“不错，比我预想的好。刚才苏晓的发言，比任何数据都有说服力。”他从包里拿出一份文件，“这是《科技伦理审查办法》修订草案的征求意见稿，里面专门加了‘医疗AI动态审计’章节，你们团队的‘脱敏审计’流程写进去了，下周有个专家论证会，你跟我一起去北京。”
林砚之接过文件，指尖碰到纸页，感觉沉甸甸的。“谢谢您，周教授。”她说，“要是没有您当初的建议，我们可能还在摸索。”
“不用谢我，”周明远笑了，“是你们把‘纸上的伦理’变成了‘落地的规则’。黄浦是个好地方，有江的包容，也有桥的坚定——就像你们做的事，既要给创新留空间，也要守住底线。”
送走周明远，林砚之回到办公室，小陈正对着电脑整理座谈会的记录。“林处，刚才有五家企业当场提交了试点申请，还有三家说回去走流程，下周交。”小陈的脸上满是笑意，“刘老板也说了，要考虑加入数据联盟，他说苏晓的话让他想通了。”
林砚之走到窗前，夕阳正慢慢沉到黄浦江对面的建筑群后面，把天空染成了橘红色。她拿出手机，给苏晓发了条消息：“今天谢谢你，你的话帮了我们大忙。你妈妈的事，有进展我会第一时间告诉你。”
没过多久，苏晓回复了：“林处长，该谢谢的是你。我妈妈今天做了检查，医生说病情控制住了，虽然不能根治，但至少能少点痛苦。还有，我加入了患者权益组织，以后会多跟你们反馈患者的想法——希望我们能一起，让AI医疗变得更靠谱。”
林砚之看着消息，嘴角忍不住上扬。她打开电脑，找到“伦理治理案例库”文件夹，新建了一个文档，命名为“002-算法审计困局（后续）”，开始敲字：“2024年9月，智愈科技案判决后，黄浦市10家医疗AI企业申请伦理审计试点，‘动态审计’机制落地……”
敲到一半，她想起赵伟早上交的代码和日志，想起王海提供的后门证据，想起苏晓在座谈会上的发言——这些碎片拼在一起，构成了一个关于“坚守”的故事。她知道，这不是结束，以后还会有新的技术、新的伦理难题出现，但只要有人愿意为患者站出来，愿意为规则较真，黄浦的科技发展，就永远不会偏离“以人为本”的方向。
窗外的夕阳彻底落下去了，城市的灯光渐渐亮起来，沿着黄浦江连成一片。林砚之保存好文档，关掉电脑——明天还有很多事要做：要和老周一起分析智愈的日志，要跟卫健委对接患者排查工作，要准备去北京的论证会材料。但此刻，她心里很踏实，就像看着一艘船，在经历了风浪之后，终于回到了正确的航线上。