小针发现,互联网医院最讽刺的发展规律是:你最引以为傲的创新,往往会在你最意想不到的地方,给你一记响亮的耳光——而且这耳光通常还伴随着热搜头条和媒体围剿。
灵网防火墙成功部署后的第十天,医院上下还沉浸在“安全无忧”的轻松氛围中。姜炎甚至给技术部全员放了半天假,理由是“连续加班一个月需要补觉”——虽然他自己还偷偷溜回办公室调试新算法。
然后,在某个看似平常的周四下午,耳光来了。
起初只是一个普通的线上问诊。人间江城节点,一位四十多岁的中年男性患者接入AI辅助诊断系统,描述症状:“胃脘胀痛三天,饭后加重,伴嗳气,偶有反酸。”
系统——经过数百万病例训练的“医灵AI”2.0版——迅速调出数据库。根据症状关键词匹配,结合患者填写的“饮食不规律、压力大”等背景信息,AI在0.7秒内给出了初步判断:
诊断:肝胃不和(中医辨证)
建议:疏肝理气,和胃止痛
推荐处方:柴胡疏肝散加减(电子处方已生成)
注意事项:忌辛辣油腻,保持心情舒畅
流程看起来很标准。AI还将处方推送给了在线药房,药房自动配药,通过物流系统送到了患者填写的地址——江城某小区。
问题出在三天后。
指挥中心午后的宁静被紧急通讯的尖啸打破。小针正在和扁鹊讨论“远程望气辅助法器”的临床测试方案,听到警报心里一紧——难道又是攻击?
但冲进来的不是姜炎,是青萱。她脸色苍白,手里攥着一份刚刚打印出来的报告,纸张还在微微颤抖。
“院长……出事了。”青萱的声音干涩,“江城那边……那个AI诊断的患者……确诊急性阑尾炎,已经穿孔了,正在手术。”
小针脑子里“嗡”地一声。
“什么时候的事?”
“两小时前。”青萱把报告递过来,“患者按AI开的药吃了三天,症状加重,昨晚开始剧烈腹痛,今早送去县医院急诊,确诊急性阑尾炎伴穿孔。现在……手术还没结束,但医生说情况不乐观。”
扁鹊已经接过报告快速浏览,眉头越皱越紧:“AI的诊断依据是什么?”
“患者自述症状、舌苔照片、还有填写的病史问卷。”青萱调出当时的问诊记录,“但……舌苔照片光线太暗,颜色失真。而且患者隐瞒了长期服用止痛药的习惯,所以疼痛感被压制,临床表现不典型。”
小针盯着屏幕上的问诊记录。AI的判断从逻辑上看似乎没问题,但它漏掉了最关键的两点:一是舌苔照片的质量问题,二是患者隐瞒的用药史——这两点,一个有经验的医生本应追问和质疑,但AI只是机械地接受了输入信息。
“更糟的是……”青萱的声音越来越小,“这事……被媒体知道了。”
话音刚落,孙思邈疾步走进来,手里拿着几份人间当天的报纸。头版头条的标题一个比一个惊悚:
《神仙AI误诊,凡人险丧命!》
《三界互联网医院:是福音还是杀手?》
《当算法决定生死:谁来为AI的错误负责?》
副标题更是刀刀见血:“患者腹痛三天,AI诊断为‘肝胃不和’,真实病情是急性阑尾炎穿孔”、“三界和谐医院力推的‘AI辅助诊断’系统,是否存在致命缺陷?”、“专家质疑:仙凡医疗融合是否操之过急?”
报道里还配了患者家属在医院门口痛哭的照片,以及县医院医生愤怒的采访:“我们反复强调,线上诊疗不能替代线下检查!这是拿人命开玩笑!”
指挥中心里一片死寂。所有人都能感觉到,那股刚刚建立起来的、脆弱的公众信任,正在以肉眼可见的速度崩塌。
“院长……”姜炎这时也冲了进来,额头还贴着那张已经失效的“冷静符”,“系统后台监测到……用户活跃度在半小时内下降了27%……咨询量暴跌……”
“意料之中。”小针的声音异常平静。他走到主控台前,调出那个误诊案例的完整数据链——从用户接入,到AI分析,到处方生成,再到药房配送,每一个环节都清晰记录。
他看着,看了很久。
然后他转身,面向指挥中心里所有聚集过来的人——技术部的、医疗团队的、行政管理的——声音不大,但每个字都砸在地上:
“现在,谁想第一个说‘AI不靠谱,应该立刻关掉’?”
没人说话。
“或者,谁想说‘这是患者自己隐瞒病史,不是我们的责任’?”
还是沉默。
“都不说?那我来说。”小针深吸一口气,“AI没有错。它基于我们输入的数据和算法,给出了符合逻辑的判断。错在我们——错在我们太急于推出这个功能,错在我们忽略了它的局限性,错在我们没有设置足够的安全阀。”
他走到白板前,拿起笔,开始写:
小主,这个章节后面还有哦,请点击下一页继续阅读,后面更精彩!