1986年3月21日，在德克萨斯州泰勒市展开了一场医疗噩梦。一名男性癌症患者从新型的放射疗法机器THEAC-25接受了放射治疗的小肿瘤治疗。
该患者的处方为180 rad。当它打开时，Therac-25开始大声嗡嗡作响，病人感到疼痛的闪光，背部的皮肤开始发疯。
他接受了大量过量的辐射。他没有180个RAD，而是收到了数万个RAD。他立即接受了辐射病的治疗，但为时已晚。病人在五个月后去世。
THERAC-25事件有时用作警告性的故事，说明设计较差的计算机医疗设备会导致灾难性后果。该案例促使开发了对医疗设备的更严格控制。
但是，情况如何出错，因为我们目前目睹了医学中AI革命的出现？Therac-25悲剧有什么可以教给我们医疗AI的隐藏危险的东西吗？
什么是Therac-25？
Therac-25是一个放射疗法系统，该系统由床和束发射器组成，该系统放置在肿瘤部位。它是在加拿大有限公司的原子能（如今涉及放射性废物和退役）与法国工程公司CGR之间的合作伙伴关系中制造的。
可以将机器设置为发射一束电子束，浅肿瘤或更深入的伽马射线，以进行更深的肿瘤。至关重要的是，对于电子束，将磁铁放在发射极和患者之间，以将光束散布在体内。对于伽马射线梁，将在发射极和人体之间放置一个金属板，以将电子转换为更多的伽马射线。
THERAC-25出错了哪里？
Therac-25故事的核心是软件错误。重要的是，THERAC-25的设计仅由软件控制。这与机器的早期版本不同（Theac-6和Therac-20）。
尽管较早的机器和Therac-25之间存在差异，但为早期版本开发的一些软件已迁移到Therac-25。这些错误对于早期版本并不重要，因为它们已经建立了硬件安全控制。但是有了Therac-25，它们可能是灾难性的。
这些错误意味着，例如，如果射线照相仪在八秒钟内将光束类型从X射线转换为电子束，则该机器将给出剂量，但显示一条消息，表明未给出剂量。这可能会导致射线照相仪连续地给予重复剂量，同时想知道为什么机器根本没有给予剂量。
Therac-25作为“黑匣子”问题
与以往一样，事实很少是简单的，从不简单。有几个因素导致Therac-25悲剧。这不仅与软件错误有关。这些因素包括在释放之前对机器的测试不足以及AECL不愿意接受机器可能有故障的可能性。但是，从根本上讲，这种情况也可以看作是“黑匣子”类型问题。
“黑匣子”是一个系统，可让您看到输入和输出，但对两者之间的工作过程一无所知。它的使用是对操作员的信仰问题。Therac的早期版本不是黑匣子。该软件仅仅是一种便利性，该机器在技术人员和射线照相仪的控制之下。有一些易于理解的硬件安全控制。
例如，如果有人试图激活危险的操作模式，例如没有磁铁或金属板的高能梁，则有一种爆炸的保险丝。技术人员和射线照相仪知道是否对机器进行了错误配置，因为他们负责设置机器。
但是使用Therac-25，这些硬件安全措施已被删除。该机器基本上由该软件控制，该软件完全无法访问（实际上从未发布过）。这个新版本的设置更快，可以完成更多的治疗方法。但是，机器的工作原理现在是操作员看不见的，潜伏的危险是无法发现的。
应该补充的是，AECL的保证是不可能过量的，并且系统的错误消息也很难理解。
对于全文，请注意7月至8月的版本Omnia Health杂志。
Felix Beacher是OMDIA医疗技术团队的负责人。他目前正在设计OMDIA即将在Medical AI上的情报服务。