人工智能+医疗的法律挑战与应对方案 .pdfVIP

人工智能+医疗的法律挑战与应对方案

人工智能正在进入医疗实践领域。医院利用人工智能为不断增

长的特定患者群体开发治疗途径。但是人工智能在医疗领域的发展

暗藏着一个问题：资源匮乏的环境与资源丰富的环境在患者群体和

可用的治疗资源上存在差异，而可用数据的不一致使得人工智能难

以说明这种差异存在的原因。资源丰富的训练环境与资源匮乏的配

置环境之间转换的脱节，可能会导致算法治疗建议的质量可预见地

降低，从而限制了医疗人工智能真正发挥其长处的可能性。

情境性偏差是一种未得到充分解决的偏差问题。不同于源数据

造成的偏差，情境性偏差出现在将算法从一种情境转换到另一种情

境的过程中。在资源丰富环境下提供的治疗可能是一流的并且没有

被人类偏见影响，但这种偏差仍然会出现。

文章分为六个部分。第一部分为前言。第二部分简要描述了人

工智能在医学领域的前景。第三部分探讨了在医疗资源丰富情境下

开发医疗人工智能的激励因素。第四部分列举了在资源丰富情境中

训练出的医疗人工智能在资源匮乏环境中配置时可能会出现的不

同类型的错误。第五部分提出了一个重要问题，由于医疗人工智能

通常是不透明的，导致所产生的情境性偏差尤为隐蔽，且隐藏了可

能产生的消极影响。第六部分讨论了可行的解决方案。文章指出政

策制定者不应该被完美主义谬误所误导，一些形式并不完美的医疗

人工智能都有望为得不到充分服务的患者带来实质性利益，在等待

完善的同时，不应当限制该领域的发展。

表1医疗人工智能黑箱模型的前景

黑箱医疗算法主要是在资源丰富的医疗环境下合作开发的。典

型的安排是，人工智能系统开发人员与资源丰富型医院合作，通过

协议使用资源丰富型医院的数据来训练和开发新的医疗算法。算法

开发人员选择与资源丰富型医院合作，其技术、法律和商业原因有

不同的组合形式。首先也是最重要的是，资源丰富型医院更有可能

拥有庞大、高质量的数据集。其次，利用来自资源丰富型医院的数

据训练算法，可能有助于使潜在客户或保险公司相信算法是高质量

的并且值得出钱投资。第三，在资源丰富医院数据中训练算法，会

降低三种法律程序带来不利后果的风险：获得监管部门的批准、避

免使用该算法后对潜在问题承担侵权责任、以及从付款人处获得抵

扣。文章的下一部分探讨了将来自资源丰富型医院的数据所训练出

的算法适用于精英化程度较低的医疗服务环境所面临的挑战。

想要通过利用人工智能实现提高普通医生的水平和改善医疗服

务等目标，就需要在那些普通的环境中实际配置算法。这种转换可

能主要在两个领域出现问题:治疗质量和治疗成本。在资源相对匮

乏的环境应用那些由资源丰富医院开发的算法，算法可能会在资源

相对匮乏的情况下给出系统性次优的诊断和治疗建议。在成本方面，

在资源丰富型医院中训练医疗人工智能也可能使训练出的算法偏

向于选择更昂贵的程序。

文章强调所有的医疗都是情境性的，黑箱医疗也是如此。但是，

考虑到黑箱医疗的普及专业知识的能力、不透明性以及在情境性偏

差以外其他方面的自我改进能力，黑箱医疗中的偏差需要特别关注。

文章第六部分提出了可能存在的解决方案并逐一进行分析，其

中两种高质量的解决方案可能更有前途。第一种，对数据基础设施

的公共投资可以通过提高医疗人工智能训练所涉及数据的代表性

来协助解决前端问题。第二种，提出监管要求，要求至少出具一些

跨情境性效力的证据，将减少开发人员只在资源丰富情境性下开发

医疗人工智能的动机。此外，这一部分简要地讨论了如何通过解决

成本问题来进行思考以及需要避免的陷阱。

表2情境性偏差的解决方案及存在问题

医疗人工智能有着巨大的前景，可以为那些可能无法得到这种

治疗的人们提供优质的医疗服务。然而，将黑箱算法从资源丰富的

情境转换到资源匮乏情境会带来产生问题的风险：在一种情境中运

行良好的算法在另一种情境中可能不起作用。如果我们要降低在资

源匮乏环境中损害医疗的风险，现在是考虑如何开发医疗人工智能

的时候了，不仅是为了那些已经获得优质医疗的人，更是为了那些

可以从这种新技术的出现中获益最多的人。

表3文章涉及的医疗人工智能实例