罗杰·库安(Roger Kuan) |文 时青靖 | 编辑
包括机器学习在内的人工智能为健康科学及生命科学领域的变革带来了令人振奋的契机，为更加快速、准确的临床决策及研发能力的增强提供了诱人的前景。然而，有关法规和临床意义的开放性问题依然存在，致使技术开发人员和潜在的投资者都在努力寻求如何克服当前在采用、合规和实施方面的障碍。
以下是需要考虑的主要障碍以及应对的办法：
制定规章制度。在过去几年里，美国食品和药品管理局(Food and DrugAdministration ，简称FDA)一直在逐步更新其规章制度，以跟上快速发展的健康市场。2017年，FDA发布了它的《数字健康创新行动计划》(Digital Health Innovation Action Plan)，明确了该机构在推进安全有效的数字健康技术以及处置《21世纪治疗法》(21st Century Cures Act)的关键条款方面扮演的角色。
FDA还在其数字健康软件预认证(Pre-Cert)试点项目中招募了作为医疗设备软件(SaMD)的精英开发人员。预认证试点的目的是帮助FDA确定产品预认证所需要的主要度量标准和性能指标，同时也找到更便于开发人员通过审批程序以及帮助推进医疗保健创新的途径。
最近，FDA在9月发布了它的《设备软件功能和移动医疗应用政策》(Policy for Device Software Functions and Mobile MedicalApplications)——一系列指导性文件，里面描述了该机构如何规范有助于临床决策支持(CDS)的软件，包括使用机器学习式算法的软件。
在FDA的一份相关声明中，第一副局长埃米·阿伯内西(Amy Abernethy)解释道，该局计划将监管重点放在“高风险的软件功能”上，比如那些用于更严重或更危急的健康状况的功能。这还包括使用机器学习式算法的软件，用户在未获得进一步解释的情况下可能不容易理解那种程序的“逻辑和输入”。
CDS软件将归于FDA的“高风险”监管类别的一个例子是，某软件可以识别出病人具有出现潜在严重医学状况的风险——比如术后的心血管事件——但却无法解释该软件为何会做出这种识别。
获得FDA批准。为了顺应FDA不断变化的监管和审批程序，软件开发者必须认真思考如何最好地设计和推出他们的产品，使其能够通过FDA的审批，尤其是在软件属于该局的“高风险”类别时。
必须考虑的一个因素是，人工智能驱动的治疗或诊断工具生性都会继续发展。比如，期待一种软件产品随时间升级和变化是合乎情理的（比如，安全更新、增加新特性或功能、升级算法等）。可是鉴于该产品已经发生了技术上的改变，每次升级或更新版本之后，它的FDA批准状态可能会面临风险。
在这种情况下，计划采用基于版本的方法来应对FDA的审批程序或许才符合开发人员的最大利益。在这种方法中，每当软件内部的ML算法得到一组新数据的训练时，新版本的软件就会创建，而每一个新版本都要经过FDA的单独审批。
虽然繁琐，但是这种方法避免了让FDA担心自己批准的软件产品在得到批准后功能又发生改变。这种战略发展考虑对于解决方案提供商来说至关重要。
同样，投资者也必须清楚了解一家企业的产品开发计划和持续获得FDA批准的预定方法，因为这可以带来与同行业其他竞争者的明显差别。临床医生会被紧逼着采用尚未得到FDA认证的技术，所以投资者需要确定，他们考虑支持的公司拥有明确的产品开发路线图——包括在软件产品本身及监管指导方针不断发展的情况下获得FDA批准的方法。
人工智能是一个黑箱。除了当前监管上的含混不清之外，另一个对在临床环境中采用人工智能应用带来挑战的关键问题，是它们的黑箱性质以及由此引起的信任问题。
挑战之一是跟踪：如果发生了负面的结果，人工智能应用的决策过程能否得到跟踪和评估——比如，用户是否可以识别导致人工智能应用采取某个具体行动的训练数据以及/或者机器学习(ML)范式？简单一点来说，负面结果的根本原因是否能够在技术范围内找到，以便未来可以得到预防？
从重新分类训练数据到重新设计学习训练数据的ML算法，发现过程十分复杂——甚至可能导致该应用在市场中被移除。
对于人工智能系统的黑箱性质产生的另一个担忧是，有人可能故意或者错误地向系统输入不正确的数据，从而导致错误的结论（比如，误诊、不正确的治疗建议）。幸运的是，设计用来识别篡改或不正确输入的检测算法即便不能消除风险，那也可以减少这种风险。
人工智能的黑箱性质带来的更大挑战是，医生不愿意相信（部分原因是医疗事故责任风险）——进而采用——他们不能完全理解的东西。比如，现在出现了许多人工智能影像诊断公司，它们拥有FDA批准的人工智能软件工具，可以帮助临床医生诊断和治疗中风、糖尿病视网膜病变、颅内出血及癌症等疾病。
然而，这些人工智能工具的临床应用进展缓慢。原因之一是，像美国放射学会(AmericanCollege of Radiology ，简称ACR)这样的医生认证机构，最近才开始发布如何可靠使用人工智能软件工具的正式用例。患者也可能对人工智能驱动的技术产生信任问题。虽然他们可能接受人会犯错的现实，但是他们对机器犯错的容忍度极低。
尽管帮助打开黑箱的努力仍在进行，人工智能在目前的初期采用阶段，在临床环境中最有益的作用或许就是帮助提供者做出更好的决策，而不是在决策过程中取代他们。多数医生可能不相信黑箱，可如果他们依旧是最终的裁决者，他们会将其作为辅助系统来使用。
为赢得医生的信任，人工智能软件开发者必须清楚证明，当解决方案融入临床决策过程中的时候，它们可以帮助临床团队的工作做得更加出色。工具也必须简单易用。刚开始的时候将人工智能应用于计费和编码（比如，诊断法、人工智能辅助治疗）等低风险的任务也应该有助于信任随时间而增加。
在行业层面，需要大家同心协力发布更多证明人工智能好处的正式用例。软件开发人员和投资者应该与ACR这样的专业协会合作发布更多用例，制定更多架构来刺激行业采用人工智能并获得更多的可信度。
生命科学领域的障碍较低。虽然人工智能在临床护理环境中的应用仍然面临诸多挑战，但是在特定的生命科学用例中采用的障碍较低。比如，ML是一种超乎寻常的工具，可以用来将患者与临床试验相匹配，也可以用来进行药物发现以及确定有效的疗法。
然而，无论在生命科学岗位上还是在临床护理环境中，这样的事实仍然存在：许多股东很可能会受到人工智能在医疗保健和生命科学领域扩散的影响。人工智能得到更广泛采用的障碍当然存在——从监管的不确定因素到信任不足，再到有效用例的缺乏。但是这项技术对改变护理标准、提高效率以及帮助临床医生做出更明智决策方面带来的机会，值得我们去克服那些障碍。
罗杰·库安是McDermottWill & Emery律师事务所的合伙人，他在该律师事务所专门为医疗保健和生命科学行业的客户处理知识产权问题。