人工智能（AI）具有革新医疗保健的力量。在肿瘤学领域，现已出现将人工智能应用于辅助诊断、预测分析及行政管理职能的机遇。
在2024年9月举行的癌症护理商业交流会上，这一热点议题于"数字创新（癌症领域人工智能应用案例）"及"先进临床路径"专题会议中展开讨论。尽管这些热烈讨论使商业价值变得清晰，但必须指出：人工智能技术的发展速度远超针对这项关键技术制定周全审慎的立法监管框架的进程。
医院、医疗服务提供者、支付方及第三方供应商在选择和实施任何新型人工智能解决方案时，应采取切实可行的措施。深入探索这一关键领域时，需牢记以下几点核心考量：
人工智能及其解决方案的成功往往取决于数据。几乎所有人工智能解决方案都需要海量数据，这要求整合并采集来自多种来源的数据，包括电子病历系统、医疗服务提供商平台和患者门户。了解人工智能解决方案的使用方式及使用主体，对于确保医疗机构遵守联邦和州隐私及安全法规至关重要。[1]为医疗机构开发和维护人工智能解决方案的供应商，必须确保其方案符合医疗机构所期望的基础隐私与安全最佳实践标准。
医疗保健提供者必须深入理解人工智能解决方案的运作机制，方能评估所需的监管保护措施。供应商需要哪些类型的数据来运行和支持该人工智能解决方案？若需与供应商共享患者信息，医疗提供者至少应与供应商签订业务合作协议。 医疗机构应明确是否需要向患者发出通知。部分州法律规定，当人工智能解决方案将使用个人身份信息提供建议或反馈时，必须告知当事人。同时需警惕供应商可能将健康数据用于自身目的，例如训练其人工智能系统或与医疗机构的竞争对手合作使用该解决方案。 供应商为自身目的（非履行客户合同所需）使用数据的行为，必须在业务合作协议中获得明确授权，且所有数据均需依据HIPAA规定并经医疗服务提供者许可进行去识别化处理。
随着人工智能以惊人速度发展，政府监管却步履维艰；不过，我们可望看到新法规和官方指导意见日益频繁地出台。多个州已成立特别工作组和委员会来研究和监督人工智能的应用。今年3月，犹他州通过了《人工智能法案》，该法案确立了自2024年5月1日起在受监管职业中使用生成式人工智能的首批披露要求。 同年5月，科罗拉多州通过《人工智能交互消费者保护法案》（生效日期为2026年2月1日），成为首个规范"高风险人工智能系统"的州级法规。[2]详情请参阅富乐律师事务所博客《科罗拉多州通过新AI法案保护消费者交互》。
供应商应确认拟议的人工智能解决方案是否需要监管批准（例如作为医疗器械），若无需批准，则需说明支持其产品上市的监管指南，并提供相应声明和保证作为支撑依据。尽管人工智能可通过学习错误实现性能提升，但现行监管模式旨在评估人工智能运行的静态框架。 因此，许多医疗器械可能需要但未获得适当的监管批准，或未来可能面临审批要求。 美国食品药品监督管理局（FDA）正探索更全面评估AI解决方案的途径（截至2024年8月已批准950款AI/ML医疗器械），但最终可能需要国会通过新立法提供指导。在此期间，医疗机构在采用任何拟议的AI驱动医疗器械前，应先咨询法律顾问进行严格审查。
设想最坏的情况。例如，您的AI供应商遭遇网络安全攻击。又或者，由于AI产品存在问题且供应商过度依赖该解决方案，导致漏诊。供应商应谨慎实施政策和程序，明确组织对AI的批准用途；对供应商及AI解决方案进行彻底尽职调查；审查合同以纳入适当保护条款；并确保保险及其他责任保障到位。 尽职调查应涵盖以下领域：供应商是否已妥善注册知识产权保护；是否对员工及代理人进行背景审查以防范医疗欺诈等高风险行为；供应商已投保的险种（含网络保险）；以及发生索赔时的可用资源。合同应主动明确责任分配。许多供应商提供标准合同模板，需仔细审查确保包含以下法律条款：
完善的治理框架能够化解人工智能伦理实施方面的顾虑，增强对人工智能解决方案的信任，并有助于降低企业未来可能面临的法律风险。这包括制定政策和流程，为接触或使用人工智能解决方案的人员提供适当培训，使组织能够在实施过程中及后续运营中对人工智能进行审核、监督和监测。 然而，随着人工智能技术和应用场景的持续发展，必须不断对治理政策进行审查和迭代，同时密切监控组织内部对这些治理政策的遵守情况。
人工智能能够推动效率提升与创新，最重要的是能改善患者护理质量和治疗效果，但精明的肿瘤诊疗机构也会寻求能提升其盈利能力的AI解决方案。该AI解决方案本身是否可报销？供应商是否具备报销途径？ 该产品是否通过了美国联邦医疗保险和医疗补助服务中心（CMS）的质量报告项目认证，例如基于绩效的激励支付系统（MIPS）及各州推动互操作性的项目？国家卫生信息技术协调办公室（ONC）的认证获得CMS认可，可确认产品符合安全、功能及技术要求。[3]
然而，根据与人工智能解决方案的集成程度，供应商可能需要采取措施，以符合国家卫生信息技术协调办公室（ONC）对生成式人工智能解决方案和临床决策支持工具的要求。
随着人工智能日益融入医疗保健的运营体系，可采取以下实际措施降低合规、隐私及安全流程的风险。福里律师事务所正密切关注人工智能在多个领域的法律与商业格局演变，涵盖创新技术、医疗保健与生命科学、知识产权等领域，并组建专业律师团队随时提供协助。 如有任何疑问，请联系本文作者、您的福里律师事务所客户关系合伙人、我们的人工智能业务领域团队或医疗保健与生命科学业务部门。
作者谨此感谢特别顾问杰奎琳·阿科斯塔（Jacqueline Acosta）的贡献，以及波士顿大学法学院学生、福里尔·拉德纳律师事务所2024年暑期实习生弗朗西斯卡·卡马乔（Francesca Camacho）的协助。
[1]许多州制定了隐私和安全标准，这些标准在许多情况下都超过了联邦基准，应予以审查。
[2]SB205（人工智能交互消费者保护法案）。
[3]国家卫生信息技术协调办公室（ONC）近期修订了“决策支持干预措施”、“患者人口统计与观察数据”及“电子病例报告”的认证标准，同时将美国互操作性核心数据（USCDI）标准基准版更新至第3版。
