亚伦·马古雷吉分享对医疗保健领域“影子AI”风险的见解

Foley & Lardner LLP 合伙人 Aaron Maguregui 在《Part B News》的报道《您需要人工智能政策吗？专家建议在“影子人工智能”蔓延之际建立防护措施》中被引用，该报道探讨了临床医生未经授权使用“影子人工智能”所带来的新兴风险，以及建立健全的人工智能治理机制的必要性。

“研究结果表明存在治理缺口，”马古雷吉指出。“医生采用新工具的速度，快于医疗机构建立正式风险监管机制的速度。当临床医生感到自己被排除在工具选择过程之外时，医疗机构就面临着‘影子AI’和风险管理碎片化的风险。”他还强调了其他风险，表示：“医生参与度有限，加上AI应用广泛，会加剧数据安全、医疗事故风险以及合规方面的风险。”

为应对这些挑战，马古雷吉指出，“制定书面人工智能政策”具有重要意义，这些政策应“明确规定获准的使用场景，要求临床医生在病历中对人工智能生成的结果进行验证，并将这些工具纳入现有的质量保证和同行评审流程，以避免辅助技术与医疗实践之间的界限变得模糊。”

他还建议“应设立一个跨职能治理委员会”，负责审核和批准新工具、制定安全标准，并在降低法律风险的同时为创新开辟路径。

(需订阅)