医疗机构使用代理型AI存在患者数据泄漏的隐患

来源：HIT专家网      编译：周亦川

Imprivata（一家医疗保健数字身份公司‌）近期发布的调查报告《自主型人工智能的信任缺口：为何医疗领域需要以身份识别为基础的治理机制》显示，医疗机构使用代理型AI存在患者数据泄漏的隐患，对现有的身份识别、访问控制及监管机制提出了更高的安全要求。

代理型AI可访问患者日常管理与医疗科研系统，获取敏感数据，进而执行API相关操作并完成各类工作流程，在提升管理效率的同时，也使安全治理难题愈发突出。亟需解决的痛点源于未经授权的AI，即所谓“隐形AI”，此类AI通过公共AI平台进行信息交互，可能在超出服务商安全范围的场景下泄露专有代码及患者数据。即便是已获安全许可的代理型AI，其发展速度也远超用户对其行为的监控能力。

Imprivata首席医疗与发展官Sean Kelly博士介绍，共有250位医疗机构管理者接受本项调查。28%的受访者所在机构已将代理型AI投入实际应用，44%的机构尚在测试此类技术。88%的受访者期望代理型AI在各类运营和临床工作中具备一定程度的自主操作能力，86%的受访者认为自身能够完全掌控代理型AI的行为。72%的受访者承认，部分AI工具或代理系在未经IT部门正式审批的情况下被使用。57%的受访者表示，当前具备临床系统交互功能的AI已拥有过度或不必要的访问权限，构成极大的安全管理风险。

报告提到，不同医疗机构代理型AI身份的方式各不相同，但随着AI自主性不断增强，医疗机构必须对权限分配和授权行为给予同等重视。报告引用了一家床位规模为500—749床的医院管理者的原话：“我院此前曾发现系统异常，AI会自动批量导出患者信息，依靠审计日志才定位到这项风险。所以，在监控体系成熟之前，我们不敢扩大智能体的部署范围。”

“既然代理型AI可代替临床医生和医院管理人员开展工作，医疗机构就需要了解这些系统能够访问哪些信息、有执行何种操作的权限，以及如何对其行为进行监控与审查。”Kelly表示，医疗领域持续借助AI技术实现发展，各机构需建立明确的治理机制，规范AI系统的配置与管理方式。代理型AI应当被视为一种数字身份，其访问权限应与其工作“职位”相匹配，行为记录能够被监控、被审计。

Western Health数字健康部门负责人Lily Liu在今年8月举行的HIMSS26亚太区会议培训环节中分享，澳大利亚某医疗系统中，约有800名工作人员正在使用未经批准的AI技术与工具。Liu建议，为防止AI被滥用，医疗机构应随着技术的发展，不断更新AI管理政策。

“并非所有AI工具都应采用相同的管理方式，但每一次AI技术的创新都应当经过安全评估。”Liu强调。

原文链接：https://www.healthcareitnews.com/news/agentic-ai-access-pressing-governance-challenge-providers

【责任编辑：陈曦 版式：蒙辉】