医疗人工智能监管的法治优化路径

  □ 张鸿绪 (北京建筑大学人文与社会科学学院副教授)

  医疗人工智能已广泛应用于临床诊疗、医学影像、药物研发及公共卫生等领域,正在深刻重塑传统医疗服务业态。技术规模化应用衍生的新型治理风险,使医疗人工智能发展不再限于技术创新层面,而成为事关医疗质量安全、患者权益保障与数字医疗规范化建设的重要法治议题。2025年10月,国家卫生健康委办公厅等五部门联合出台《关于促进和规范“人工智能+医疗卫生”应用发展的实施意见》,确立“人工智能赋能而不替代”的原则,构建分级分类、全链条穿透式的监管框架。在国家人工智能立法持续推进的背景下,医疗人工智能治理已迈入精细化制度建构阶段,亟须构建适配医疗风险特征与技术迭代规律的法治监管体系,统筹安全底线与行业创新发展。
秉持风险导向,构建分级分类监管体系
  医疗人工智能应用场景对患者生命健康的影响差异显著。预约导诊、健康咨询等低风险场景,与影像诊断、手术决策等核心诊疗场景的风险层级截然不同。如果采用无差别的统一监管模式,容易引发监管失衡:低风险应用面临过度监管,高风险场景则因规则笼统而约束不足。因此,监管方式应当确立以场景风险为核心的实质性逻辑,综合考量应用场景、产品功能、决策影响力及模型自主运行水平等要素,实施差异化监管举措,实现监管资源与风险等级的精准匹配。
  分级分类监管的关键在于厘清多元应用形态的法律属性与监管边界。当前,医疗人工智能业态涵盖标准化医疗器械、第三方软件服务、医疗机构自研系统等多种形式,分属不同规制体系,权责划分面临挑战。因此,监管方式应转变以技术标签为依据的形式化判定,坚持功能导向与风险优先原则,结合技术实际效能与临床风险等级,精准界定各类产品与服务的监管归属,将多元形态有序纳入法治监管框架,化解监管重叠、监管空白与权责模糊等治理困境,从而构建稳定可预期的常态化机制。
立足全生命周期,完善动态迭代监管机制
  传统医疗器械监管以准入前置静态审查为核心,难以适配医疗人工智能持续学习、动态迭代的技术特征。人工智能投入临床应用后,算法参数、训练数据与运行环境持续更新,容易产生模型漂移、决策偏差等动态风险,仅靠前置准入无法覆盖全流程隐患。因此,亟须突破阶段性、碎片化监管局限,构建覆盖研发验证、市场准入、临床部署、迭代更新与退出处置的全生命周期动态监管体系。
  全生命周期动态监管需要细化各环节管控规范,形成闭环治理。研发阶段应严格落实数据与模型可追溯要求,完整留存数据源资质、测试参数及适用边界等核心资料。医疗机构引入智能系统时,应结合本机构患者结构与临床流程开展场景适配验证。运行阶段应建立常态化动态监测与迭代报备机制,围绕模型漂移、不良事件等指标持续开展风险评估,针对重大迭代及时启动专项复核。同时,应当恪守“人工智能赋能而不替代”原则,在核心诊疗环节实施人工复核、风险处置与责任留痕机制,稳固医疗专业的主导地位。
聚焦数据算法,筑牢患者权益保障防线
  数据与算法是医疗人工智能运行的核心支撑。医疗数据兼具技术价值与高度人身属性,直接关涉患者的隐私与人格权益。我国个人信息保护法、数据安全法已搭建基础框架,但医疗数据治理仍存在制度碎片化、分类规制缺失等短板。概括式知情同意致使患者授权流于形式,难以有效约束数据处理行为。对此,应结合临床诊疗、科研训练、跨机构共享等差异化场景,细化数据处理的合法依据与授权边界,严格遵循目的限定与最小必要原则,落实去标识化、权限管控等安全措施,明确授权运营的主体、范围与追责机制,禁止以技术研发为名逾越患者权益保护底线。
  算法透明与多元归责是补齐保障体系短板的核心举措。算法治理应从原则性可解释要求转化为可实施、可核查的透明化法定义务。高风险系统无需披露商业秘密,但应主动公示模型适用范围、性能局限与典型错误场景,配套审计接口与技术档案,保障决策全程可追溯。责任规制层面,应转变“算法担责”或“医者担责”的单一化思维,依据不同主体风险管控能力与法定职责划分权责边界,完善运行日志、迭代升级记录等证据留存机制,构建权责明晰的多元协同追责体系。
强化多元协同,凝聚综合治理监管效能
  医疗人工智能具有跨界融合属性,单一监管部门无法实现全方位风险治理。同一系统兼具诊疗服务、器械产品、数据处理等多重属性,若不同部门独立履职、信息壁垒突出,极易造成监管重叠与职责断层。因此,有必要构建分工明晰、联动协同的跨部门监管机制:卫生健康部门规范临床应用,药品监管部门负责器械准入与存续监管,网信与数据主管部门统筹个人信息保护与算法治理。通过开展联合评估、风险会商与信息共享破除监管壁垒,提升综合治理效能。
  同时,应当压实医疗机构主体责任,激发行业自律效能。医疗机构应将医疗人工智能全面纳入质量安全管理体系,健全准入评估、伦理审查、风险监测与应急处置制度,严格规范第三方系统采购验收与安全迭代,杜绝“采购即合规”的监管盲区。依托行业协会、专业学会,将法律原则转化为可量化、可验证的技术标准与临床规范,推动法治规则、行业标准与伦理准则有机衔接,构建全方位立体化治理格局,促进医疗人工智能在规范、安全、有序的制度框架内持续创新与良性发展。

本网站所有内容属《法治日报》所有,未经许可不得转载。