医疗AI软件合规6问

随着人工智能技术的不断发展，人工智能在医学领域的应用越发广泛。本文聚焦医疗人工智能AI软件开发合规梳理，供实务参考。

01问

医疗AI软件监管法律规范有哪些？

医疗AI监管法律包括两方面：一是医疗法律监管；二是人工智能法律监管。主要法律规范包括以下五个方面：  

1.关于互联网诊疗法律规范  

2.科技、医学伦理审查  

3. 医疗人工智能软件法律规范  

4. 人工智能法律规范  

5. 网络、数据、个人信息法律规范  

具体如下表：  

02问

医疗AI软件能不能单独用于诊疗服务？

目前不能，目前医疗服务只能由具资质的医护人员在特定的医疗机构提供，不能由人工智能软件提供。医疗AI软件只能作为医疗服务的辅助工具。  

参考规范：  

《互联网诊疗监管细则（试行）》（2022）第十三条 医师接诊前需进行实名认证，确保由本人提供诊疗服务。其他人员、人工智能软件等不得冒用、替代医师本人提供诊疗服务。各级卫生健康主管部门应当负责对在该医疗机构开展互联网诊疗的人员进行监管。  

03问

医疗AI软件是软件，还是医疗器械？

根据国家药监局关于发布《人工智能医用软件产品分类界定指导原则》，医疗AI软件性质分为医疗器械和非医疗器械（一般软件）。  

医疗AI属于医疗器械的，又区分第二类或第三类医疗器械管理。  

具体如下：  

（一）医疗AI软件属于医疗器械的情形：  

若软件产品的处理对象为医疗器械数据，且核心功能是对医疗器械数据的处理、测量、模型计算、分析等，并用于医疗用途的，符合《医疗器械监督管理条例》有关医疗器械定义，作为医疗器械管理。  

1.医疗AI软件属于第三类医疗器械的情形：  

对于算法在医疗应用中成熟度低（指未上市或安全有效性尚未得到充分证实）的人工智能医用软件，若用于辅助决策，如提供病灶特征识别、病变性质判定、用药指导、治疗计划制定等临床诊疗建议，按照第三类医疗器械管理。  

2.医疗AI软件属于第二类医疗器械的情形：  

若用于非辅助决策，如进行数据处理和测量等提供临床参考信息，按照第二类医疗器械管理。  

（二）医疗AI软件不属于医疗器械的情形：  

若软件产品的处理对象为非医疗器械数据（如患者主诉等信息、检验检查报告结论），或者其核心功能不是对医疗器械数据进行处理、测量、模型计算、分析，或者不用于医疗用途的，不作为医疗器械管理。  

参考规范：  

《人工智能医用软件产品分类界定指导原则》（2021）、《人工智能医疗器械注册审查指导原则》（2022）、《人工智能辅助检测医疗器械（软件）评价注册审查指导原则》（2023）  

04问

使用场景是否告知用户AI生成

在人工智能生成内容的显示区域中，应标明或提示：由人工智能生成”或“由 AI 生成”等信息。  

参考规范：  

《网络安全标准实践指南——生成式人工智能服务内容标识方法》在人工智能生成内容的显示区域中，应在显示区域下方或使用者输入信息区域下方持续显示提示文字，或在显示区域的背景均匀添加包含提示文字的显式水印标识。提示文字应至少包含“由人工智能生成”或“由 AI 生成”等信息。  

《互联网信息服务深度合成管理规定》第十七条深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。  

05问

医疗AI软件开发是否涉及科技伦理审查？

《科技伦理审查办法（试行）》附件规定了需要开展伦理审查复核的科技活动清单，以下四种与医疗AI有关的行为需要进行伦理审查：  

1. 侵入式脑机接口用于神经、精神类疾病治疗的临床研究。  

2. 对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统的研发。  

3. 具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发。  

4. 面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统的研发。  

06问

医疗AI软件还涉及哪些合规要求？

医疗AI还涉及合规包括：  

病历资料管理  

互联网诊疗合规  

个人信息保护  

数据的存储与处理  

人工智能软件开发应用  

网络安全等方面的合规