规范应用化解“中医药+AI”运行风险

中医拥抱人工智能，是千年中医智慧和现代新质生产力的结合，也是中医药现代化的技术和桥梁，必将为人类医疗健康领域注入新的动力。然而，中医和人工智能融合的快速发展也面临着诸多风险，必须准确地识别、规范地运用，依法构建符合中医药特点、遵循中医药发展规律的治理体系，才能推动人工智能技术在中医药领域的可持续发展。

“中医药+AI”的风险

技术风险

“中医药+AI”的健康发展依赖于安全规范的人工智能技术。如果数据不可靠，人工智能得出的结论也不正确。技术安全风险分为内生与衍生两种：内生技术安全是指在新技术的迭代创新过程中，数据、算法、模型等不可避免会出现一些安全漏洞或新技术的天然缺陷；衍生技术的安全风险指的是即使新技术本身缺陷不影响运行，但可能会被其他相关领域利用，使其产生安全风险。

伦理风险

“中医药+AI”在应用中面对的伦理风险主要有：人机协作实时价值对齐困难、大模型幻觉、利益相关者不同的诉求未平衡、因数字鸿沟和算法偏见导致的医疗不公平等。出现这些问题的原因很多，一是算法在研发和运营时往往有多个价值目标，这些价值目标有可能会发生冲突，此时就需要考虑算法价值目标的顺位和取舍问题；二是人工智能结合中医药的实践应用中涉及多方主体，需要平衡利益相关者之间的不同伦理诉求；三是在不同地域、不同社会群体由于缺乏资金、人才等，会在网络空间体现出“医疗数字鸿沟”，难以被“中医药+AI”服务覆盖。

法律风险

人工智能的侵权责任难以界明是“中医药+AI”存在的法律风险。中医药数据库的应用汇聚了大量中医药健康医疗数据和中医药传统知识数据，自然可能存在医疗数据泄露或者医疗信息被非法使用的风险，因此中医药数据的合法合规使用是发展“中医药+AI”的关键和保障。

依法治理促进“中医药+AI”健康发展

党的二十届三中全会也提出“建立人工智能安全监管制度”，对人工智能的安全发展指明了方向。应在“以人为本”和“患者赋权”的基础上，构建系统性依法治理机制。

前端赋权：构建“中医药+AI”的个体赋权体系

一是建立“中医药+AI”数据权利体系。我国目前没有医疗数据权的相关立法，实践中保护医疗数据主要以签订知情同意书、保密协议、对个人医疗数据进行匿名化处理等方式，并不能确保患者的知情权都落实，匿名化处理数据技术也存在一些缺陷。因此，应当建立医疗数据权利体系，加快相关领域、环节的立法，使医疗数据的权属明确、授权程序合规，追溯定责完备。

二是建立“中医药+AI”算法权利体系。针对算法“黑箱”的问题，可将算法权利赋予患者，使患者有权对算法的运行进行监督，就能够减少风险。赋予患者算法权利，主要包括赋予患者算法解释权和算法自动化决策拒绝权。具体指医务人员应当以可理解的方式向患者解释人工智能医疗可能会出现的结果以及可能会影响的合法权益，同时应当明确告知患者有拒绝的权利。

中端监管：强化“中医药+AI”的运行监管体系

对患者赋权只是一个为个体提供自主参与智能医疗的路径，并不能完全消除“中医药+AI”所产生的各种风险。因此还需要建立运行监管体系，形成自我监管、专门监管、风险监管三层监管模式，全面保障“中医药+AI”的技术安全。

自我监管主要是指“中医药+AI”的运营商应当确保算法合规；专门监管是指可设立“中医药+AI”的专门监管机构，赋予其相应的权力规范AI应用；风险监管是指采用分类方式，明确不同风险级别的监管内容、监管措施和监管流程。

后端追责：完善“中医药+AI”的侵权追责体系

当“中医药+AI”发生侵权时，主要涉及医疗产品责任和医疗损害责任。因此，只有明确“中医药+AI”的法律客体地位，完善侵权责任规则体系，建立赔偿分担机制，才能更好地维护相对人的合法权益。此外，在中医药实现数字化转型的过程中，对法律、政策、伦理、行业标准、监管等手段应立体化地系统运用，才能应对人工智能产生系统性的风险，更好地为“中医药+AI”的安全发展保驾护航。

中医药的现代化之路应是始终坚持走中医药理论精髓和现代技术深度融合的中医药守正创新和传承发展之路。立足“以人为本”的规范化应用，坚持依法依规的治理，是助力中医药实现数字化转型，促进“中医药+AI”健康发展的有力手段。（高 洁 钟晓雯 中国中医科学院中医药发展研究中心）