全部商品分類
ＡＩ在醫療領域的應用伴隨著一系列復雜的法律問題。醫院如何規避ＡＩ診斷帶來的法律風險？醫院怎樣確認醫療ＡＩ的輔助地位？當ＡＩ輔助診斷結果與醫生臨床經驗出現分歧時，醫生該如何權衡同時避免法律隱患……
４月１５日，北京中醫藥大學衛生健康法治研究與創新轉化中心主任、博導鄧勇教授做客健康界直播節目「ＡＬＬ ｉｎ ＡＩ Ｈｅａｌｔｈ創新應用大講堂」，與本場直播主持人健康界內容負責人鄭宇鈞對談「醫院如何提升應對ＡＩ醫療風險能力」等問題。鄧勇教授扎實且富有實用性的直播內容，為眾多在線的醫健專業人士帶來一場干貨滿滿的知識盛宴。
本文精選部分直播內容，供廣大同仁交流，歡迎在評論區留言。本期及過往授課回放，可點擊下方圖片跳轉小程序，您加入醫項目即可觀看：
ＡＩ醫療應用 這幾大風險一定要注意！
盡管ＡＩ技術為醫療行業帶來諸多便利，但也存在不少法律風險。首當其沖的是醫療事故風險。鄧勇指出，由于數據偏移、算法偏見、技術濫用以及醫生接受度等因素，現階段許多醫療ＡＩ產品存在安全隱患，可能導致潛在的醫療風險和醫療事故。
因為訓練數據偏移、標注質量不一以及缺乏行業標準等因素，部分影像ＡＩ產品診斷效能參差不齊，容易出現誤診漏診情況。例如，肺癌 ＡＩ 診斷產品的訓練數據可能主要來自吸煙者和高風險人群的肺癌病例，導致其在低風險人群或非吸煙者中的診斷準確率較低。
臨床決策支持系統若訓練數據或技術算法出現偏移、缺陷，也可能給臨床診療帶來巨大風險，甚至造成重大醫療事故。以ＩＢＭ Ｗａｔｓｏｎ ｆｏｒ Ｏｎｃｏｌｏｇｙ 為例，據 ＩＢＭ 內部公司文件，其應用程序經常產生「不安全和不正確」的診療建議。例如，Ｗａｔｓｏｎ 曾向一名 ６５ 歲伴有嚴重出血風險的肺癌患者開「貝伐珠單抗」，而該藥的副作用之一就是出血。
此外，在一項針對「胸痛」的病因診斷試驗中，Ｗａｔｓｏｎ 僅提供了「某種極少見的傳染病」的診斷建議，而漏診了心絞痛、心肌梗塞及大動脈破裂等常見「胸痛」疾病。
已開始大量進入臨床的醫療機器人，可能帶來的風險也不容忽視。最典型的例子是英國首例「達·芬奇」機器人心臟手術致死案，據后期調查，手術失敗的主要原因在于機器人縫合心臟的位置和方式不對，主刀醫生必須拆線并重新縫合，該醫生事后也承認并沒有完全掌握機器的操作方法。
處方權合規風險同樣不容忽視。鄧勇指出，根據《互聯網診療監管細則（試行）》及各地相關規定，嚴禁使用人工智能自動生成處方。然而，在實際的互聯網診療中，存在諸多亂象，如平臺醫生信息錯誤、虛假資質難以認定，部分平臺無處方、病歷、檢查報告就開具藥品，網紅醫生帶貨保健品，以及醫生誤診、過度依賴ＡＩ開出處方藥、泄露患者個人信息等問題屢見不鮮。
數據隱私風險也是ＡＩ醫療面臨的重要挑戰。鄧勇著重提到，醫療ＡＩ研發高度依賴海量醫療數據，在數據獲取、保管、分析和輸出的各個環節都存在隱私數據泄露的風險。使用者操作不當、利益相關者出賣信息、間諜和黑客惡意竊取、數據系統維護不當等，都可能導致數據泄露。
例如，中國信息通信研究院曾于２０２０年發布報告稱，近三成接受調查的醫療單位存在數據資產泄露的風險，４４．３９％（７０８０家）的受調査單位使用了有漏洞風險的低版本組件。據統計，僅２０２０年，我國通過網絡出境的醫學影像數據就達到４９７萬余次，涉及境內３３４７個地址，其中未脫敏數據達近４０萬次。
鄧勇在直播中提到，醫療ＡＩ侵權責任主要分為手術機器人侵權責任和醫療診斷系統侵權責任。
手術機器人侵權責任又可細分為硬件缺陷侵權和軟件缺陷侵權。對于硬件缺陷導致的患者損害，可適用《民法典》第１２２３條規定的缺陷醫療器械侵權責任，患者有權向生產者或醫療機構請求賠償；對于軟件缺陷造成的損害，由于軟件不屬于傳統意義上的「產品」，不能直接適用上述條款，但可依據《民法典》一般過錯侵權責任，要求生產商承擔責任。
醫療診斷系統侵權責任的認定更為復雜，核心問題在于算法的不透明和不可預見性，使得傳統過錯責任理論難以直接適用。當醫療診斷系統出現預測錯誤，造成患者損害時，現行法律并未明確規定其責任歸屬，存在法律漏洞。
在鄧勇看來，醫療 ＡＩ 診斷系統視在臨床中的作用和地位更類似于會診醫師，其相似性主要體現在以下兩方面：
第一，根據我國《醫院工作制度與人員崗位職責》，「凡遇疑難病例，應及時申請會診」。我國法律未對何為「疑難病」作出界定，但根據醫學界通識，凡大多數醫務人員對診治都感到困難的疾病，均可稱為「疑難病」。目前，醫療ＡＩ診斷系統主要提供腫瘤患者的治療選擇方案，其所涉病種符合「疑難病」的范圍。
第二，從目前醫療ＡＩ診斷系統的功能來看，其是向主治提供疑難病癥的咨詢意見，不與患者直接交流，更不能獨立采取治療措施，與患者之間不產生直接的醫患關系。會診醫師在對疑難病進行討論時，也僅是根據主治醫師所提供的病歷資料、檢查信息等從自己專業角度提出建議。醫療機構為了提高自身的診療水平和節約人力物力成本，在明知醫療診斷系統可能存在誤診的情形下，應通過實施會診制度等措施來盡量避免其可能產生的不良后果。
雖然，醫療機構不可能評估黑箱醫療算法的實質性準確性，但卻可以而且應該被要求采取適當的謹慎來評估程序質量。若未采取積極措施而導致誤診發生，就與「醫療機構自身有管理過錯」并無二樣，皆屬于醫療機構由于疏忽或者懈怠而未能履行管理規范或者管理職責、造成患者人身損害之情形。
對此，可類推適用《民法典》第１２１８條規定，由醫療機構承擔管理過錯責任。
掃碼▽即可獲取完整回放和思維導圖
報名成為ＡＩ講師，加入ＡＩ主題社群
規避 ＡＩ 醫療應用法律風險 醫院應該采取哪些關鍵舉措
鄧勇提到，醫院在使用醫療ＡＩ時，明確其輔助性本質至關重要，應建立人機協同的診療新范式。在技術定位上，ＡＩ作為提升醫療效率的智能工具而非獨立決策主體，不能取代醫務人員的臨床核心決策地位。具體實施路徑包括：
一、建立分層應用體系：
基礎層：在影像預判環節，明確ＡＩ僅執行初步篩選功能，要求系統對疑似異常結果標注置信度評級。病歷結構化錄入需設置人工復核節點，確保關鍵信息（如過敏史、手術史）１００％人工確認。建立ＡＩ操作日志管理系統，完整記錄系統介入時間、操作內容及輸出結果。
決策層：由主治醫師對ＡＩ建議進行二次驗證與臨床決策，包括：與患者臨床表現的匹配度分析、循證醫學證據支持度核查、治療方案可行性評估。對于重大手術或復雜病例，建立多學科會診制度，將ＡＩ建議納入會診討論材料。
管理層：通過ＡＩ質控系統監測診療全流程規范性。有條件的可以每月生成《ＡＩ應用質量報告》，作為科室考核依據。
技術缺陷責任方面：
（１） 要求供應商提供《系統可靠性承諾書》
（２） 在采購合同中明確故障響應時間與賠償標準
臨床決策責任方面：
（１） 建立電子簽名追溯系統，確保每項ＡＩ建議都有醫師確認記錄
（２） 對連續出現決策失誤的醫師啟動能力復評程序
系統運維責任方面：
（１） 制定《ＡＩ系統日常維護規程》，明確備份頻率與災難恢復機制
（２） 建立運維事件登記制度，重大故障２４小時內上報院領導
完善倫理審查機制：
成立跨學科ＡＩ倫理委員會，涵蓋醫學、法學、倫理學專家
定期評估ＡＩ系統對醫患關系、診療公平性的影響
二、明確ＡＩ的輔助定位，建立「雙重確認」機制是規避法律風險的核心防線：
１． 流程標準化：
制定《ＡＩ輔助診療操作規范》，明確ＡＩ建議必須經過「醫師復核－臨床驗證－簽字確認」三步驟；
對急診等特殊場景設置復核時間閾值（如３０分鐘內完成二次確認）。
２． 責任界定規則：
醫師未復核直接采用ＡＩ建議視為重大過失；
ＡＩ系統持續誤判未被發現追究科室管理責任。
３． 風險預警系統：
部署決策偏離度監測模塊，當ＡＩ建議與臨床常規差異超過設定閾值時觸發警示；
建立誤判案例回溯機制，定期更新ＡＩ系統知識庫。
三、完善知情同意制度，知情同意書革新需體現ＡＩ技術特征：
１． 內容要素：
明確告知ＡＩ參與的具體環節（如影像分析、用藥建議等）
說明ＡＩ系統的局限性及可能存在的誤判概率
列明數據使用范圍及隱私保護措施
２． 簽署形式：
開發電子知情同意系統，支持多媒體說明（動畫演示、案例視頻）
設置知識測試環節確保患者真正理解內容
３． 動態更新機制：
ＡＩ系統版本升級后需重新簽署補充協議
對高風險診療項目設置二次確認流程
四、強化數據安全管理，構建分級防護體系：
１． 數據分類管理：
一級數據（生物特征、基因信息）：采取「物理隔離」的方式為宜
二級數據（診療記錄）：采取「動態脫敏＋區塊鏈存證」 的方式為宜
三級數據（科研數據）：需要遵守科研數據管理的相應規定
２． 技術防護措施：
部署醫療專用防火墻，建立ＡＩ操作「沙箱環境」
采用零信任架構，所有數據訪問需多重身份驗證
３． 協議管理機制：
與供應商簽訂《數據安全承諾書》，明確違約賠償條款
要求第三方機構每年提供安全審計報告
五、優化責任保險方案：
醫院可以采取多種措施。如果醫院資金實力允許，可以按照ＡＩ診療收入的比例提取專項賠償基金，建立先行賠付機制，保障患者權益，也可以與保險公司合作開發ＡＩ醫療責任險，設置浮動保費機制，與系統準確率掛鉤，在現有的醫療責任險中增設ＡＩ診療附加條款，覆蓋系統故障與算法誤判風險。
六、組織人員培訓：
醫院可以采取「三維案例體系」建設：首先精選典型判例，選取ＡＩ誤診賠償、數據泄露追責、知情同意瑕疵等具有代表性的司法案例，制作《ＡＩ醫療法律風險案例集》，每個案例包含案情概要、爭議焦點、法院裁判要旨及改進建議四部分。其次創新教學形式，開發互動式案例研討平臺，設置虛擬法庭模塊供醫務人員角色扮演，在模擬訴訟中理解舉證責任分配規則；建立「案例即時推送」機制，當醫院引入新ＡＩ系統時，自動關聯相似案例進行預警教學。
再者構建分析框架，采用「四步分析法」：
①識別案例中的法律事實；
②解構涉事主體的過錯形態；
③分析責任承擔的法律依據；
④提煉臨床實踐改進要點，通過結構化思維訓練培養法律風險預判能力。
醫務人員應對ＡＩ 也要有法律思維
針對網友感興趣的話題，鄧勇教授進行了線上作答。
健康界網友：當ＡＩ輔助診斷結果與醫生臨床經驗出現分歧時，醫生該如何權衡并決策，同時避免法律風險？
鄧勇：醫生要充分發揮主觀能動性，嚴格依據《醫師法》行使權利。
首先，謹慎評估ＡＩ結果，從數據質量、算法性能、系統局限性等方面判斷其可信度。
其次，充分結合自身臨床經驗，回顧患者病史、進行體格檢查并結合臨床癥狀綜合判斷。
再者，安排補充檢查，如基因檢測、影像檢測等，并動態觀察患者病情變化。此外，還可借助多學科團隊協作，組織會診、病例討論，咨詢專家意見。
最重要的是加強與患者的溝通，堅守職業資質和處方權原則，向患者解釋分歧原因，避免誤解。同時，規范診療記錄，詳細注明決策理由，為醫療決策提供有力證據，降低法律風險。
健康界網友：對于培訓醫務人員識別和應對ＡＩ醫療應用法律風險的方式，除案例教學外，還有哪些途徑？
鄧勇：模擬演練是其中之一，設置模擬醫療場景，融入ＡＩ應用可能出現的法律風險，讓醫務人員分別扮演醫生、患者、律師等角色，在模擬診療和糾紛處理過程中提升應對能力。專家講座也必不可少，邀請人工智能醫療ＡＩ合規風控領域的法律專家、律師以及醫療糾紛處理專家舉辦講座，從不同角度提供專業知識和實踐指導。
醫院也可以組織相關人員到優秀的醫療ＡＩ或醫療大模型企業實地考察調研，了解其工作原理、潛在問題及風控措施。此外，經典短劇表演也值得嘗試，通過內部人員扮演不同角色進行情景演練，對診療過程提出質疑并改進，提升醫務人員運用醫療ＡＩ的能力。
健康界網友：當ＡＩ的診斷結果被用作醫療糾紛案件中的證據時，其證明力和可信度應如何認定？
鄧勇：這需綜合多方面因素考量并滿足一定條件。認定因素包括ＡＩ系統的可靠性，即技術原理科學合理、算法經過嚴格驗證和同行評審；數據質量要有足夠規模、多樣性和準確性，并標注可靠度。同時，要實現ＡＩ系統及其結果的可解釋性，保障透明度，醫生需參與審查并做好人機協作記錄。
滿足的條件包括符合法定程序，數據獲取合法合規，不侵犯患者隱私，證據收集和保存符合醫療規范與法律要求。還可借助專業鑒定機構對ＡＩ系統和診斷結果進行鑒定，與其他醫療記錄、證人證言等證據相互驗證，并通過法庭質證、辯論以及專家輔助人出席來查明事實，將傳統證據規則與醫療ＡＩ技術相結合，進行全面看待和應對。
注：文章來源于網絡，如有侵權，請聯系刪除
