問題隱患
“AI+醫療”作為一種新興模式在實際套用過程中可能存在一定法律風險外,一些線上醫療問診、線上購藥平台在引入AI輔助後,雖然給患者帶來便捷,但也暴露出不少問題。一些網際網路醫療平台採用“先選購藥品,再因藥配方,甚至由人工智慧軟體自動生成處方”這樣本末倒置的操作方式。
未來發展
為了有效應對“AI+醫療”在實際套用中潛在的法律風險,需要從法律和政策兩個層面進行系統化完善。只有建立健全法律框架和監管機制,明確醫療大模型的責任歸屬和數據使用規範,才能在推動醫療人工智慧發展的同時,切實保障患者的合法權益。
發展歷史
截止2025年3月,深圳粗略估計已經有近450個人工智慧產品在全市醫療衛生機構落地套用。其中臨床醫療服務類404個,醫院管理類29個,公共衛生管理類4個,科教研輔助類2個,支撐環境類8個。
相關新聞
2025年3月2日,新聞報導稱,隨著人工智慧技術廣泛賦能千行百業,“AI+醫療”也成為熱門套用領域。
中南大學湘雅醫院放射科副主任醫師 周暉:這個病人,我們打開以後,識別出來有14個結節,我們可以根據結節的大小進行排序,我們自己要人工來覆核,看哪些是有意義的,哪些是沒有意義的。如果沒有AI,人工去瀏覽,逐層瀏覽圖像,去找到這些結節,肯定會非常耗費時間和精力,而AI的作用是直接把有意義的、沒有意義的結節全部都給展示出來了。所以只需要在裡面去選有意義的、要關注的。
在基層醫療機構,AI在圖像領域的只能識別也套用廣泛,在雲南昭通市鎮雄縣中醫醫院從去年4月開始使用醫學影像人工智慧輔助系統,在冠心病診斷、腦出血及腦梗死測量、骨齡分析等方面更加快速高效。在肺結節微小病灶的發現方面遠高於人眼識別,配合人工把控,診斷更專業、更準確。將肺結節從人眼檢查5毫米的極限,推到AI篩查精度達1-2毫米。
總台央視記者 鄭怡哲:接下來的高頻詞就是“輔助”,我們可以看到,輔助診斷、輔助決策、輔助治療、輔助生成、輔助質控、輔助篩查等關鍵字,一共重複提到了超過80次,覆蓋了超過一半的套用場景。比如這些天的採訪中,我們看到很多醫院在罕見病領域的複雜疾病領域,在基層醫療機構的常見病、慢性病管理方面,AI已經逐漸成為醫生手中提高就診水平非常有用的診療工具之一。
在四川省人民醫院罕見病中心,專家們正在為一位下肢無力的患者會診。最初,醫生懷疑是因為椎管狹窄壓迫神經導致的下肢無力,經過神經內科、心內科、血液科專家會診,並在人工智慧罕見病輔助決策平台的幫助下,被診斷為罕見病心臟澱粉樣變。四川省人民醫院人工智慧罕見病輔助決策平台匯集了遺傳學家、臨床醫學、臨床藥學等專業100多名專家,整合全球醫學知識庫以及符合中國人群特徵的知識圖譜,形成了具有自主智慧財產權的醫學認知網路。最近,該平台接入DeepSeek大模型,建立完整的罕見病診療管理模式。
AI與醫生不是取代的關係,而是要共同守護醫療初心——“治病救人”。而管理規範、權責明晰,無論在什麼場景下,這都是醫療行為不變的遵循。AI在醫學領域的邊界在哪裡?
總台央視記者 鄭怡哲:相信很多觀眾也都用過AI給自己提供一些醫學上的建議,或者看到醫生使用AI提高診斷水平,但是讓患者全盤接受AI替代醫生,大家還是會顧慮重重。AI在醫療領域的邊界在哪裡,通過對政策檔案的解讀我們發現有兩方面特別的考慮,一方面是“數據怎么用”,比如,“隱私”“數據安全”“個人信息”在檔案中出現了多次,一些高頻場景包括、醫學影像數據、患者診療記錄、健康檔案等場景,都強調了AI需要遵循隱私保護原則。AI在醫療領域的另外一條紅線,則是“決定誰來做”,是關注未經人工干預的獨立決策方面,比如“禁止獨立決策”“需人工覆核”等關鍵字出現多次,而“麻醉藥品”“精神藥品”“毒性藥品”在特殊藥品管理中需額外加密和許可權控制。
湖南省醫療保障局近日印發的通知明確規定:
醫生開具處方應與患者或患者家屬進行有效、充分的溝通問診;嚴禁接收人工智慧等自動生成處方。規定一出,引發熱議。記者走訪湖南多家藥店,發現藥師在接收處方時需要嚴格履行“雙審核”、均不接收AI處方。
湖南某藥店執業藥師 周鳳琦:我們目前是患者通過實體醫療機構的處方,以及他們的疾病診斷材料,然後我們職業藥師的審核,再進行報銷的流程,也是確保用藥安全。如果患者拿了線上開具的處方,類似於AI開過來的處方我們是肯定不能認可的,我們的藥師也不會進行審核。
基於大模型出具的所謂“處方”到底有多大的可信度?多名醫務工作者表示,AI系統的準確性和可靠性依賴於大量的高質量訓練數據,在處理複雜病例、結合患者個體差異進行診斷等方面仍有局限性,AI只能做輔助診斷。
同時,專家提醒,用人工智慧開處方,還面臨一定的法律風險,如果患者真的按照人工智慧開出的藥方去吃藥,出現問題的話人工智慧也無法對患者負責。