原創
作者:領醫知識島 2024年05月13日 15:12 9892 閱讀過去一年,中國國內的AI大模型行業應用出現了井噴式增長。北京市尤為重視AI的發展,出臺了一系列舉措,加上得益于擁有豐富的科技資源和創新環境,在AI應用領域已經形成了完整的創新和產業鏈條。
近日,北京市科委、中關村管委會發布了《北京市人工智能大模型行業應用分析報告》(以下簡稱《分析報告》),向市場呈現了北京市AI大模型創新應用發展態勢,并尋求向全國乃至全球貢獻“北京智慧”和“北京方案”。

該《分析報告》以近期舉辦的北京市人工智能行業大模型創新應用大賽為切入點進行了介紹,聚焦政務、金融、產業升級、醫療、文化教育、智慧城市6個賽道進行了系統分析和闡述。
領醫知識島(ID:LYZSD666)現將《分析報告》關于醫療AI的相關內容摘編如下,供醫療界同仁了解和決策參考。欲獲取完整報告,可以點擊文末“閱讀原文”或者掃描文末推薦領地鏈接下載查看。
另外,我們領醫(專屬于醫界志同道合者的高端知識社群)產品迭代基本完成,新上架的小程序、APP正處在平臺審核中。你可以關注下方公眾號,第一時間獲取更多干貨,還能在公眾號菜單欄點擊“領醫”登錄網頁端,提前體驗玩轉領醫的快樂。
北京協和、北京友誼提需求
垂類企業開發的醫療AI綜合能力更強
《分析報告》介紹了北京市人工智能行業大模型創新應用大賽在醫療領域的兩個賽題方向及完成情況。這兩個賽題方向分別由北京協和醫院、北京友誼醫院提出。
北京協和醫院提出的方向為——基于大模型的重癥醫學領域多源知識體系搭建及臨床輔助決策。該賽題以提升重癥醫學領域科研效率和臨床輔助決策能力為目標。
它需要參賽企業整合重癥醫學領域專有的指南、文獻等數據,構建重癥醫療領域高質量知識庫,從文獻知識問答、專業知識考試、重癥患者輔助診斷三個維度考察行業大模型能力。
該賽題傾向于將大模型作為輔助工具,利用大模型的理解和索引能力為醫生的科研工作提供幫助,利用大模型的推理能力提供輔助診斷建議。因此該題目方向需要大模型全面無遺漏地生成內容,從而幫助醫生進行判斷。
北京友誼醫院提出的方向為——大模型驅動的疑難肝病可解釋精準診斷平臺構建及應用。該賽題以建設面向復雜肝病會診場景的可解釋智能診療系統為目標,研發能夠實現醫生和智能體多方、多輪辯論的會診方法和平臺。
它需要參賽企業構建肝病診療智能體,實現對肝臟疾病的初步診斷;增強智能體的學習和辯論能力,實現人機聯合診療最優決策,提升復雜肝病會診決策準確率。
該賽題期待大模型能夠作為一個專業的肝病醫生,在復雜的醫療數據中自動化形成確診,因此對于大模型的專業性及精準性要求更高。
那么,AI大模型企業提供的解決方案又如何呢?《分析報告》簡要介紹了企業給出的解決方案的亮點:數據是決定醫療領域大模型性能的關鍵要素;輔助診療要求醫療領域大模型具備可解釋和可溯源功能。
比如,在醫療數據方面,模型訓練及測試面臨不同程度的金標準數據匱乏,少量錯誤數據對醫療大模型的不良影響難以評估。
參賽企業充分利用經專家治理的互聯網問診、全流程診療、醫學科研、醫學知識圖譜等高質量數據,構建超百億Token的醫學數據集,提升醫學領域大模型能力。
當然,長期深耕醫療行業、積累豐富基礎醫學知識,以及深入了解醫療場景應用需求的企業研發的醫療大模型綜合能力更強。

再比如,在輔助診療中要求醫療大模型具備可解釋和可溯源功能。不同疾病專科的診療思路和治療方式差異大,但共同點是明確診療依據,加強診斷準確性。部分參賽企業基于積累的通用醫學知識預訓練大模型,采用多Agent+ReAct思維鏈跟隨的結構,提升大模型診斷準確性,并補充發現和解釋患者可能存在的疾病,得到醫療專家的認可。
場景落地遇重重挑戰
在醫療AI領域表現得“尤為突出”
當然,意料之中的是AI大模型應用必然面臨一些挑戰。《分析報告》就列舉了一些:
算力需求持續增長,掣肘大模型落地應用;知識產權、數據隱私與大模型應用之間的最佳平衡點仍在探索中;大模型幻覺問題有所改善,但距離規模落地尚有差距;部分大模型應用處于“可用階段”,需求方和技術企業協同發力讓“可用”邁向“好用”;部分領域積極響應監管需要,對大模型落地提出特殊要求。
AI大模型應用遇到的上述挑戰,在醫療場景下基本上都存在,甚至時常體現得“尤為突出”。
比如,大模型訓練涉及的數據可能包括一些版權保護的作品,可能需要禁止使用,避免生成侵權回答。然而,面對數量龐大、來源各異、權屬不同的訓練數據,若采用事先授權許可的方式則過程漫長、復雜且幾乎無法落地操作。
在數據隱私保護方面同樣如此,它與大模型應用之間的技術平衡點也仍然在探索中,目前還存在一個兩難的問題——既要最大限度地保護數據隱私,又要最大限度地發揮大模型的效果。
這種矛盾在政務、醫療和金融領域尤為突出。如何通過開發可信的框架,從而在“既要……又要……”的困難中取得一種平衡,是目前業內討論的重點方向,仍在探索中。
再比如,金融、醫療、教育等領域在政策、數據隱私、倫理安全等方面有較高監管需要,需求方和技術企業積極響應,在凝練場景、開放數據、模型訓練等過程中考慮監管因素,在項目交付時考慮所屬領域可能存在的特殊要求。
領醫知識島(ID:LYZSD666)注意到,在此次由北京協和醫院、北京友誼醫院分別出題的復賽中,就出現了兩種數據使用情形。
協和醫院賽題方向的復賽所用訓練數據集由重癥醫學領域知識文獻、操作指南、專業試題庫和入院病歷樣例四部分組成,不涉及患者臨床信息,通過脫敏處理后可供參賽企業帶回,進行部署調試。
然而,友誼醫院賽題方向的復賽所用訓練數據集由友誼醫院提供的電子病歷、實驗室檢查指標、腹腔影像數據報告的半結構化脫敏數據組成,因數據保密的相關要求,僅允許參賽企業在醫院內部進行私有化部署調試。
“北京方案”給出三個研判、三個建議
《分析報告》對AI大模型在醫療領域的應用進行了研判,給出了三個判斷:
醫療領域核心場景重視準確性及可解釋性;醫療數據治理面臨隱私及標準化的挑戰;醫療機構私有化落地成本較高。
比如,診斷場景作為醫療領域的核心場景,需要大模型結果準確、可回溯、可驗證。這對技術企業提出了更高的要求。不少技術企業將大模型嘗試應用于科研及教學環節,推動醫療AI更快實現應用落地。
在醫療數據治理層面,當前醫療AI產品訓練所需的基礎數據,均來源于醫療機構在不同時期逐步部署的異構信息系統,不同醫療機構之間的數據仍難以互聯互通、共享共用,這些都阻礙了進一步分析利用。同時,對醫療數據的嚴格管理、保護,都限制了AI大模型在醫療領域的商業化落地。
此外,大模型在資金、時間、算力、硬件設施和環境等方面具有高昂的開發和運營成本。這些無疑都對醫療機構私有化部署醫療大模型增加了難度。
為此,《分析報告》提出了AI大模型在醫療領域發展的三條建議:
一是,從醫療全流程入手,開放有價值業務場景;二是,推動構建北京市醫療大模型公共數據集;三是,大模型技術企業與醫院IT解決方案供應商加強合作。
比如,從開放業務場景方面,《分析報告》認為從加快場景落地考慮,在持續推進醫療診斷等核心業務的同時,拓展醫療行業全領域業務場景,從互聯網診療、診前診后全流程管理、科研場景、民營醫院入手,鼓勵本市大模型團隊找準行業或場景數據優勢錯位發展,探索大模型在醫療領域的商業化模式和產業化發展路徑。
再比如,在推動構建北京市醫療大模型公共數據集方面,《分析報告》認為:協同各類主體加快構建高質量的醫療領域公共訓練數據集,推動醫療數據泛知情同意,按照盡職免責原則實現數據出院。在有效提升醫療數據的質量方面,《分析報告》也給出了較細致的建議。
此外,關于大模型技術企業與醫院IT解決方案供應商加強合作方面,《分析報告》認為:醫院通常有固定合作的IT解決方案供應商,其他技術企業全新建立與醫院的合作關系較為困難。大模型技術企業需要結合自身的技術特征、目標場景等要素,選擇合適的醫院IT解決方案供應商進行合作。
多數需求方認可大模型價值
RAG、智能體、多模態技術有明顯作用
盡管遇到的挑戰重重,但是也不乏一些能夠帶來信心的信息。《分析報告》就概述了現階段AI大模型應用呈現出的一些典型特征:
大模型穿越邊緣場景,向核心場景挺進;央國企擁抱新技術,加快大模型在產業升級、金融等領域的落地步伐;大模型應用搭建難度下降,“動態行業大數據”成為落地新關鍵;需求方情況各異,在采購、部署大模型時特色鮮明;大模型安全逐漸受到重視,為可持續發展提供保障。
比如,經過近一年的高速發展,AI大模型在政務、金融、產業升級、醫療等各個領域均有落地應用。在產業升級領域,以知識問答、代碼補全等場景為主;在文化教育領域,以內容潤色、內容糾錯等場景為主;在醫療領域,以醫療文書生成、智能醫藥問答等場景為主。

上述場景大多為所屬領域的邊緣場景,不涉及生產、運營的核心環節,也不面向公眾或外部客戶使用,僅面向內部員工使用。不過,得益于在邊緣場景價值的成功驗證及其技術演進,大模型也開始向核心區挺進。
在場景價值驗證方面,多數需求方認可大模型價值,將計劃追加投入。整體而言,大模型技術演進主要包括檢索增強生成(RAG)、智能體(AI Agent)和多模態,對擴大大模型應用范圍有明顯作用。
檢索增強生成技術(RAG)主要用于解決大模型幻覺問題;智能體技術(AI Agent)則可以實現大模型應用的能力升級,賦予大模型感知、規劃、記憶和使用工具的能力,實現獨當一面。
多模態技術則是使交互模態擴展至文本、圖片、音頻、視頻等多種模態,可顯著提升大模型應用的產品功能和交互體驗,推動大模型應用從可用向好用轉變。
(完)
評論