隨著全球新一輪科技革命和產(chǎn)業(yè)變革深入發(fā)展，以人工智能為代表的數(shù)字技術(shù)加速演進(jìn)，成為經(jīng)濟(jì)社會提質(zhì)增效的核心驅(qū)動力。在醫(yī)療領(lǐng)域，人工智能在提升診療效率與精準(zhǔn)性、加速藥物研發(fā)進(jìn)程、提供個性化醫(yī)療、協(xié)助醫(yī)療咨詢等方面，展現(xiàn)出巨大潛力。然而，其應(yīng)用也面臨訓(xùn)練數(shù)據(jù)不足、算法不可解釋、“數(shù)據(jù)投毒”可能致使模型生成錯誤診療建議危及患者生命安全等問題挑戰(zhàn)。具體表現(xiàn)在：

　　一是缺乏大規(guī)模、高質(zhì)量醫(yī)療公共數(shù)據(jù)集。目前，我國生物醫(yī)學(xué)數(shù)據(jù)高度依賴美國相關(guān)數(shù)據(jù)庫。國內(nèi)醫(yī)療數(shù)據(jù)“不敢、不愿、不能”共享，阻礙醫(yī)療公共數(shù)據(jù)集建設(shè)。一方面，臨床醫(yī)療數(shù)據(jù)涉及敏感個人健康信息，隱私泄露風(fēng)險高，導(dǎo)致數(shù)據(jù)擁有機(jī)構(gòu)“不敢”輕易進(jìn)行數(shù)據(jù)共享；另一方面，掌握大量臨床數(shù)據(jù)的醫(yī)療機(jī)構(gòu)，由于數(shù)據(jù)共享權(quán)責(zé)不明確，“不愿”進(jìn)行數(shù)據(jù)共享。此外，醫(yī)療領(lǐng)域鏈條長，各環(huán)節(jié)、各機(jī)構(gòu)之間術(shù)語、概念、數(shù)據(jù)格式、編碼體系缺乏統(tǒng)一性，數(shù)據(jù)“不能”順暢流通共享。

　　二是算法準(zhǔn)確性、可靠性、可解釋性不足。生成式人工智能未能實現(xiàn)對醫(yī)學(xué)知識的真正“理解”，仍停留在單詞間的概率計算，易引發(fā)幻覺問題，生成與真實醫(yī)療情況不符、無法解釋或誤導(dǎo)性的信息，導(dǎo)致誤診等嚴(yán)重后果?；谏疃葘W(xué)習(xí)的人工智能算法仍未突破“黑箱”瓶頸，決策過程不透明，阻礙在醫(yī)療領(lǐng)域的深度應(yīng)用。目前僅約5%的研究成果通過了隨機(jī)對照試驗驗證，大量算法停留在理論或?qū)嶒炿A段。

　　三是人工智能醫(yī)療應(yīng)用的倫理與法律規(guī)范不完善。人工智能在醫(yī)療領(lǐng)域的快速發(fā)展帶來了倫理和法律上的新挑戰(zhàn)。例如，AI遭到“數(shù)據(jù)投毒”后推薦虛假的“權(quán)威診療方案”，影響醫(yī)生診療，危及患者生命安全。AI診療決策的責(zé)任歸屬、患者知情同意的實施方式，以及算法偏見可能導(dǎo)致的醫(yī)療不公等問題尚未明確規(guī)范。當(dāng)前，針對AI醫(yī)療應(yīng)用的法律法規(guī)仍處于探索階段，缺乏統(tǒng)一的倫理準(zhǔn)則和監(jiān)管框架，導(dǎo)致不確定性和風(fēng)險加劇。

　　為此，建議：

　　一是完善數(shù)據(jù)共享機(jī)制建設(shè)，加快醫(yī)療公共數(shù)據(jù)集構(gòu)建。建立健全數(shù)據(jù)隱私保護(hù)機(jī)制，完善《數(shù)據(jù)安全法》《個人信息保護(hù)法》在醫(yī)療領(lǐng)域的配套細(xì)則，明確醫(yī)療數(shù)據(jù)全生命周期的使用規(guī)范和責(zé)任歸屬。推廣差分隱私、聯(lián)邦學(xué)習(xí)等匿名化、去標(biāo)識化技術(shù)，在保護(hù)患者隱私的前提下實現(xiàn)數(shù)據(jù)共享。摸底調(diào)研全國現(xiàn)行醫(yī)療數(shù)據(jù)格式，遴選最可行、最科學(xué)的數(shù)據(jù)格式、標(biāo)準(zhǔn)作為國家標(biāo)準(zhǔn)，分步驟分階段在全國推廣實施，打破數(shù)據(jù)孤島。建立國家級醫(yī)療公共數(shù)據(jù)集，加快推進(jìn)醫(yī)療數(shù)據(jù)匯聚、處理、加工、使用，為AI研發(fā)提供高質(zhì)量數(shù)據(jù)集。

　　二是加快“人工智能+”醫(yī)療算法創(chuàng)新，確保算法滿足臨床應(yīng)用需求。推動產(chǎn)學(xué)研醫(yī)深度融合，促進(jìn)醫(yī)學(xué)知識與人工智能技術(shù)的交叉融合，將臨床指南、專家經(jīng)驗等醫(yī)學(xué)知識融入算法模型，提高算法對醫(yī)學(xué)知識的理解和處理能力，減少幻覺問題的發(fā)生。建立嚴(yán)格的算法準(zhǔn)確性、可靠性、可解釋性評估標(biāo)準(zhǔn)和流程，明確算法在不同應(yīng)用場景下的性能指標(biāo)和測試方法。增加算法在真實醫(yī)療環(huán)境中的臨床試驗和驗證次數(shù)，全面評估算法的臨床有效性和安全性。

　　三是建立統(tǒng)一倫理準(zhǔn)則與監(jiān)管框架，加強(qiáng)多方協(xié)作共治。由衛(wèi)健、科技等多部門聯(lián)合成立專項委員會，制定統(tǒng)一的AI醫(yī)療的倫理準(zhǔn)則，明確算法設(shè)計、數(shù)據(jù)使用等環(huán)節(jié)的倫理紅線，加大對數(shù)據(jù)投毒等違法犯罪行為的打擊力度，確保AI應(yīng)用符合公平、透明、安全的原則。選擇部分地區(qū)或醫(yī)療機(jī)構(gòu)開展AI醫(yī)療應(yīng)用試點，驗證數(shù)據(jù)共享、算法性能和倫理規(guī)范的可行性，總結(jié)經(jīng)驗后逐步向全國推廣。依托醫(yī)療機(jī)構(gòu)和行業(yè)協(xié)會倫理委員會，對AI模型的開發(fā)和部署進(jìn)行審查，確保其符合倫理原則和法律法規(guī)。積極參與國際AI醫(yī)療倫理標(biāo)準(zhǔn)制定，借鑒先進(jìn)經(jīng)驗，推動我國AI醫(yī)療規(guī)范的國際化與科學(xué)化發(fā)展。