世衛(wèi)組織：人工智能在醫(yī)療領(lǐng)域應(yīng)用前景廣闊，但同時也要防范可能出現(xiàn)的“自動化偏見”

　　世界衛(wèi)生組織1月18日發(fā)布的多模態(tài)大模型治理相關(guān)新指南說，人工智能在醫(yī)療衛(wèi)生領(lǐng)域應(yīng)用前景廣闊，但同時也要防范其中可能出現(xiàn)的諸如“自動化偏見”導(dǎo)致的過度依賴等風(fēng)險。

　　作為一項快速發(fā)展的生成式人工智能技術(shù)，多模態(tài)大模型是指能夠處理圖像、文本、聲音等多種類型數(shù)據(jù)的深度學(xué)習(xí)模型，廣泛應(yīng)用于醫(yī)療衛(wèi)生領(lǐng)域。

　　世衛(wèi)組織這份新指南概述了多模態(tài)大模型在醫(yī)療衛(wèi)生領(lǐng)域的五大應(yīng)用場景：診斷和臨床護(hù)理、患者自主使用、文書和行政工作、醫(yī)療和護(hù)理教育、科學(xué)研究和藥物研發(fā)。

　　新指南還指出了醫(yī)療系統(tǒng)面臨的相關(guān)風(fēng)險：表現(xiàn)最佳的多模態(tài)大模型的可及性和可負(fù)擔(dān)性；多模態(tài)大模型可能助長“自動化偏見”，使醫(yī)療專業(yè)人員和患者過于依賴人工智能，忽略原本可以由人發(fā)現(xiàn)的差錯，或把困難的選擇不恰當(dāng)?shù)亟唤o多模態(tài)大模型；多模態(tài)大模型與其他形式的人工智能一樣，也容易受到網(wǎng)絡(luò)安全風(fēng)險的影響，從而危及患者信息安全、有損算法的可信度等。

　　世衛(wèi)組織首席科學(xué)家杰里米·法勒說，生成式人工智能技術(shù)具有改善醫(yī)療保健水平的潛力，但前提是研發(fā)、監(jiān)管和使用這些技術(shù)的人必須識別并充分考慮相關(guān)風(fēng)險。人們需要透明的信息和政策來管理多模態(tài)大模型的設(shè)計、開發(fā)和使用，以取得更好的衛(wèi)生成果，克服持續(xù)存在的衛(wèi)生不平等。

　　世衛(wèi)組織強(qiáng)調(diào)，為了創(chuàng)造安全有效的多模態(tài)大模型，政府、科技公司、醫(yī)療服務(wù)提供者、患者等利益攸關(guān)方需要參與相關(guān)技術(shù)研發(fā)和部署的各個階段，對多模態(tài)大模型進(jìn)行監(jiān)管并制定相關(guān)規(guī)范。（記者曾焱）

　　轉(zhuǎn)自：新華每日電訊

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個人觀點(diǎn)，不代表本網(wǎng)觀點(diǎn)和立場。版權(quán)事宜請聯(lián)系：010-65363056。

延伸閱讀