來源：央視新聞客戶端
隨著人工智能應(yīng)用逐漸深入我們的日常生活，與人工智能相關(guān)的各種消息也不斷涌現(xiàn)。近期，有自媒體發(fā)布消息稱，從大三甲醫(yī)院到社區(qū)診所，從大城市到鄉(xiāng)村，“AI醫(yī)生”已經(jīng)因?yàn)椤罢`診”闖了很多禍。這類“AI醫(yī)生誤診”消息發(fā)布后，因?yàn)殡x奇的劇情、情感的沖突吸引網(wǎng)友大量轉(zhuǎn)發(fā)。
上海一重癥肺炎患者被AI誤診險(xiǎn)喪命？謠言！
近日，有自媒體發(fā)布“AI醫(yī)生闖大禍！上海一患者被誤診肺炎險(xiǎn)喪命”，消息一經(jīng)發(fā)布，就在網(wǎng)上大量傳播，消息稱，4月5日，上海徐匯區(qū)某社區(qū)醫(yī)院上演驚險(xiǎn)一幕，一名65歲患者因咳嗽發(fā)燒就診，AI輔助診斷系統(tǒng)將其癥狀判定為“普通感冒”，僅開具退燒藥，然而，患者回家后病情迅速惡化，家屬連夜送醫(yī)，經(jīng)三甲醫(yī)院確診為重癥肺炎合并感染性休克，搶救后脫險(xiǎn)。
為了增加可信度，該消息還堂而皇之地引用上海某三甲醫(yī)院呼吸科主任對(duì)AI模型的“爆料”、律師協(xié)會(huì)數(shù)據(jù)甚至是國家衛(wèi)生健康委發(fā)布會(huì)口徑來佐證故事的真實(shí)性，一經(jīng)發(fā)布，就引起了網(wǎng)友的廣泛關(guān)注。但是經(jīng)過核查，不僅文中提及的醫(yī)生不存在，協(xié)會(huì)數(shù)據(jù)不存在，就連相關(guān)部門發(fā)布會(huì)的內(nèi)容也是偽造的，是徹頭徹尾的假消息。
全國首例AI醫(yī)療誤診案開庭？謠言！
除了漏洞百出、粗制濫造的AI誤診謠言之外，記者還注意到，不少“精裝”版的甚至是由AI輔助生成的AI誤診謠言，也出現(xiàn)在了網(wǎng)絡(luò)上。
時(shí)間、地點(diǎn)清晰明了，案情介紹詳細(xì)。這篇標(biāo)題為“全國首例‘AI醫(yī)療誤診訴訟案’開庭，算法責(zé)任界定成焦點(diǎn)”的文章，3月份出現(xiàn)在某網(wǎng)絡(luò)平臺(tái)上。據(jù)文章稱：北京市民張女士因持續(xù)胸痛前往某三甲醫(yī)院就診。接診醫(yī)生使用院內(nèi)部署的“智診AI系統(tǒng)”進(jìn)行輔助診斷。然而，張女士次日突發(fā)急性心肌梗死，搶救無效死亡。2025年3月13日，全國首例“AI醫(yī)療誤診”訴訟案在北京市海淀區(qū)人民法院正式開庭。
這篇文章發(fā)布后，立即引發(fā)了網(wǎng)友熱烈討論。總臺(tái)央視《法治在線》記者與法院進(jìn)行了核實(shí)。
北京市海淀區(qū)人民法院立案庭副庭長 申進(jìn)：我們?cè)诹?，還有審判相關(guān)的系統(tǒng)，我們都查找過了，確實(shí)沒有發(fā)現(xiàn)這個(gè)相關(guān)的案件。
這篇文章還著重分析了這起所謂AI醫(yī)療誤診案件所涉及的庭審爭議焦點(diǎn)，詳細(xì)列明了AI公司、醫(yī)院方以及醫(yī)生的相關(guān)主張，可謂是信息量十足，收獲了網(wǎng)友百余條的回復(fù)討論。而專家表示，這篇文章有可能是AI生成的。
清華大學(xué)新聞與傳播學(xué)院 人工智能學(xué)院教授 沈陽：現(xiàn)在使用AI是比較容易生成一篇包含所有新聞要素的文章的，包括時(shí)間、地點(diǎn)、人物、事件，它可以自動(dòng)給你腦補(bǔ)上，并且可以把所有的細(xì)節(jié)都設(shè)計(jì)好。這篇文章第一是細(xì)節(jié)都比較充分，第二有些詞語很專業(yè)，這也是AI謠言的一個(gè)特征，它在任何專業(yè)方向上都可以使用層級(jí)比較深的專業(yè)詞匯，所以專業(yè)性也使得這種文章看上去特別能夠迷惑人。
起底以“AI醫(yī)生”為主角謠言編造套路
梳理這些謠言我們不難發(fā)現(xiàn)，它們既利用公眾對(duì)醫(yī)療服務(wù)的關(guān)注，又利用公眾對(duì)AI技術(shù)在醫(yī)療領(lǐng)域應(yīng)用的不了解，來編造故事。這類以“AI醫(yī)生”為主角的謠言，其套路主要包括以下幾個(gè)步驟：
首先，這類謠言中，事件起因大多是某醫(yī)院采用AI代替醫(yī)生看病開方，隨后劇情反轉(zhuǎn)出現(xiàn)醫(yī)療事故，最后被判罰天價(jià)賠償。
在這個(gè)過程中，造謠者還加入所謂“官方媒體報(bào)道”“權(quán)威機(jī)構(gòu)統(tǒng)計(jì)”“行業(yè)專家分析”等細(xì)節(jié)，以獲取信任。
此外，這些謠言往往充滿戲劇性，制造矛盾，放大焦慮，以便推動(dòng)網(wǎng)友擴(kuò)散，幫助造謠者獲得點(diǎn)擊量和關(guān)注度。
目前不允許AI取代醫(yī)生進(jìn)行診療或開處方
目前，AI在診療行為當(dāng)中擔(dān)任的角色是什么？我們是否需要擔(dān)心謠言中類似“誤診”情況的發(fā)生呢？
對(duì)于AI在醫(yī)療領(lǐng)域的應(yīng)用，根據(jù)規(guī)定，人工智能軟件等不得冒用、替代醫(yī)師本人提供診療服務(wù)；處方應(yīng)由接診醫(yī)師本人開具，嚴(yán)禁使用人工智能等自動(dòng)生成處方。此外，去年11月，國家衛(wèi)生健康委等部門也聯(lián)合發(fā)布《衛(wèi)生健康行業(yè)人工智能應(yīng)用場景參考指引》，涵蓋了醫(yī)療服務(wù)管理、基層公衛(wèi)服務(wù)、健康產(chǎn)業(yè)發(fā)展和醫(yī)學(xué)教學(xué)科研四大類84種具體場景，發(fā)揮AI在醫(yī)療中的作用。但在這些場景中，按照規(guī)定，AI發(fā)揮的都是輔助作用。目前各醫(yī)療機(jī)構(gòu)公布的AI應(yīng)用于診療的內(nèi)容，指的也是AI輔助診療技術(shù)的落地。
上海政法學(xué)院人工智能法學(xué)院院長、教授、博士生導(dǎo)師 楊華：因?yàn)獒t(yī)生看病他跟病人有一個(gè)互動(dòng)，包括你的情緒、狀態(tài)，甚至一個(gè)眼神都可以傳遞某些信息。另外，AI看病之后出現(xiàn)的責(zé)任，到底是醫(yī)生的責(zé)任，還是醫(yī)院的責(zé)任，還是算法的責(zé)任，還是AI機(jī)器人公司的責(zé)任？沒有法律的邊界，所以說法律上還不允許AI有處方權(quán)。
平臺(tái)責(zé)任 源頭治理 遏制虛假信息傳播
AI在醫(yī)療領(lǐng)域的應(yīng)用越來越廣泛，隨之而來的謠言侵?jǐn)_也對(duì)行業(yè)的發(fā)展造成了影響。如何從源頭識(shí)別和遏制虛假信息的發(fā)布，是目前各方需要解決的問題。
前不久，國家互聯(lián)網(wǎng)信息辦公室等多部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，提出對(duì)于AI生成的信息要強(qiáng)制添加顯式和隱式標(biāo)識(shí)等規(guī)范要求，所有AI生成的文字、圖片、視頻等內(nèi)容，都要“亮明身份”，提高生成信息的可辨識(shí)度。
中國政法大學(xué)法治文化研究所所長 宋慶寶：受眾是方方面面的，可能有一些對(duì)于謠言鑒定能力不是很強(qiáng)。這時(shí)非常重要的一點(diǎn)，媒體尤其這個(gè)平臺(tái)，它應(yīng)該承擔(dān)主體責(zé)任。
同時(shí)，專家表示，造謠并非沒有成本，如果造成一定社會(huì)影響，造謠者將面臨法律的嚴(yán)懲。
上海政法學(xué)院人工智能法學(xué)院院長、教授、博士生導(dǎo)師 楊華：如果有這種謠言，你擾亂公共秩序，我們可以采取行政拘留，一定的罰款。如果謠言對(duì)某些企業(yè)點(diǎn)對(duì)點(diǎn)的，或者能夠證明對(duì)企業(yè)的商譽(yù)或者名譽(yù)產(chǎn)生了損害，可以承擔(dān)民事責(zé)任。情節(jié)比較嚴(yán)重的，承擔(dān)刑事責(zé)任。
（總臺(tái)央視記者 鄭怡哲 趙酉龍 李紅葉 王殿甲 苗毅萌）
熱門跟貼