隨著人工智能應用逐漸深入我們的日常生活，與人工智能相關的信息也不斷涌現(xiàn)。前不久，一條內容為全國首例“AI醫(yī)療誤診”訴訟案開庭的文章，發(fā)布在某網絡平臺上。文章不僅對這起案件做了詳細的介紹，還著重分析了案件的庭審焦點和法律問題。然而經《法治在線》記者核實，這篇煞有其事的文章完全是子虛烏有的虛假信息。
時間、地點清晰明了，案情介紹頗為詳細。這篇標題為“全國首例‘AI醫(yī)療誤診訴訟案’開庭，算法責任界定成焦點”的文章3月13日在某網絡平臺上發(fā)布。
據(jù)文章稱：2025年3月13日，全國首例“AI醫(yī)療誤診”訴訟案在北京市海淀區(qū)人民法院正式開庭。文章還對這起案件的基本案情做了詳細介紹，稱2024年12月，北京市民張女士因持續(xù)胸痛前往某三甲醫(yī)院就診。接診醫(yī)生使用院內部署的“智診AI系統(tǒng)”進行輔助診斷。然而，張女士次日突發(fā)急性心肌梗死，搶救無效死亡。
這篇文章發(fā)布后，立即引發(fā)了網友對這起所謂誤診案的熱烈討論。那么究竟是否有這樣一起案件在北京市海淀區(qū)人民法院開庭審理呢？《法治在線》記者與法院進行了核實。
北京市海淀區(qū)人民法院立案庭副庭長 申進：我們在立案，還有審判這個相關的系統(tǒng)呢，我們都查找過了，確實沒有發(fā)現(xiàn)這個相關案件。
經記者與法院核實，既沒有相關案件在當天開庭，也沒有文中所提到的案件在法院進行立案，文中所謂的庭審完全是子虛烏有的虛假信息，更不存在全國首例醫(yī)療誤診案一說。
清華大學新聞與傳播學院 人工智能學院教授 沈陽：現(xiàn)在使用AI是比較容易生成一篇包含所有新聞要素的文章的，包括時間、地點、人物、事件，這些AI因為是一個概率推理的模型的話，它可以自動的給你腦補上，并且可以把所有的細節(jié)都設計好。
那么還有哪些虛假信息的展現(xiàn)，令這篇文章看上去極具迷惑性呢？
雖然文章提到的庭審信息和案件內容并不存在，但它依然使用大篇幅，著重分析了這起所謂AI醫(yī)療誤診案件所涉及的庭審爭議焦點，并詳細列明了AI公司、醫(yī)院方以及醫(yī)生的相關主張。此外文章還從法律困境、行業(yè)影響等多個板塊進行了討論分析，可謂是信息量十足。而這篇看似極具專業(yè)性的分析收獲了網友百余條的回復討論。
清華大學新聞與傳播學院 人工智能學院教授 沈陽：這篇文章第一是細節(jié)都比較充分，第二有些詞語很專業(yè)，這也是AI謠言的一個特征，正常的人寫文章的時候，這個人只有具備某個方向的專業(yè)知識，他才能使用專業(yè)詞匯，但是對AI來說，因為是基本上吸收了人類全量的公開知識，這種情況下，它在任何專業(yè)方向上都可以使用層級比較深的專業(yè)詞匯，所以專業(yè)性也使得這種文章看上去特別能夠迷惑人。
信息多、細節(jié)多、分析角度多，這樣極具迷惑性的謠言文章非常容易以假亂真，這又會給公眾帶來怎樣的影響和危害呢？
清華大學新聞與傳播學院 人工智能學院教授 沈陽：它會誤導大家，本來真實世界當中是沒有這樣的事，現(xiàn)在捏造了這樣的一個事件，就會對人的認知產生一個印象，比如說我們就認為這篇文章談到的某些觀點是對的，或者某個事實是對的，這樣對于人類在下一次做決策的時候，肯定是會產生影響的。所以我想編制的謠言，有的有即時的思想上的影響和行動上的影響，還有的謠言是有長遠的影響，潛移默化地改變一些認知，所以我想就這一類謠言還是有相當危害的。
近年來，利用人工智能生成的文章在網絡蔓延，真假難辨。虛假信息擴散的加劇也引發(fā)了社會的廣泛關注。
為了促進人工智能健康發(fā)展，規(guī)范人工智能生成合成內容標識，近日，國家互聯(lián)網信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內容標識辦法》，自2025年9月1日起施行。《標識辦法》提出強制添加顯式和隱式標識等規(guī)范要求，所有AI生成的文字、圖片、視頻等內容，都要“亮明身份”。
清華大學新聞與傳播學院 人工智能學院教授 沈陽：比如說一篇文章是AI生成的，如果涉及到事實，一定要把它標注出來，這是AI生成的。并且在轉載傳播過程當中，不能把是AI生成的標識給刪除，所以我覺得這個是一個非常重要的起點。第二個就是每個人在發(fā)布什么信息的時候，心里面一定要有數(shù)，這個是AI生成的嗎？發(fā)布出去會對大家造成什么樣的影響？所以在傳播的起點，進行嚴格的審核，這個是非常重要的，對于每個人來說，都應該提高AI的素養(yǎng)，應該知道哪些AI的內容是可以進行傳播，哪些AI的內容生成的謬誤的信息是不應該傳播的，要有一個甄別能力，否則就變成了自己被動或者主動地參與傳播謠言了。
編輯：李華山
