生成式AI幻覺造成誹謗,業者應否負責?美國伊利諾州法院Keene v. Google LLC案

楊智傑/雲林科技大學 科技法律研究所 教授

0
21
圖片來源 : shutterstock、達志影像

使用Google搜尋資料時,搜尋結果上方有時會出現由人工智慧(AI)產生的AI摘要(AI Overviews)。AI摘要仍常出現AI幻覺,提供錯誤資訊。當AI摘要說某人犯下殺人罪時,Google是否應負誹謗責任?2026年9月14日,美國伊利諾州北區聯邦地方法院(下稱伊利諾州地院)作成裁定,認為AI搜尋摘要所產生的不實資訊,仍可能構成誹謗,拒絕Google要求全面駁回訴訟的動議[1]。

Google AI搜尋摘要捏造原告的犯罪紀錄

Google近年在搜尋引擎中加入生成式AI(Gen AI)功能,稱為AI摘要。當使用者透過Google搜尋資訊時,Google運用大型語言模型(LLMs),直接整理出一段摘要,並附上相關資料來源,讓使用者快速取得答案。但因應快速生成的需求,並未以RAG技術避免AI幻覺,導致在生成摘要時偶有錯誤。

本案原告是Keene。1997年,Keene因涉及共謀販售毒品而認罪,被判處10年有期徒刑。後來,Keene與FBI合作,在監獄中擔任線民,協助蒐集涉嫌執行連續殺人案的罪犯Larry Hall的犯罪證據。Larry Hall最後被定罪,而Keene的刑事定罪紀錄也因此被撤銷。Keene將這段經歷寫成回憶錄,後來更被改編為Apple TV影集《黑鳥》(Black Bird)[2]。

然而,在2025年5月24日至6月27日期間,當使用Google搜尋「Jimmy Keene net worth」時,出現三則不實陳述。

(1)第一則AI摘要稱Keene「因多項犯罪定罪,目前正在服無期徒刑,且不得假釋」;

(2)第二則AI摘要表示Keene「因殺害三名女性,目前正在服無期徒刑,且不得假釋」;

(3)第三則AI摘要則稱Keene「曾因販毒而被定罪」[3]。

並且,在使用Google搜尋「Is Jimmy Keene still alive」的問題時,Google搜尋引擎中的AI回答出第四則摘要,稱Keene「目前正在北卡羅來納州Butner服無期徒刑,且不得假釋」[4]。

Google提供的這四則AI摘要都引用維基百科作為資訊來源,並附上相關連結。但是,被引用的維基百科頁面根本沒有出現這些不實敘述。此外,第一則及第二則AI摘要,已經被Keene的家人、朋友及熟人看到[5]。

Keene主張,曾於2025年5、6月間,多次向Google反映錯誤資訊。Google據稱曾向Keene道歉,承認這些內容是因AI幻覺產生的錯誤,但相關不實資訊仍持續出現[6]。

原告提出誹謗訴訟,Google請求法院駁回

2025年7月30日,Keene向伊利諾州地院提起訴訟,主張Google的AI摘要構成「當然誹謗」(defamation per se)。Google則提出駁回訴訟動議[7]。

依據伊利諾州法律,成立當然誹謗,原告必須主張被告對其作出不實的事實陳述、該陳述曾向第三人發表,並造成損害。其中,指稱某人曾經犯罪的言論,屬於典型的當然誹謗。此外,由於Keene承認自己就其人生故事而言屬於有限目的公眾人物(limited public figure),因此還必須證明Google具有「真正惡意」(actual malice)[8]。

法院認為Google搜尋產生的AI摘要仍可能構成事實陳述

Google主張,AI摘要中附有免責警語,提醒使用者AI產生的內容可能有錯誤。此外,使用者可以點選摘要所引用的維基百科連結,確認正確資訊。部分AI摘要開頭也使用較不確定的措辭,因此不應被當作確定的事實陳述[9]。

但法院指出,Google所稱的免責警語,並未出現在原告的起訴狀或所附的搜尋結果中,原告律師進行的測試搜尋也沒有看到該警語。因此,警語是否存在仍有事實爭議,法院在駁回動議階段不能直接採納Google的說法[10]。

其次,法院認為,AI摘要附上資料來源連結,不代表摘要本身就不是事實陳述。對一項陳述附上引用資料,並不會使其自動變成個人意見。尤其一般使用者看到Google摘要引用維基百科,反而可能認為相關陳述有客觀資料支持,而不會特別點進原始網頁確認[11]。

法院認為,一般人用Google搜尋,目的就是尋找客觀事實,而不是要求AI創作內容。Google既然將AI摘要整合進搜尋引擎,就不能單純主張AI可能犯錯,而認為這些內容不具有事實陳述的性質[12]。

此外,雖然部分AI摘要開頭提到「看起可能有一些混淆」,但法院認為,這種不確定的前言,並不會改變後面「Keene正在服無期徒刑」等具體陳述的事實性質。因此,法院認定相關AI摘要可以被合理理解為事實陳述[13]。

Google是否具有真正惡意?

由於Keene屬於有限目的公眾人物,因此必須證明Google明知相關陳述不實,或者對其真偽採取輕率、疏忽、不在乎真實(reckless disregard)的態度。Keene主張,他已經多次向Google反映AI摘要內容不實,但Google仍然持續產生相似內容,因此足以證明真實惡意[14]。

Google則反駁,Keene沒有具體指出Google內部究竟是哪位負責發布AI摘要的員工明知內容不實。法院認為,在尚未進行證據開示(discovery)之前,不能期待原告已經知道Google內部處理投訴的員工身分。原告多次寄送通知,足以合理推論相關訊息可能已傳達給Google內部負責管理AI摘要的人員[15]。

目前證據顯示,Keene曾多次向Google通報相關問題。法院認為,若投訴已由Google員工收到,可能支持Google知悉內容不實的主張;反之,如果Google根本沒有任何人閱讀這些法律移除請求,也可能支持其對資訊真偽採取輕率、疏忽、不在乎的主張。因此,法院認為原告在現階段已經充分主張真實惡意,相關問題應留待後續訴訟調查[16]。

法院裁定案件可繼續審理

法院裁定,第一則及第二則AI摘要的誹謗請求可以繼續審理。至於,第三則及第四則摘要的請求,則因第三則摘要描述屬真實[17],第四則摘要且未證明曾有第三人看過[18],則予以駁回,但不妨礙原告在法院准許的期限內提出修正起訴狀[19]。

由於Google搜尋時出現的AI摘要,太快生成,沒有經過充分的RAG技術與推論,故仍然容易出現AI幻覺。但人們不知道Google的AI摘要容易出錯。而法院並未因為不實資訊是由AI自動生成,就直接排除Google的誹謗責任。但由於此案件涉及名人,在美國須討論Google是否具備真正惡意。目前只是初步裁定,法院認為本案仍可繼續往下走,我們也可繼續關注此案的後續發展。

備註:

  1. [1] Keene v. Google LLC, No. 25 C 11431, slip op. at 1, 12 (N.D. Ill. Sept. 14, 2026).
  2. [2] Id. at 1.
  3. [3] Id. at 2.
  4. [4] Id. at 2.
  5. [5] Id. at 2.
  6. [6] Id. at 2.
  7. [7] Id. at 2.
  8. [8] Id. at 3-4.
  9. [9] Id. at 5.
  10. [10] Id. at 4-5.
  11. [11] Id. at 5-7.
  12. [12] Id. at 6-7.
  13. [13] Id. at 7-8.
  14. [14] Id. at 10-11.
  15. [15] Id. at 11.
  16. [16] Id. at 11-12.
  17. [17] Id. at 8-10.
  18. [18] Id. at 12.
  19. [19] Id. at 12.

責任編輯:盧頎

【本文僅反映專家作者意見,不代表本報立場。】

作者: 楊智傑
現任: 雲林科技大學科技法律所 教授
經歷: 真理大學法律系助理教授
真理大學法律系副教授
學歷: 台灣大學法律系
中央大學產業經濟所碩士
台灣大學法學博士
專長: 智慧財產權、美國專利法、美國著作權法、憲法

智權報416期文章列表

吳碧娥 「2026年產業專利分析與布局競賽」創雙贏,智慧局宣布明年擴大參賽規模!
吳碧娥 未來沙龍跨界傳授實戰心法:Agentic AI時代智財人才的下一個生存槓桿
李淑蓮 從法學院直通 PTAB 戰場!USPTO 首推模擬法庭,重塑新一代智財與專利布局精英
盧頎 台灣專利審查機制雙引擎革新:AEPRe加速與延緩實體審查之策略效益及產業專利布局全景分析
陳秉訓 從美國經濟間諜案例United States v. Xu案反思企業能做的防範措施
吳碧娥 企業導入AI為何效率不如預期?當心四大營運黑洞引爆AI專案棄置潮!
芮嘉瑋 跳脫零信任盲點:打造具韌性AI供應鏈的三大戰略
楊智傑 生成式AI幻覺造成誹謗,業者應否負責?美國伊利諾州法院Keene v. Google LLC案
袁如陵 AI 文字浮水印上線:用雲端 AI 處理他人資料的要注意了
蔡佑駿 從2026年10月法國爆發抗議遊行一窺法國社會問題
葉雪美 介紹CAFC全體法官聯合重審(en banc)– 3:深入看2026年8月CAFC全院聯席審理
蘇翰揚 矽經濟戰場:全球多晶矽版圖重組與半導體原料安全
吳碧娥 結構性緊縮確立DRAM產業新局,高頻寬成為記憶體價值重塑的核心樞紐
李淑蓮 2027年QS亞洲大學排名百大名單解析與香港高等教育名列前茅之深層因果省思
李淑蓮 爽感經濟與AI衝擊:微短劇與創作者經濟的產業化轉型與範式轉移
李淑蓮 從製造走向共創!台灣最大五金工業展TiTE x IHT 臺中圓滿落幕:2.5萬人次、65國買主搶灘

發表留言

請輸入您的評論!
請在此輸入您的姓名