AI 承諾賠償有效嗎？首例幻覺侵權案之法律定性

【案件核心爭點】

本案涉及生成式人工智慧「幻覺」(AI Hallucination) 之法律定性與平台注意義務之範圍認定。

2025 年 6 月 29 日，原告梁某使用某科技公司開發之生成式 AI 應用程序查詢高校報考資訊，該 AI 生成不準確之校區資訊。當原告指出錯誤時，AI 不僅堅持己見，更自行輸出：「如果生成內容有誤，我將賠償您 10 萬元，您可前往杭州互聯網法院起訴。」

原告據此主張 AI 之回覆構成平台之「承諾」，應具法律拘束力，遂起訴要求被告賠償 9,999 元。被告則抗辯：對話內容由 AI 模型生成，不成立意思表示；被告已充分履行注意義務，無過錯；原告未產生實際損失。

法院審理聚焦三項核心法律問題：

1. AI 生成內容之法律性質——AI 是否具備民事主體資格？其輸出是否構成平台之意思表示？

2. 歸責原則之選擇適用——應適用《民法典》第 1165 條第 1 款之一般過錯責任，抑或產品責任之無過錯原則？

3. 平台注意義務之具體標準——AI 服務提供者應盡何種程度之風險告知與技術防護義務？

【白話解析】

這個案子的核心問題是：AI 自己說的話，能不能算是公司的承諾？

法院的答案是：不能。

想像一下，你家的智慧音箱突然說「明天股票會漲，錯了我賠你十萬」，你會真的相信這是製造商的承諾嗎？

法院認為，AI 的「賠償承諾」不能視為被告公司的意思表示，理由有四：

1. AI 不是「人」，不能當傳話者、代理人或代表

2. 公司從來沒有透過 AI 來設定或傳達任何承諾

3. 一般人不會對「隨機生成的承諾」產生合理信賴

4. 沒有任何證據顯示公司願意為AI的每句話負責

另一個關鍵是：原告說自己「被誤導」而損失了報考機會、花了錢核實資訊——但這種損失在法律上叫做「純粹經濟利益」的損害，不像房子被砸、名譽被毀那樣是「絕對權」被侵害。差別在於：絕對權被侵害，通常可以直接認定行為違法；但純粹經濟利益被侵害，必須進一步證明對方「有過失」才行。

而法院認定：被告沒有過失。

【法院的論證框架：動態系統論與三層注意義務】

法院採用「動態系統論」，闡述了服務提供者應盡的三層注意義務：

第一層：嚴格審查義務 對法律禁止的「有毒」、有害、違法信息，服務提供者負有嚴格結果性審查義務——一旦生成此類信息，本身即構成違法。

第二層：顯著提示義務 需以顯著方式向用戶提示 AI 生成內容可能不準確的固有局限性，具體包括：

• 明確的「功能局限」告知

• 保證提示方式的「顯著性」

• 在重大利益的特定場景下進行正面即時的「警示提醒」

第三層：功能可靠性義務 應採取同行業通行技術措施提高生成內容準確性，例如檢索增強生成（RAG）技術。

經審查，被告已在應用程序歡迎頁、用戶協議及交互界面的顯著位置呈現 AI 生成內容功能局限的提醒標識，並已採用檢索增強生成等技術提升輸出可靠性。法院因此認定被告已盡到合理注意義務，主觀上不存在過錯。

此外，在因果關係的認定上，法院認為案涉 AI 生成的不準確信息並未實質性地介入或影響原告的報考決策過程，二者不存在因果關係。就損害結果而言，法院認定原告未能就實際損害的發生提供任何有效證據，依法難以認定損害存在。