技術錯誤與社會錯誤：消費者對 AI 失誤的容忍度

2. 研究問題

論文把 AI 失誤區分為兩類：技術錯誤（系統執行或演算法運作失敗）與社會錯誤（違反社會規範，例如冒犯、歧視或不適當的回應），並追問三個問題：消費者是否對兩類錯誤有不同反應？錯誤嚴重度如何改變反應？認知信任、情感信任與可解釋 AI（XAI）扮演什麼角色？這個問題設定把「AI 出錯」從單一品質缺陷重新拆成能力失誤與規範失誤。

3. 理論基礎

核心整合「心智知覺理論」與「期望不一致理論」。前者說明人們會把不同程度的 agency（執行、推理與決策能力）及 experience（感受、關懷與情緒能力）歸因於 AI；後者則說明消費者會將實際表現與預期能力比較，形成確認或負向不一致。作者再以服務關係中的認知信任（能否可靠完成任務）與情感信任（是否表現出關懷與敏感度）作為機制。

4. 研究架構

研究架構以「錯誤類型 × 錯誤嚴重度」預測 AI competence、AI likability、使用意圖與錯誤回報行為，並以認知信任與情感信任作雙重中介；XAI 解釋則作為後續的調節／管理介入。理論上，技術錯誤主要違反 AI 的能力期待，社會錯誤主要違反 AI 的規範期待；但由於消費者本來就較少期待 AI 具備情感能力，輕微社會錯誤可能被折扣。

5. 假設邏輯

作者預期高嚴重度錯誤普遍造成較負面的 AI 評價；錯誤類型與嚴重度之間存在交互作用。技術錯誤應同時降低認知與情感信任，社會錯誤則較明顯降低認知信任、對情感信任的影響較弱，因為使用者預期 AI 缺乏情緒與社會判斷能力。兩種信任進一步影響 competence、likability 與使用意圖。XAI 被視為社會錯誤的特別重要修復機制，因為使用者會想知道 AI 為何做出違反規範的行為。

6. 方法

研究採累積式多研究設計：前導研究與 Study 1 以情境實驗操弄錯誤類型與嚴重度；Study 2 採前後測，直接觀察錯誤發生前後的信任變化；Study 3 控制其他刺激條件，檢驗技術／社會錯誤對錯誤回報意圖的影響；Study 4 加入 XAI 解釋作為邊界條件。樣本來自 Prolific 與 Amazon Mechanical Turk，研究使用變異數分析、迴歸、bootstrap 中介／調節式中介及 floodlight analysis。

7. 結果

第一，嚴重錯誤不論類型都會造成明顯負面反應。第二，輕微社會錯誤相較於輕微技術錯誤，較不會降低 AI 的 competence、likability 與使用意圖；它甚至在部分結果上接近無錯誤條件。第三，技術錯誤會同時傷害認知與情感信任，輕微社會錯誤主要降低認知信任而使情感信任相對維持。第四，消費者較願意回報技術錯誤，社會錯誤可能因被低估而未被回報。第五，XAI 對社會錯誤尤其有幫助，能改善 AI competence、likability，並對使用意圖產生較正面的修復效果；但解釋不是萬能的，錯誤本身的嚴重度仍是主要限制。

8. 理論貢獻

論文最重要的貢獻，是證明 AI 錯誤不能只用「錯了多少」衡量，還要問「錯在能力還是社會規範」。心智知覺理論提供了為何消費者對兩類錯誤產生不同信任路徑的解釋；期望不一致理論則說明預期能力如何決定負面反應。雙重信任結果也揭示：情感信任未立即下降，不代表消費者真正認可社會錯誤，反而可能形成「低估—不回報—重複發生」的倫理風險。

9. 實務意涵

AI 產品與服務設計不應只追求準確率，也要建立錯誤分類、嚴重度分級與回應策略。技術錯誤需要優先提升穩定性、可用性與任務可靠度；社會錯誤則應加入規範檢查、偏見監測、主動揭露與可追溯解釋。管理者不能把「使用者沒有抱怨」當成社會錯誤影響很小，因為研究顯示低情感信任變化可能使錯誤更不容易被回報。XAI 應針對規範違反說清楚觸發原因、限制與修正措施，而不是只提供技術術語。

10. 研究限制

研究主要使用美國線上樣本與虛構的語音助理情境，外部效度仍需在真實服務、不同文化與不同 AI 形態中驗證。錯誤類型與嚴重度透過文字情境操弄，未必完全等同於實際使用時的情緒、損失與責任歸因。研究也聚焦短期知覺與意圖，尚未充分回答重複社會錯誤是否會累積成抵制、品牌傷害或制度性歧視。最後，XAI 的修復效果可能依解釋可信度、責任歸因與使用者 AI 素養而異，仍需長期與現場研究。

11. 對我研究的啟發

這篇可直接支援我對 Human–GenAI collaboration、AI 應用與消費者／旅客體驗的研究。第一，可把「AI 信任」拆成認知信任與情感信任，不再把信任當成單一中介；例如旅客可能仍覺得推薦系統有效率，卻因冒犯性或缺乏文化敏感度而降低規範信任。第二，可把 AI 服務失誤設計成「技術失誤 × 社會／文化失誤 × 嚴重度」的實驗矩陣，檢驗旅遊聊天機器人、服務機器人或 AI 推薦對滿意度、回報意圖、再使用與品牌信任的差異。第三，研究提示「未抱怨」不是「未受傷害」；在旅遊與服務場景，低回報率可能正是社會錯誤被正常化的訊號。第四，可將 XAI 從一般透明度改寫成文化規範修復工具，測試解釋、道歉、人工轉接與主動承擔責任哪一種最能恢復消費者的安全感與能動性。

12. 整體評價

值得收進核心文獻，尤其適合作為 AI 消費者反應、服務失誤、信任機制與 XAI 介入的 empirical support，也可作為設計 AI 錯誤類型與信任中介的 methods reference。它不太適合單獨充當 Human–GenAI collaboration 的總體 framing paper，因為焦點是消費者面對 AI 失誤，而非共同創造、知識交換或認知風格。不過，技術／社會錯誤的區分具有很高的可移植性；最值得保留的研究角度是：AI 的小型社會錯誤可能因情感信任未顯著下降而被忽略，卻因此更容易持續累積倫理傷害。主要疑點是線上情境實驗與短期意圖能否代表真實高涉入服務決策，需以現場資料、跨文化樣本與長期追蹤補強。