文獻筆記・
AI 時代的數位假訊息:三方架構
本文的核心研究問題是:digital disinformation process 該如何被理論化,特別是在 AI 已不只是輔助工具,而是能直接參與內容生成、擴散與互動操控的情況下。作者指出,既有…
- 論文
- AI-based digital disinformation: A theory-informed and integrated trilateral framework of digital disinformation for information systems research
- 作者
- Bernd W. Wirtz, Jan C. Weyerer, Tirza F. Müller(2026)
- 期刊
- International Journal of Information Management, 89, 103066
- DOI
- 10.1016/j.ijinfomgt.2026.103066
- 分類
- AI 應用
1. 基本資訊
這篇文章由 Bernd W. Wirtz、Jan C. Weyerer 與 Tirza F. Muller 發表於 2026 年的 International Journal of Information Management,題目是〈AI-based digital disinformation: A theory-informed and integrated trilateral framework of digital disinformation for information systems research〉,DOI 為 10.1016/j.ijinfomgt.2026.103066。文章要處理的不是單一假訊息案例,而是更根本的問題:在生成式 AI、演算法優化與 bot automation 已經深度滲入平台環境之後,我們究竟該如何理論化數位假訊息的整體流程。
2. 研究問題
本文的核心研究問題是:digital disinformation process 該如何被理論化,特別是在 AI 已不只是輔助工具,而是能直接參與內容生成、擴散與互動操控的情況下。作者指出,既有研究多半分散在兩邊,一邊研究人為相信與分享假訊息的心理機制,另一邊研究技術偵測與平台治理工具,但缺少一個能把「來源、內容、管道、接收者、影響」串成完整流程的理論框架。因此,真正的問題不是單點辨識假訊息,而是如何理解 AI 與人類在假訊息生命周期中的互動結構。
3. 理論基礎
本文最重要的理論基礎是 communication theory,尤其是 sender-message-channel-receiver-impact 的基本傳播邏輯。作者主張,數位假訊息本質上是一種 communication process,而不是只是一類內容物件,因此應該從傳播結構去理解。這個理論選擇非常關鍵,因為它讓研究不必只停留在「內容真假」或「個體心理偏誤」,而能進一步追問:訊息是由誰發出、經由什麼機制被擴散、由誰接收、又如何產生行為與社會影響。作者同時把數位假訊息放回 socio-technical systems 脈絡,強調人類與 AI 的互動關係本身就是理論對象。
4. 研究架構
文章提出一個 theory-informed and integrated trilateral framework。所謂 trilateral,指的是數位假訊息有三條互相連動的基本路徑:human-based、AI machine-based 與 hybrid-based。所謂 integrated,則是指這三條路徑都依循五個 process layers 展開,分別對應到 communication theory 的五個核心維度:source、message、channel、receiver 與 impact。這個框架的貢獻在於,它不只說明假訊息有不同來源,而是進一步指出:人在不同層級的動機、AI 的自動化能力、平台的擴散 affordances 與受眾的回應會交織成一個持續迴圈,並最終產生 hybrid-based disinformation 的黑箱效果。
5. 假設邏輯
這篇不是假設檢驗型研究,因此更適合理解為命題邏輯。作者首先主張,數位假訊息至少存在兩條 primary paths,也就是 human-based path 與 AI-based path;接著作者指出,這兩條路徑並不是彼此獨立,而是在各個流程層級中透過 feedback loops 彼此放大,最終形成第三條更具威脅性的 hybrid-based path。再往下,作者推論不同 message types、platform channels、receiver vulnerabilities 與 impact dynamics,會在 AI 的 scalability、 personalization 與 automation 能力之下被重新組合,因此未來研究必須把 disinformation 當成動態流程,而不是靜態分類。
6. 方法
本文採 conceptual theory-building approach。方法上不是做 survey、實驗或二手資料計量分析,而是先整合資訊系統領域中關於 digital disinformation 的設計科學與行為科學研究,再結合傳播理論與既有 disinformation research,進行概念澄清、理論統整與框架推導。換句話說,這是一篇典型的理論建模論文,其價值不在統計顯著,而在能否提供一個足夠清楚、可供後續研究操作化的 explanatory structure。
7. 結果
文章的主要結果是提出一個結構清楚的流程理論。第一,作者確認 digital disinformation 應被區分為 human-based、AI machine-based 與 hybrid-based 三種路徑。第二,這三條路徑都橫跨五個流程層級:actors/objectives、message types、distribution channels/dissemination mechanisms、receivers,以及 impact。第三,作者指出 AI 不只是加快訊息生成而已,而是會透過 synthetic identities、bot networks、microtargeting、real-time responsiveness 與 generative richness,改變假訊息的擴散速度、規模與滲透方式。第四,最值得注意的是 hybrid path:人類戰略意圖與 AI 可擴張性結合後,會讓假訊息操作變得更難辨識、也更難治理。
8. 理論貢獻
這篇最大的理論貢獻,是把原本破碎的 disinformation 研究重新組裝成一個 process theory。第一,它補足了過去過度偏向 psychological mechanisms 的侷限,把結構性流程重新拉回討論中心。第二,它彌合了 behavioral IS research 與 technical IS research 之間的鴻溝,讓研究者可以在同一框架內討論認知偏誤、平台機制與 AI 自動化。第三,它把 AI 在 disinformation 中的角色從單純工具提升成一種會重塑整個 communication process 的 actor-like mechanism。第四,它提供未來命題發展與實證操作化的基礎,使得後續研究可以針對某一層級或某一條 path 做精準延伸。
9. 實務意涵
對平台治理、政策制定與企業資訊治理來說,這篇的啟示很直接。若數位假訊息是跨五層流程的 socio-technical process,那麼治理也不能只靠單點 intervention,例如只做 fact-checking、只做內容下架,或只做使用者教育。更合理的作法,是針對不同 path 與不同 layer 設計對應干預,例如在 source layer 處理 bot 與 synthetic identity,在 channel layer 處理平台擴散機制,在 receiver layer 處理脆弱受眾與認知防護,在 impact layer 則評估政治、健康與商業後果。這種思路對企業內部的 AI risk governance 也很重要,因為 disinformation 不只威脅公共領域,也會威脅品牌、平台信任與市場運作。
10. 研究限制
這篇的主要限制在於它是一篇理論建構文,尚未透過大規模實證資料驗證各層級之間的關係強度,也未比較不同平台、不同國家情境或不同 AI 技術型態下的差異。其次,雖然文章提出很多值得測試的命題,但目前仍偏結構描述,尚未把變數操作化到可以立即進行標準化量測。再者,hybrid-based path 雖是全文最有洞見之處,但也是最需要後續研究補強的部分,因為它涉及人機混合代理、平台 affordance 與動態回饋機制,實證上不容易完整捕捉。
11. 對我研究的啟發
這篇對我最有價值的地方,是它示範了如何把 AI 不只是當成自變數或工具,而是當成會重塑知識流、資訊邊界與協調機制的社會技術力量。我可以把它和我已經累積的 organizational learning、performative AI、ecosystem orchestration、knowledge creation 與 governance 類文獻接起來。尤其可重用的是這條理解路徑:source/message/channel/receiver/impact 並不是新聞傳播專屬模型,它其實也能轉譯成組織內外知識操控、平台互動與人機協作中的資訊治理框架。若我之後要研究 Human-GenAI collaboration、AI-mediated cognition 或 digital governance,這篇可以作為「從個體心理擴展到系統流程」的重要理論橋樑。
12. 整體評價
我認為這篇很值得優先讀,因為它不是再多加一個 AI 假訊息案例,而是試圖建立一個能整合既有研究的理論總圖。它的強項在於結構清楚、問題意識明確,而且把 AI 對 disinformation 的影響提升到 process-theory 層次,這對後續理論累積非常有幫助。若要挑剔,最大的弱點就是尚未進入實證檢驗,因此目前更像一個高品質的研究平台,而不是已被驗證的因果模型。不過就「可重用性」與「研究價值」而言,這篇在 backlog 裡仍屬高優先級。
這是我的個人閱讀筆記,整理論文重點與心得,內容以原文為準。全文請由 DOI 連結至期刊閱讀。