勇博講古

← 文獻筆記

文獻筆記・

AI 時代的數位假訊息:三方架構

本文的核心研究問題是:digital disinformation process 該如何被理論化,特別是在 AI 已不只是輔助工具,而是能直接參與內容生成、擴散與互動操控的情況下。作者指出,既有…

論文
AI-based digital disinformation: A theory-informed and integrated trilateral framework of digital disinformation for information systems research
作者
Bernd W. Wirtz, Jan C. Weyerer, Tirza F. Müller(2026)
期刊
International Journal of Information Management, 89, 103066
DOI
10.1016/j.ijinfomgt.2026.103066
分類
AI 應用
AI 時代的數位假訊息:三方架構 讀書帳圖卡
讀書帳:一張圖看懂這篇(點圖放大)

1. 基本資訊

這篇文章由 Bernd W. Wirtz、Jan C. Weyerer 與 Tirza F. Muller 發表於 2026 年的 International Journal of Information Management,題目是〈AI-based digital disinformation: A theory-informed and integrated trilateral framework of digital disinformation for information systems research〉,DOI 為 10.1016/j.ijinfomgt.2026.103066。文章要處理的不是單一假訊息案例,而是更根本的問題:在生成式 AI、演算法優化與 bot automation 已經深度滲入平台環境之後,我們究竟該如何理論化數位假訊息的整體流程。

2. 研究問題

本文的核心研究問題是:digital disinformation process 該如何被理論化,特別是在 AI 已不只是輔助工具,而是能直接參與內容生成、擴散與互動操控的情況下。作者指出,既有研究多半分散在兩邊,一邊研究人為相信與分享假訊息的心理機制,另一邊研究技術偵測與平台治理工具,但缺少一個能把「來源、內容、管道、接收者、影響」串成完整流程的理論框架。因此,真正的問題不是單點辨識假訊息,而是如何理解 AI 與人類在假訊息生命周期中的互動結構。

3. 理論基礎

本文最重要的理論基礎是 communication theory,尤其是 sender-message-channel-receiver-impact 的基本傳播邏輯。作者主張,數位假訊息本質上是一種 communication process,而不是只是一類內容物件,因此應該從傳播結構去理解。這個理論選擇非常關鍵,因為它讓研究不必只停留在「內容真假」或「個體心理偏誤」,而能進一步追問:訊息是由誰發出、經由什麼機制被擴散、由誰接收、又如何產生行為與社會影響。作者同時把數位假訊息放回 socio-technical systems 脈絡,強調人類與 AI 的互動關係本身就是理論對象。

4. 研究架構

文章提出一個 theory-informed and integrated trilateral framework。所謂 trilateral,指的是數位假訊息有三條互相連動的基本路徑:human-based、AI machine-based 與 hybrid-based。所謂 integrated,則是指這三條路徑都依循五個 process layers 展開,分別對應到 communication theory 的五個核心維度:source、message、channel、receiver 與 impact。這個框架的貢獻在於,它不只說明假訊息有不同來源,而是進一步指出:人在不同層級的動機、AI 的自動化能力、平台的擴散 affordances 與受眾的回應會交織成一個持續迴圈,並最終產生 hybrid-based disinformation 的黑箱效果。

5. 假設邏輯

這篇不是假設檢驗型研究,因此更適合理解為命題邏輯。作者首先主張,數位假訊息至少存在兩條 primary paths,也就是 human-based path 與 AI-based path;接著作者指出,這兩條路徑並不是彼此獨立,而是在各個流程層級中透過 feedback loops 彼此放大,最終形成第三條更具威脅性的 hybrid-based path。再往下,作者推論不同 message types、platform channels、receiver vulnerabilities 與 impact dynamics,會在 AI 的 scalability、 personalization 與 automation 能力之下被重新組合,因此未來研究必須把 disinformation 當成動態流程,而不是靜態分類。

6. 方法

本文採 conceptual theory-building approach。方法上不是做 survey、實驗或二手資料計量分析,而是先整合資訊系統領域中關於 digital disinformation 的設計科學與行為科學研究,再結合傳播理論與既有 disinformation research,進行概念澄清、理論統整與框架推導。換句話說,這是一篇典型的理論建模論文,其價值不在統計顯著,而在能否提供一個足夠清楚、可供後續研究操作化的 explanatory structure。

7. 結果

文章的主要結果是提出一個結構清楚的流程理論。第一,作者確認 digital disinformation 應被區分為 human-based、AI machine-based 與 hybrid-based 三種路徑。第二,這三條路徑都橫跨五個流程層級:actors/objectives、message types、distribution channels/dissemination mechanisms、receivers,以及 impact。第三,作者指出 AI 不只是加快訊息生成而已,而是會透過 synthetic identities、bot networks、microtargeting、real-time responsiveness 與 generative richness,改變假訊息的擴散速度、規模與滲透方式。第四,最值得注意的是 hybrid path:人類戰略意圖與 AI 可擴張性結合後,會讓假訊息操作變得更難辨識、也更難治理。

8. 理論貢獻

這篇最大的理論貢獻,是把原本破碎的 disinformation 研究重新組裝成一個 process theory。第一,它補足了過去過度偏向 psychological mechanisms 的侷限,把結構性流程重新拉回討論中心。第二,它彌合了 behavioral IS research 與 technical IS research 之間的鴻溝,讓研究者可以在同一框架內討論認知偏誤、平台機制與 AI 自動化。第三,它把 AI 在 disinformation 中的角色從單純工具提升成一種會重塑整個 communication process 的 actor-like mechanism。第四,它提供未來命題發展與實證操作化的基礎,使得後續研究可以針對某一層級或某一條 path 做精準延伸。

9. 實務意涵

對平台治理、政策制定與企業資訊治理來說,這篇的啟示很直接。若數位假訊息是跨五層流程的 socio-technical process,那麼治理也不能只靠單點 intervention,例如只做 fact-checking、只做內容下架,或只做使用者教育。更合理的作法,是針對不同 path 與不同 layer 設計對應干預,例如在 source layer 處理 bot 與 synthetic identity,在 channel layer 處理平台擴散機制,在 receiver layer 處理脆弱受眾與認知防護,在 impact layer 則評估政治、健康與商業後果。這種思路對企業內部的 AI risk governance 也很重要,因為 disinformation 不只威脅公共領域,也會威脅品牌、平台信任與市場運作。

10. 研究限制

這篇的主要限制在於它是一篇理論建構文,尚未透過大規模實證資料驗證各層級之間的關係強度,也未比較不同平台、不同國家情境或不同 AI 技術型態下的差異。其次,雖然文章提出很多值得測試的命題,但目前仍偏結構描述,尚未把變數操作化到可以立即進行標準化量測。再者,hybrid-based path 雖是全文最有洞見之處,但也是最需要後續研究補強的部分,因為它涉及人機混合代理、平台 affordance 與動態回饋機制,實證上不容易完整捕捉。

11. 對我研究的啟發

這篇對我最有價值的地方,是它示範了如何把 AI 不只是當成自變數或工具,而是當成會重塑知識流、資訊邊界與協調機制的社會技術力量。我可以把它和我已經累積的 organizational learning、performative AI、ecosystem orchestration、knowledge creation 與 governance 類文獻接起來。尤其可重用的是這條理解路徑:source/message/channel/receiver/impact 並不是新聞傳播專屬模型,它其實也能轉譯成組織內外知識操控、平台互動與人機協作中的資訊治理框架。若我之後要研究 Human-GenAI collaboration、AI-mediated cognition 或 digital governance,這篇可以作為「從個體心理擴展到系統流程」的重要理論橋樑。

12. 整體評價

我認為這篇很值得優先讀,因為它不是再多加一個 AI 假訊息案例,而是試圖建立一個能整合既有研究的理論總圖。它的強項在於結構清楚、問題意識明確,而且把 AI 對 disinformation 的影響提升到 process-theory 層次,這對後續理論累積非常有幫助。若要挑剔,最大的弱點就是尚未進入實證檢驗,因此目前更像一個高品質的研究平台,而不是已被驗證的因果模型。不過就「可重用性」與「研究價值」而言,這篇在 backlog 裡仍屬高優先級。

這是我的個人閱讀筆記,整理論文重點與心得,內容以原文為準。全文請由 DOI 連結至期刊閱讀。