執行摘要
資訊生態系統正經歷完整性危機。Oxford Internet Institute的《2025年全球虛假資訊清單》識別出在86個國家運作的有組織虛假資訊活動——高於2020年的48個。Reuters Institute的《數位新聞報告》顯示，全球對新聞的信任度已下降至38%，其中只有23%的受訪者信任在社群媒體平台上接觸到的新聞。生成式AI工具的普及大幅降低了製作令人信服的虛假資訊的成本：Centre for Countering Digital Hate估計，自2022年公開可用的圖像和文字生成工具發布以來，AI生成的虛假資訊產出量已增長了十倍。
本政策簡報從外部性理論和公共財經濟學的角度分析資訊完整性。我們認為，虛假資訊最好被理解為注意力最大化平台設計的負外部性——類似於污染作為工業生產的外部性。正如環境監管將污染成本內部化，平台問責監管必須將資訊污染的成本內部化。我們審視了三種監管方法——歐盟的《數位服務法》、美國第230條修訂提案和巴西《網際網路自由法》修正案——並通過監管經濟學的框架評估其有效性。
虛假資訊作為負外部性
Arthur Pigou關於外部性的基礎性著作為理解虛假資訊問題提供了精確的框架。當一項經濟活動對第三方施加的成本未反映在該活動的市場價格中時，就會產生負外部性。工業污染是教科書式的例子：一家向河流排放有毒廢物的工廠獲取了其生產的全部收益，同時將健康和環境成本轉嫁給下游社區。
社群媒體平台的注意力最大化演算法展現出類似的外部性結構。平台的收入取決於用戶參與度（花費的時間、互動、分享），而參與度最大化演算法系統性地放大能觸發強烈情緒反應的內容——包括憤怒、恐懼和部落認同——因為這類內容產生更多的點擊和分享。Vosoughi、Roy和Abeysekera於2018年在《Science》上發表的研究發現，Twitter上的虛假新聞故事傳播速度是準確故事的六倍，且觸及的人數顯著更多，恰恰是因為虛假信息通常比真相更能引發情緒。
演算法放大虛假資訊的成本不由平台或內容創作者承擔，而是由社會承擔：對機構的信任被侵蝕、政治話語極化、公共衛生錯誤資訊（WHO的2024年評估將歐洲約15,000例COVID-19超額死亡歸因於疫苗錯誤資訊），以及民主進程被破壞。這些是典型的負外部性：由一個市場互動（平台與廣告商之間）對被排除在外的第三方施加的真實成本。
外部性的規模相當可觀。Brookings Institution 2024年的分析估計，虛假資訊通過市場操縱、健康錯誤資訊後果、選舉干預和品牌安全損失，每年給全球經濟造成約780億美元的損失。這一數字不包括社會信任侵蝕和民主損害等更難量化的成本。
內容審核作為公共財
如果虛假資訊是負外部性，那麼內容審核就是相應的公共財：一項有利於資訊生態系統所有用戶但個別行為者缺乏足夠動機提供的服務。內容審核是非排他性的（所有用戶都從更健康的資訊環境中受益）和非競爭性的（一個用戶從減少虛假資訊中獲得的利益不會減少另一個用戶的利益），滿足了公共財的正式標準。
內容審核中的搭便車問題在多個層面上表現出來。個別用戶幾乎沒有動力投入時間驗證和舉報虛假內容，因為這樣做的好處分散在整個平台上。平台的審核投資動力有限，僅以留住廣告商為必要程度，因為更健康資訊生態系統的社會效益不會反映在其收入中。各國政府面臨跨境搭便車問題：源自一個司法管轄區的虛假資訊損害了全球的資訊完整性，但執法資源是國家性的。
平台的審核投資決策說明了投資不足問題。儘管合計年收入超過3,500億美元，主要社群媒體平台（Meta、Alphabet、X、TikTok的母公司字節跳動）在信任和安全運營上的總支出估計為120-150億美元——約佔收入的3-4%。相比之下，金融服務業在合規和風險管理上的支出約佔收入的8-12%，反映出科技行業在很大程度上缺乏的監管要求。
監管方法：比較分析
歐盟《數位服務法》（DSA）。DSA自2024年2月全面運作，代表了全球最全面的平台問責框架。其關鍵創新包括：對擁有超過4,500萬歐盟用戶的超大型線上平台（VLOPs）強制進行系統性風險評估；推薦演算法和廣告定向的透明度義務；獨立審計要求；以及研究人員對平台數據的存取權。對VLOPs的執法由歐盟委員會負責，對較小平台的執法由各國數位服務協調員負責。
從監管經濟學的角度看，DSA的系統性風險評估要求是其最重要的創新。通過要求平台識別、分析和緩解對基本權利、公共衛生和民主進程的風險，DSA有效地將演算法放大的負外部性內部化。平台現在必須考慮其設計選擇的社會成本，而不僅僅是商業後果。早期實施證據表明，VLOPs已將信任和安全人員增加了25-40%，並投資修改推薦演算法以減少有害內容的放大。
美國第230條修訂提案。《通訊端正法》第230條——為平台對用戶生成內容提供廣泛豁免——一直是兩黨修訂提案的對象，但尚無立法通過。提議的改革範圍從縮小演算法放大的豁免（EARN IT法案、SAFE TECH法案）到將豁免條件與合理的內容審核實踐掛鈎。第230條改革的經濟分析是複雜的：全面豁免創造了道德風險（平台對放大有害內容不承擔法律成本），但過於廣泛的責任可能對言論產生寒蟬效應，並對缺乏綜合審核資源的小型平台造成不成比例的負擔。
巴西《網際網路自由法》修正案。巴西2024年對《Marco Civil da Internet》的修正案建立了平台透明度、演算法問責和內容審核響應能力的要求。巴西的方法以選舉完整性為重點而著稱，反映了該國在平台介導的政治虛假資訊方面的經驗。修正案要求平台在選舉期間建立快速回應機制，並向選舉當局提供數據存取權以調查數位競選違規行為。
注意力經濟的結構性激勵
僅解決症狀（內容審核）而不解決根本原因（注意力最大化商業模式）的監管干預可能是不夠的。虛假資訊放大的根本驅動力是注意力經濟的經濟結構：收入依賴於最大化用戶參與度的平台在結構上具有放大情緒挑釁性內容（包括虛假資訊）的激勵。
Tim Wu對「注意力經濟」的分析強調，用戶注意力是平台商業模式圍繞其組織的稀缺資源。廣告商為獲取以印象數、點擊數和參與度指標衡量的用戶注意力而向平台付費。這創造了經濟學家所稱的「雙邊市場」，其中平台在用戶（提供注意力）和廣告商（為獲取該注意力付費）之間進行中介。平台的優化目標——最大化參與度以最大化廣告收入——與資訊生態系統準確、平衡和可信賴資訊的社會目標之間存在錯位。
解決這種結構性錯位需要超越內容審核的干預措施。潛在的結構性方法包括：強制互操作性，這將減少平台對用戶注意力的壟斷權力並實現競爭性替代方案；禁止政治內容的微定向廣告，這降低了虛假資訊活動的經濟回報；以及要求演算法選擇權——讓用戶對塑造其資訊環境的推薦演算法擁有有意義的控制權，而不是預設為參與度最大化。
生成式AI的放大挑戰
生成式AI從根本上改變了虛假資訊的格局。製作令人信服的虛假內容——文字、圖像、音訊和影像——的成本已下降了數個數量級。Centre for Strategic and International Studies（CSIS）2025年的分析記錄了國家支持的虛假資訊行動現在普遍使用AI生成的內容，而當前檢測工具對AI生成文字的檢測率已降至50%以下。
AI生成虛假資訊與AI驅動的檢測之間的軍備競賽本質上是不對稱的。生成令人信服的虛假內容在計算上廉價且可擴展；檢測則需要計算成本昂貴且脆弱的精密分析。內容來源技術——如C2PA內容憑證標準和AI生成內容的浮水印——通過建立真實內容的真實性而非試圖識別所有虛假內容，提供了更可持續的方法。然而，來源追蹤技術的採用仍處於萌芽階段：目前在線發布的圖像中只有不到5%攜帶C2PA憑證。
對GDEF監管與政策工作小組的啟示
資訊完整性是功能性市場、民主治理和社會信任的基礎要求——這些都是GDEF使命的核心關切。本文提出的外部性分析表明，僅靠市場機制無法產生足夠的資訊完整性：私人激勵與社會成本之間的差距太大。監管干預是必要的，但必須精心設計以解決結構性激勵問題，而不僅僅是管控內容。GDEF的監管與政策工作小組將在其工作計畫中推進平台問責框架，特別關注跨司法管轄區的協調和生成式AI的放大挑戰。
參考文獻與來源
- Oxford Internet Institute, Global Disinformation Inventory 2025. University of Oxford. oii.ox.ac.uk
- Reuters Institute, Digital News Report 2025. University of Oxford. reutersinstitute.politics.ox.ac.uk
- European Commission, Digital Services Act: First Annual Implementation Report, 2025. ec.europa.eu/dsa
- Brookings Institution, The Economic Costs of Disinformation, 2024. brookings.edu/technology
- Vosoughi, S., Roy, D., and Aral, S. (2018). "The Spread of True and False News Online." Science, 359(6380), 1146–1151. doi.org/10.1126/science.aap9559
- Pigou, A.C. (1920). The Economics of Welfare. London: Macmillan. oll.libertyfund.org
- CSIS, AI-Generated Disinformation: State of the Threat 2025. Centre for Strategic and International Studies. csis.org/technology
- WHO, Infodemic and Health Misinformation: Global Assessment 2024. who.int/infodemic
- Wu, T. (2016). The Attention Merchants. New York: Knopf. penguinrandomhouse.com
- C2PA, Content Provenance and Authenticity Technical Specification. c2pa.org