错误信息（misinformation）不是新问题，但 AI 改变了它的生产函数：过去造假需要技能与时间，现在需要一句提示词。生成式 AI 把「可信的假内容」的产能提高了几个数量级——文字流畅、图像逼真、语音克隆、视频合成，且边际成本趋近于零。信息生态的攻防从此变成一场产能不对称的战争：造假的产能无限，核查的产能有限。本篇讲清 AI 错误信息的新形态、防御方的军备、以及这场战争中真正的战略问题——不是「识别每一条假消息」，而是「重建信任的基础设施」。
新形态：AI 错误信息的四个梯队
梯队一：批量假新闻网络。AI 生成的「新闻网站」网络（研究机构持续追踪：由 AI 大量生成内容的「新闻」站点数百上千个，看似正规媒体、无真实记者、批量产出洗稿或凭空捏造的报道）——它们的目的多样：SEO 广告收益、特定议题的舆论引导、为真假混杂的影响力行动提供「可引用的来源」。梯队二：政治深伪的定向投放。选举周期的深伪音频与视频（克隆候选人声音的假录音在投票前夕投放——真实发生过的案例形态），特点是时机的武器化（临近投票发布，让辟谣来不及跑完传播周期）与「真相的腐蚀效应」——即使被辟谣，公众也会留下「也许是真的呢」的残留怀疑。梯队三：权威结构的伪造——克隆媒体品牌（假 CNN 页面）、伪造的官方文件与截图、AI 生成的「专家」（虚构的头像与履历）——攻击的不是某条信息，是「可验证的权威」这个结构本身。梯队四：真真假假的「信息泥化」——AI 让真假内容的比例变化发生质变：当信息环境里 AI 生成内容（含错误的 AI 生成内容）的占比持续上升，公众对「任何内容」的默认信任下降——最深的伤害不是人们相信了假消息，而是人们不再相信任何消息（「 liar's dividend」——说谎者的红利：真消息也可以被指控为 AI 生成）。
防御军备：检测、溯源与基础设施
防御方在三条线上作战。检测线（技术军备）：AI 生成内容的检测器（文本的统计特征、图像的生成痕迹）——但这是一场注定被追赶的军备（生成技术进步使检测器持续失效，本库《一篇读懂深度伪造》讲过检测与生成的不对称）；溯源线（制度军备）：内容凭证与水印体系（C2PA 的内容凭证——在内容生成/拍摄时加密记录来源与编辑链，本库《一篇读懂 C2PA》详解；平台的内容标签义务——各国监管对 AI 生成内容的标识要求，本库《中国生成式 AI 监管地图》）——溯源思路的核心是从「事后判断真假」转向「事前建立可信链」：与其鉴定一段内容是不是假的，不如让真内容自带可验证的出身。基础设施线（信任军备）：事实核查网络的扩展（核查机构的产能扩展与平台接入）、权威信息源的「认证体系」（政府与机构发布渠道的可验证性）、媒体素养教育（公众识别能力的长期建设）——这条线的思路最战略：信任的基础设施比单次辟谣更重要。
战略层：为什么「逐条辟谣」注定失败
核查与辟谣在这个产能不对称的战争里有结构性劣势，理解这个劣势才能找到战略位置。劣势一：产能不对称——辟谣一条假消息的成本（核查、写稿、分发）是造假成本的百倍千倍，而假消息的产能无限——用辟谣对抗 AI 造假，是在用人海对抗机枪。劣势二：传播的不对称——心理学研究反复证明：假消息传播更快更广（情绪唤起强），辟谣的触达永远小于原始谣言（「辟谣consts」现象：辟谣文案的阅读量是谣言的零头），且辟谣后残留的「熟悉感」反而加深错误记忆（illusory truth 的机制）。劣势三：AI 的新攻击面——针对核查系统本身的攻击——用 AI 伪造「辟谣」（假的核查机构声明）、用 AI 生成海量的「待核查内容」消耗核查产能（故意淹没核查资源——洪水战术）。战略层的应对因此要换坐标：从「内容作战」转向「环境作战」——不追求消灭每一条假消息，而是建设一个「假消息难以获得信任、真消息可以自证」的环境：内容凭证的普及（真内容自带出身）、权威渠道的可验证性（公众有办法确认「这是真的官方发布」）、平台的分发责任（对已被核实为假的内容降权与标注）、以及公众的「默认谨慎+查证习惯」的文化建设。环境作战的核心资产是「可验证性」而不是「正确性」——这个视角的转换，是从「辟谣时代」进入「溯源时代」的标志。
平台的责任：分发层的「确权与降权」
错误信息的防御战场上，平台（社交媒体与搜索引擎）的角色是分发层的关键闸门——它的责任设计值得单独梳理。平台的两类核心动作：确权（内容真假与来源的判定——事实核查网络的接入、AI 生成内容的标识义务（本库《一篇读懂 C2PA》与各国的标识监管）、权威来源的认证体系）；降权与标注（对已核实为假的内容限流与打标、对未核实但可疑的内容降低分发、对「高危时期」（选举、公共卫生事件）的特殊政策）。平台面临的经典两难：审查过多（误伤合法言论、被指控「偏见审查」——平台自己成为信任危机的对象）；审查过少（错误信息泛滥、被指控「放任伤害」——两边都有强力的批评者与政治压力）。近年平台政策的摇摆（某些平台缩减事实核查合作、转向「社区笔记」模式——把判定交给社区协作标注）显示这个行业对两难的答案并不稳定。社区笔记模式的评价有参考价值：它把「判定权」从平台（被质疑有偏见）转移到「跨立场共识的社区」（对立立场的用户都标注有帮助的笔记才显示）——信任的来源从机构转为程序；它的局限在时效（共识的形成需要时间，深伪的黄金传播期等不到）与覆盖（有争议但无共识的内容悬置）。平台责任的正确理解：平台不是真相的裁判，是「可验证性」的守门人——它无法决定什么是对的，但它可以决定「溯源信息是否可见」（来源标注、凭证展示、社区笔记）——把裁判权还给用户，把验证的工具递给用户，是分发层在产能不对称战争里最站得住的位置。
公众素养的「新三件」：信息时代的识别能力
错误信息防御的最后一层是公众素养——但「媒体素养」的老三样（查来源、多方验证、警惕情绪化内容）需要 AI 时代的新版本。新三件之一：默认怀疑「完美内容」。AI 生成内容的特征恰恰是「完美」（流畅的文笔、标准的结构、逼真的画质）——新识别直觉：太流畅的文字、太标准的排版、太完美的图像，值得多看一眼来源（反直觉：粗糙的内容反而更可能是真人做的）。新三件之二：验证「内容的出身」而非「内容的道理」。AI 时代的老三样「内容讲得通就信」失效了（AI 生成的内容讲得通但可以是假的）——新的习惯是查「出身」：这个账号是谁、首发在哪、有没有凭证（C2PA 信息）、其他可信源有没有独立报道——从「读内容」到「查出身」的习惯转换，是 AI 时代素养的核心动作。新三件之三：警惕「为你定制」的信息。算法分发的信息是按你的偏好投喂的（你看什么它推什么）——识别「信息茧房」的自觉（主动接触立场不同的可信来源）、以及对自己情绪的觉察（「这条让我特别愤怒/恐惧」的内容，恰恰是需要最严格验证的内容——情绪操纵是错误信息的第一设计原则）。新三件的传播有个好载体：把它们教给孩子（这一代儿童的成长环境就是 AI 信息生态，他们的「出厂素养」决定二十年后的信息社会质量——本库《儿童保护》的素养延伸）——公众素养的最终防线，是每一代人的基本装备。
小结
AI 与错误信息收成四条：AI 把可信假内容的产能提高几个数量级——假新闻网络、政治深伪、权威伪造、信息泥化四个梯队在污染整个生态；检测是注定被追赶的军备，溯源是事前建立可信链的制度军备——从「判断真假」转向「验证出身」是范式转换；逐条辟谣注定失败——产能、传播、针对核查系统的攻击三重不对称，辟谣是人海对机枪；战略坐标从内容作战转向环境作战——可验证性比正确性更重要，信任的基础设施比单次辟谣更重要。这场战争的终局判断可以大胆一点：未来的信息生态里，「可验证的出身」将取代「看起来可信」，成为内容的第一属性——而这场基础设施建设的每一块砖，现在就开始砌。
参考资料
- 本库前篇：《一篇读懂深度伪造》《一篇读懂 C2PA》《中国生成式 AI 监管地图》
- NewsGuard 对 AI 生成新闻网站网络的追踪报告；Wardle, C. & Derakhshan, H. 《信息混乱》（Information Disorder）报告—— 错误信息的经典分析框架
- 欧盟 DSA 与各平台 AI 内容标识义务的监管文本
读者留言
COMMENTS 暂无还没有留言，来说第一句？