本日报作者不通中文。这些译文由人工智能自动生成，作者本人无法亲自核对其语言准确性和文化适切性。我们以谦逊和真诚的态度发布此版本，希望与中文读者建立连接。若发现翻译错误、表达不当或文化误读之处，恳请告知 — 我们将虚心接受并改进。
L'auteur du Journal d'un Progressiste ne parle pas chinois ; ces traductions sont produites par intelligence artificielle et n'ont pas été vérifiées par lui. Cette version est publiée dans un esprit d'échange et d'humilité — vos retours sur les erreurs éventuelles ou les contresens culturels sont les bienvenus.
— 《进步者日报》编辑部 / La rédaction
2024年，NewsGuard发现3006个完全由人工智能生成的信息网站在互联网上大规模散布假新闻。 这标志着虚假信息从人力操纵转向自动化大规模产业。欧盟数据证实了同一趋势：27%的外国操纵行动已使用生成式AI工具，主要国家行为体为俄罗斯、中国和伊朗，目标是破坏美国外交利益、干扰公民讨论。
虚假信息产业化正在改变地缘政治力量对比。过去几个水军就能搅乱一场辩论，如今算法每天以多种语言、针对各类敏感话题生成数千篇文章。但规模化生产也制造了可被自动化系统检测的规律性特征，反而为技术反制提供了条件。
27%的外国操纵行动转向自动化
欧洲对外行动署（EEAS）第四份报告显示，2024年1月至7月间，欧盟识别的外国操纵活动中超过四分之一整合了生成式AI工具。在专门针对欧洲选举的行动中，这一比例攀升至45%。
国家行为体主导着这一转变。俄罗斯自2023年起部署自动化水军账户，每天用法语、德语和波兰语生成数千条帖子，构建完整的虚假叙事生态系统，为克里姆林宫政治目标服务。中国测试合成账户网络，以高度一致的叙事口径评论欧洲地缘政治新闻，并借助AI生成的新闻推送和经AI处理的图像助长阴谋论。伊朗在中东自动化推进破坏稳定行动，制造虚构政治影响者人设，其网络行为体于2024年5月入侵了特朗普总统竞选团队的个人账户。
转向AI有明确的操作逻辑。培训人类水军成本高、周期长，维持全天候运转需要复杂后勤。一个算法可以同时以多种语言驱动数百个账户，无需休息，无需人工持续监控。
3006个内容农场将虚假信息产业化
NewsGuard的分析师识别出3006个完全由AI驱动的网站，其中1140个在2024年前六个月内创建。这些”内容农场”每天发布超过4万篇自动生成的文章。
内容农场的分布紧随全球地缘政治热点。34%的网站针对美国新闻，28%针对欧洲，18%针对亚太地区。重点话题包括：选举、疫情、乌克兰冲突、南海局势、欧洲移民争议。
技术分析可识别这些内容的人工来源：文本呈现语言模型特有的词汇重复、反复出现的事实错误，以及可供核查的新闻来源完全缺失。73%的网站不署任何人类作者名字，仅使用”编辑团队”或”AI编辑部”等通用标签。
这些内容农场的盈利模式已经成熟。67%整合了程序化广告，每个网站每月可产生500至2000美元收入。3006个网站累计产生的收入，足以为整套虚假信息基础设施提供自我维持的资金。
技术生态系统无意中为这台机器提供动力
内容农场使用的工具与合法新闻业别无二致。它们调用OpenAI、Anthropic和Google生成文本，依托WordPress和Webflow等平台托管网站，通过广告网络在缺乏编辑审核的情况下投放广告。
生成式AI公司可以通过分析请求模式发现恶意使用：一个账户每天围绕敏感地缘政治话题生成50篇文章，异常信号显而易见。但当前的应对措施仍远未匹配问题的规模。
部分技术企业已开始行动。OpenAI于2024年关闭了200余个与虚假信息行动关联的账户。Meta开发了专门检测AI生成内容的工具。Google调整搜索排名算法，对无可识别作者的网站降权处理。
内容农场的适应速度很快：多元化AI供应商、使用本地托管的开源模型、不断注册新域名以规避检测。2024年9月，美国司法部查封了32个与上述行动关联的域名，并以秘密创建和传播选举内容为由起诉两名RT员工。中国以不含任何外国芯片的2百亿亿次超算挑战西方，展示了国家行为体的技术适应能力。
民主国家组织技术反击
欧盟资助了15个自动检测合成内容的研究项目。美国在国家安全战略框架内拨款2亿美元支持类似项目。
自动检测能力进展明显。算法通过分析语言模式来识别AI生成文本：词汇重复、人工句法结构、可核查事实参考缺失。长文本识别准确率达87%，短帖子达73%。
各大社交平台已将这些工具纳入内容审核系统。Twitter自2024年9月起自动标记可疑内容。Facebook测试对来自未验证网站文章进行预防性标注。TikTok正在开发实时深度伪造视频检测功能。
这场技术竞赛正在改变信息经济的结构。AI压低了虚假信息的生产成本，但同样压低了检测成本。一套检测系统可以同时分析数百万条内容，而恶意生产的规模仍受计算能力约束——结构性优势可能逐渐转向防御方。
新闻业就业形态适应人工竞争
虚假信息自动化加速了传统新闻业的转型。招聘大冻结正在改变许多行业的劳动力市场进入方式，新闻业则在开辟新的专业化方向。
编辑部创设了”增强型事实核查员”岗位——这类记者接受自动化核查工具培训，结合人类判断与检测算法，实时识别合成内容。培训内容涵盖元数据分析、AI图像核查和人工语言模式检测。
新闻调查正向记录虚假信息网络转型。专业团队追踪资金来源、识别技术基础设施、绘制协调活动图谱。这一领域的核心价值在于：只有人类才能还原技术自动化背后的政治意图。
生成式AI也在改变合法新闻生产本身。34%的欧洲编辑部在测试将自动化辅助用于事实性电讯写作和数据分析。这推动了一场差异化竞争：人类新闻业向调查、分析和评论集中，把基础事实性内容的生产让给自动化。
信息地缘政治：自动化与监管之间
威权行为体占据了自动化的先发优势：没有内部法律约束，计算能力强大，影响力行动集中协调。俄罗斯、中国和伊朗持续寻求侵蚀公众对民主机构和程序的信任，以加剧冷漠和对立情绪。
这种不对称格局可能随检测技术成熟而改变。民主国家具备结构性优势：创新的私营技术生态、持续深化的国际合作，以及在监管框架内实现算法透明的可能。
欧盟《AI法案》已于2024年生效，要求用于内容生成的模型保持透明，对恶意使用施以刑事处罚。欧洲科技企业正在整合可追溯性机制，以便识别文本的人工来源。
中国禁止以AI为由解雇员工，建立了全球劳动保护模式，说明AI正在引发各国截然不同的监管回应。检测标准因司法管辖区而异，这使跨境打击虚假信息更加复杂。
反击效果取决于国际协调的深度。北约正在建立打击自动化虚假信息中心。七国集团在协调检测标准。联合国提出关于AI恶意使用的国际条约，谈判仍在进行中。
内容农场将虚假信息转变为工业化产品，但产业化本身也制造了可被检测的特征、可被分析的数量规律和可被预测的行为模式。随着技术升级与协调监管同步推进，操纵者的初始优势正在收窄。
来源：