X平台重拳整治AI虚假冲突视频 切断违规者创作者收益

X平台出台新规打击未标注的AI生成武装冲突视频，违规者将被取消收益分成资格。此举旨在修正创作者经济带来的虚假信息泛滥副作用，但在政治与商业造假领域的监管仍显不足。

经济制裁成为平台治理新手段

社交媒体平台X针对AI生成内容的治理策略正从技术过滤转向经济切断。根据平台产品负责人尼基塔·比尔公布的最新政策，任何利用人工智能技术制作并误导公众的武装冲突视频，一旦被查实且未做明确标注，涉事账号将直接被剔除出创作者收益分成计划。初犯者将面临长达90天的封禁期，若在惩罚期满后再度违规，平台将对其采取永久性经济封杀。

在实地真实信息至关重要的危机时期，生成式AI技术大幅降低了以假乱真的内容制作门槛。为了应对这一挑战，X平台构建了一套混合治理架构，将自动化的生成式AI检测工具与众包事实核查系统“社区注释”相结合。此次政策的核心逻辑在于拔除虚假信息传播的经济诱因，此前该平台的收益分成机制曾因客观上变相鼓励博眼球和诱发对立情绪的内容而饱受外界诟病。

图源备注 图片由AI生成

治理工具升级与政策局限性

尽管切断经济来源被认为是极具威慑力的治理手段，但市场对X平台此次新规的实际效用仍持保留态度。目前的监管范围被严格限定在武装冲突这一单一垂直领域，而对于危害同样深远的政治选举虚假信息、以及网红经济中泛滥的欺骗性AI产品推广，新规并未提供同等强度的约束。

在深度伪造技术极易被武器化的今天，全球社交平台都在寻找技术创新与内容安全之间的平衡点。X平台的探索提供了一个切面，证明单纯依赖算法识别已无法应对复杂的虚假信息生态，如何将商业机制的底层逻辑与信息真实性深度绑定，依然是行业面临的长期大考。