

> X平台出台新规打击未标注的AI生成武装冲突视频，违规者将被取消收益分成资格。此举旨在修正创作者经济带来的虚假信息泛滥副作用，但在政治与商业造假领域的监管仍显不足。

## 经济制裁成为平台治理新手段

社交媒体平台X针对AI生成内容的治理策略正从技术过滤转向经济切断。根据平台产品负责人尼基塔·比尔公布的最新政策，任何利用人工智能技术制作并误导公众的武装冲突视频，一旦被查实且未做明确标注，涉事账号将直接被剔除出创作者收益分成计划。初犯者将面临长达90天的封禁期，若在惩罚期满后再度违规，平台将对其采取永久性经济封杀。

在实地真实信息至关重要的危机时期，生成式AI技术大幅降低了以假乱真的内容制作门槛。为了应对这一挑战，X平台构建了一套混合治理架构，将自动化的生成式AI检测工具与众包事实核查系统“社区注释”相结合。此次政策的核心逻辑在于拔除虚假信息传播的经济诱因，此前该平台的收益分成机制曾因客观上变相鼓励博眼球和诱发对立情绪的内容而饱受外界诟病。

![12.png](https://static.downly.cn/images/6ca88ce6d1d51e1bf6d7a4b5561219a5.png)

<center>图源备注 图片由AI生成</center>

## 治理工具升级与政策局限性

尽管切断经济来源被认为是极具威慑力的治理手段，但市场对X平台此次新规的实际效用仍持保留态度。目前的监管范围被严格限定在武装冲突这一单一垂直领域，而对于危害同样深远的政治选举虚假信息、以及网红经济中泛滥的欺骗性AI产品推广，新规并未提供同等强度的约束。

在深度伪造技术极易被武器化的今天，全球社交平台都在寻找技术创新与内容安全之间的平衡点。X平台的探索提供了一个切面，证明单纯依赖算法识别已无法应对复杂的虚假信息生态，如何将商业机制的底层逻辑与信息真实性深度绑定，依然是行业面临的长期大考。

X平台重拳整治AI虚假冲突视频 切断违规者创作者收益



> 面对加州总检察长的调查与舆论风暴，马斯克旗下的 xAI 最终选择妥协。X 平台宣布对 Grok 实施史上最严厉的图像生成限制，彻底禁止编辑真人照片及生成暴露内容。这是一场技术野蛮生长与伦理监管之间的必然碰撞。

## 史上最严禁令落地

在持续数周的指责声中，X 平台（原 Twitter）的安全账号 @Safety 于今日凌晨发布公告，正式给 Grok 戴上了“紧箍咒”。核心禁令直指近期泛滥的“性化”内容：系统将从底层彻底禁止对任何现实人物照片的编辑功能，尤其是将其修改为穿着比基尼或内衣的形象。

这一限制没有任何豁免权，覆盖了包括付费订阅者在内的所有用户。X 官方甚至直白地承诺：“Grok AI 不会再将真人的照片改成‘比基尼照’。”此外，在法律红线更为严苛的地区（如加州），系统将直接屏蔽所有涉及“现实人物身穿暴露服装”的生成请求，试图从源头切断违规内容的产出路径。

![Google_AI_Studio_2026-01-15T02_57_28.208Z.png](https://static.downly.cn/images/5a508521ee2214abb7d0dda0f5e0b789.png) <center>图源备注：图片由AI生成</center>

## 2 万张违规图引发的信任危机

此次整改的直接导火索，是加州总检察长 Rob Bonta 启动的正式调查。数据显示，仅在去年圣诞至新年期间，xAI 生成的约 2 万张图像中，竟有超过半数包含极度暴露的人物形象，其中不乏疑似未成年人的内容。

这种失控局面让 X 平台陷入了巨大的法律与道德风险。尽管马斯克此前辩称对生成未成年人内容“毫不知情”，并试图用“R 级电影标准”来解释其内容策略，但现实的监管压力显然已让他无法再维持这种模糊态度。

## 创造力与安全性的永恒拉锯

除了内容限制，xAI 还决定将图像生成功能全面收归“付费墙”，非订阅用户将彻底失去生成权限。这一方面是商业考量，另一方面也是为了通过提高门槛来遏制滥用行为。

此次事件再次将生成式 AI 的核心矛盾摆上台面：当技术能力跑在安全护栏之前，再强大的模型也可能沦为风险放大器。X 平台的紧急刹车，或许是所有大模型厂商在通往商业化道路上必须补上的一堂合规课。在 AI 生成内容日益逼真的今天，如何在释放创造力与守住伦理底线之间找到平衡，已成为无法回避的生存命题。

搜索结果: 违规处理