巴西命令 X 立即阻止 Grok 的性暗示深度伪造

巴西周三要求埃隆·马斯克的社交网络X停止其聊天机器人生成色情图像，这是最新一个向这位亿万富翁施压、要求其修复该人工智能工具的国家。

印度尼西亚上个月成为第一个全面封禁Grok的国家，英国和法国则表示会继续施压，此前该聊天机器人大量生成有关妇女和儿童的猥亵照片。

巴西总检察长、国家数据保护局（ANPD）和国家消费者权益局（Senacon）表示，X必须“立即采取适当措施，防止利用Grok制作儿童和青少年以及未获同意的成年人的性化或色情化内容。”

这些机构要求该平台在五天内遵守命令，否则将面临法律行动和罚款。

巴西当局称，在巴西上个月发出警告后，X表示已删除数千条帖子并暂停数百个账号。

但他们补充说，检查发现Grok用户仍能生成性化的深度伪造图像。

他们批评X“在回应中缺乏透明度”。

X在1月15日宣布了相关措施，旨在在将该行为视为违法的国家内阻止Grok为真人图片“脱衣”。目前尚不清楚这些措施在哪些地区生效。

在所谓的“辛辣模式”允许用户仅凭诸如“给她穿比基尼”或“把她的衣服脱掉”之类的简单文本提示，就能为女性和儿童生成性化深度伪造图像后，国际社会对xAI收紧Grok的压力不断增加。

根据反数字仇恨中心（CCDH）的估计，Grok在几天内大约生成了300万张针对妇女和儿童的性化图像。