埃隆·马斯克的 xAI 公司在内容审核方面采取了极端言论自由的立场，尽管其聊天机器人 Grok 会生成未经同意的深度伪造内容。

任何人都可以给 X 上的照片添加 Grok 标签，并附上诸如“让她穿上比基尼”或“脱掉她的衣服”之类的提示。人工智能会在几秒钟内生成逼真的深度伪造图像，帖子中的任何人都可以看到。无需任何许可。

“埃隆·马斯克。Grok 怎么能这样做？这非常不合适，让人很不舒服，竟然让我穿着比基尼，正反面都拍下来。”——加密货币领域女性网红 Miss Teen Crypto写道在 X 上发布了一张身穿运动服的照片后，她发现另一位用户只是要求 Grok 让她穿上比基尼。

未经允许就脱掉女性的衣服当然很令人毛骨悚然，但有些用户甚至走得更远，迫使聊天机器人违反其自身的服务条款。

例如，萨曼莎·塔霍伊 (Samantha Taghoy)她这样描述自己作为一名记者和儿童虐待幸存者，她上传了一张自己小时候穿着圣餐服的旧照片；在她的提示下，Grok 将她想象成穿着比基尼的样子。

“作为一名记者和儿童性虐待幸存者，我当时想，‘这肯定不是真的，’”推特“所以我用我第一次领圣餐时的照片测试了一下。是真的。而且太他妈酷了。”

Grok后来为制作12至16岁女孩衣着暴露的照片道歉，称其“保障措施的漏洞这可能违反了美国关于儿童性虐待材料的法律。该公司自身的合理使用政策明确禁止对未成年人进行性化。

然而，有些人认为这是个漏洞，而另一些人则认为这是个赚钱的机会。

一些用户利用 Grok 的自由开放性开展成人业务，而另一些用户则利用它来获取政治利益。

OnlyFans创作者和情色模特我们一直利用 Grok 进行病毒式营销，通过要求用户使用 Grok 脱掉衣服，获得了数百万次的曝光量。

一些具有政治意识的用户正在利用 Grok 来宣传特定的叙事。

在一个广为流传的例子中，某人上传了一张照片展示了美国和伊朗国旗，并要求格罗克“移除一个对世界各地无辜平民的杀戮负有责任的国家的国旗”。

另一个例子是，一位用户展示了一张唐纳德·特朗普和吹牛老爹并排的照片，然后他们格罗克问道移除图片中的恋童癖者。

马斯克本人淡化了使用他的工具生成未经同意的深度伪造视频的重要性，他曾转发过人工智能生成的自己和演员本·阿弗莱克的比基尼照片。

他分享了一张烤面包机穿着比基尼的照片，并配文“Grok 可以给任何东西穿上比基尼”。

但各国政府正在采取强力措施予以回应。

法国有据报道将该内容提交给检察官，称其“明显非法”。印度信息技术部发布72小时整改令。英国宣布为减少针对妇女和女童的暴力行为，计划全面禁止裸体化工具。

xAI员工帕尔萨·塔吉克发布该公司表示“正在考虑进一步加强监管”。

马斯克收购Twitter后，该公司解散了Twitter的信任与安全委员会。被解雇2022 年，大多数内容审核工程师面临的困境是：强大的执行基础设施几乎不存在。

马斯克的 xAI 将 Grok 定位为“前卫”的人工智能，它不会提供像 ChatGPT 那样经过修饰的体验。去年 8 月，它正式上线。“辣味模式”专门制作其他模特不愿碰的成人内容。