X公司表示，它正在限制与图像生成和编辑相关的功能。格罗克在聊天机器人被用于创建未经同意的真人（包括未成年人）性化图像后，限制了付费用户的访问权限。

X Safety 官方账号周三发布的最新消息显示，该公司额外技术限制旨在限制用户通过 Grok 编辑真人图像的方式。

此前有报道称，该人工智能能够根据简单的指令（例如让用户将人物置于比基尼姿势）生成带有性暗示的图片。在许多情况下，用户直接在X平台上发布的照片下方标记了Grok，导致该人工智能生成了经过编辑的图片，这些图片会公开出现在同一讨论串中。

“我们已采取技术措施，防止 Grok 账户允许编辑穿着比基尼等暴露服装的真人照片，”该公司表示，并提及了要求 Grok 将人们换上比基尼的病毒式传播趋势。

该公司还表示，通过X平台上的Grok账户创建和编辑图像的功能现在仅限付费用户使用。该公司称，此举旨在提高问责制，防止Grok图像工具被滥用，从而违反法律或X平台的政策。此外，该公司还实施了基于地理位置的限制。

“我们现在对所有用户通过 Grok 帐户和 Grok in X 生成身穿比基尼、内衣和类似服装的真实人物图像的功能进行了地理封锁，尤其是在此类行为违法的地区。”

尽管有所改变，但据报道，Grok 仍然允许用户从直接上传到 AI 的照片中移除或修改服装。解密测试和用户报告公告发布后。

在某些情况下，格罗克承认“保障措施的漏洞该公司被指控利用其软件生成12至16岁女孩衣着暴露的图片，这种行为违反了公司自身的政策。这些功能的持续可用性引起了维权组织的关注。

“如果有关格罗克制作性化图片——尤其是儿童性化图片——的报道属实，那么他可能已经违反了德克萨斯州的法律，”公共公民组织德克萨斯州主任阿德里安·谢利在一份声明中表示。“德克萨斯州当局无需费力调查这些指控。X公司的总部位于奥斯汀地区，该州显然有责任查明其法律是否遭到违反，如果遭到违反，应处以何种处罚。”

此前，出于对人工智能模型安全性的担忧，公共公民组织曾呼吁美国政府将Grok从可接受的人工智能模型名单中移除。种族主义由聊天机器人展示。

全球反弹

全球政策制定者也加大了对格罗克的审查力度，导致多项调查展开。

欧盟委员会说如果 Grok 的安全保障措施仍然不足，X 和 xAI 可能面临《数字服务法》的强制执行。与此同时，澳大利亚网络安全专员说自 2025 年底以来，涉及 Grok 和未经同意的 AI 生成的性图像的投诉数量翻了一番。监管机构表示，能够生成逼真编辑图像的 AI 图像工具使执法和受害者保护变得更加复杂。

在英国，监管机构是Ofcom。打开英国通信管理局（Ofcom）正根据《网络安全法》对X公司展开调查，原因是该公司利用Grok生成非法性化深度伪造图像，其中包括涉及未成年人的图像。官员表示，如果X公司被认定不合规且未能采取纠正措施，Ofcom最终可能会寻求法院支持，从而有效地在英国封禁该服务。

其他国家，包括马来西亚,印度尼西亚， 和韩国为了保护未成年人，当局也已对 Grok 展开调查。

美国各州都在密切关注事态发展，而加利福尼亚州率先对Grok展开调查。周三，加州总检察长罗伯·邦塔宣布了这一消息。探测因创建和传播未经同意的女性和儿童性露骨图像，对 xAI 和 Grok 提起诉讼。

邦塔在一份声明中表示：“最近几周，大量报道揭露了xAI未经同意制作并发布到网上的露骨色情内容，令人震惊。这些内容描绘了女性和儿童裸体且性暗示的场景，已被用于在互联网上骚扰他人。”

调查将审查 xAI 部署 Grok 是否违反了有关未经同意的私密图像和儿童性剥削的州法律。

邦塔表示：“我敦促xAI立即采取行动，确保此类事件不再发生。我们对利用人工智能技术制作和传播未经同意的私密照片或儿童性虐待材料的行为零容忍。”

尽管调查仍在进行中，但 X 表示，对于儿童性剥削、未经同意的裸露和不受欢迎的性内容，它采取“零容忍”立场。

该公司写道：“我们会采取行动，删除高优先级违规内容，包括儿童性虐待材料（CSAM）和非自愿裸露内容，并对违反我们X规则的账户采取适当措施。如有必要，我们还会将寻求儿童性剥削材料的账户举报给执法部门。”