澳大利亚独立的在线安全监管机构周四发出警告，称 Grok 未经同意生成性化图像的使用日益增多，并透露其办公室最近几个月收到的关于这款人工智能聊天机器人的投诉翻了一番。

该国网络安全专员朱莉·英曼·格兰特表示，一些报告涉及潜在的儿童性剥削材料，而另一些报告则与遭受图像虐待的成年人有关。

格兰特表示：“我深感担忧的是，生成式人工智能越来越多地被用于性化或剥削他人，尤其是在涉及儿童的情况下。”发布周四在领英上。

这些评论是在不断增加的情况下发表的。国际社会对 Grok 的强烈反对这是亿万富翁埃隆·马斯克的人工智能初创公司 xAI 开发的一款聊天机器人，可以直接在 X 上发出指令来修改用户的照片。

格兰特警告说，人工智能生成“超逼真内容”的能力，使得不法分子更容易制造合成虐待内容，也使得监管机构、执法部门和儿童安全组织更难做出反应。

与 ChatGPT 等竞争对手不同，马斯克的 xAI 将 Grok 定位为一种“前卫”的替代方案，能够生成其他 AI 模型拒绝生成的内容。去年 8 月，它推出了“Spicy Mode”（劲爆模式），专门用于生成露骨内容。

格兰特警告说，澳大利亚具有强制执行力的行业准则要求在线服务实施保护措施，防止儿童性剥削材料，无论这些材料是否由人工智能生成。

她补充说，去年，澳大利亚网络安全局 (eSafety) 对广泛使用的“裸体化”服务采取了执法行动，迫使这些服务退出澳大利亚市场。

格兰特表示：“我们现在已经进入了一个时代，企业必须确保生成式人工智能产品在产品生命周期的每个阶段都内置适当的安全措施和防护措施。”他还指出，eSafety 将利用其全部监管工具“进行调查并采取适当行动”。

深度伪造技术正在兴起

9 月，格兰特获得了澳大利亚首例深度伪造处罚，联邦法院对黄金海岸男子安东尼·罗通多处以 212,000 美元（343,500 澳元）的罚款，原因是其发布了澳大利亚知名女性的深度伪造色情内容。

2023年，澳大利亚网络安全专员将罗通多告上法庭，因为他无视删除通知，声称这些通知“对他毫无意义”，因为他不是澳大利亚居民。随后，他还将这些图片通过电子邮件发送给了包括格兰特办公室和媒体在内的50个地址。ABC新闻报告.

澳大利亚立法者正在推动制定比现有法律更强有力的保护措施，以防止未经同意的深度伪造行为。

独立参议员戴维·波科克介绍2025 年 11 月，《在线安全及其他立法修正案（我的脸，我的权利）法案》将允许对未经同意分享深度伪造视频的个人处以 102,000 美元（165,000 澳元）的预付罚款，而对于不遵守删除通知的公司，将面临高达 510,000 美元（825,000 澳元）的罚款。

“我们现在生活在一个任何人都能制作深度伪造视频并随意使用的世界里，”波科克在一份声明中说道。陈述批评政府在人工智能保护方面“玩忽职守”。