欧盟委员会周一正式启动调查，以查明 X 公司是否违反欧盟数字规则，涉嫌未能阻止其 Grok AI 聊天机器人生成和传播非法内容，包括儿童性露骨图片。

委员会周一表示，此次调查将评估该公司在部署 Grok 的图像生成功能之前是否已妥善评估并降低了风险。陈述.

欧盟委员会还表示，非法色情内容的实际产生和传播已经造成了风险，使欧盟公民面临严重伤害。

此事正值国际社会对 Grok 在制作未经同意的深度伪造视频中所扮演的角色进行日益严格的审查之际。

两周前，X实施了限制该公司将图像生成功能限制为付费用户使用，并增加了技术障碍，以防止用户通过数字技术篡改人物照片，使其穿着暴露的服装。此外，该公司还在此类内容非法的地区对该功能进行了地域限制。

尽管采取了这些措施，研究人员发现，在CCDH样本中识别出的儿童性化图像中，约有三分之一仍然存在。仍然可以通过 X 的平台访问.

“通过这项调查，我们将确定 X 是否履行了其在《数字服务法》下的法律义务，或者它是否将欧洲公民（包括妇女和儿童）的权利视为其服务的附带损害，”科技主权、安全和民主执行副总裁 Henna Virkkunen 在声明中表示。

本月初，欧盟委员会发言人托马斯·雷尼尔谴责X的“辛辣模式”功能在布鲁塞尔举行的新闻发布会上。

“这根本不是什么辣味食物，这是违法的，这太可怕了，太令人作呕了，这种东西在欧洲根本没有立足之地。”雷尼尔说道。

cheqd联合创始人兼首席执行官弗雷泽·爱德华兹告诉解密“每个创作者都应该能够控制自己的肖像在人工智能生成的媒体中的使用方式。”

他表示，“围绕深度伪造技术滥用的强烈反弹凸显了互联网本身的一个根本性缺陷。”

爱德华兹补充说：“目前仍然没有原生方法来验证是谁创建了一段合成内容，或者其使用是否获得过授权”，这使得责任继续“默认由像 X 这样的中间人承担，而不是由制造滥用行为的人承担”。

如果属实，正在调查的违规行为将构成对《数字服务法》第 34(1) 和 (2) 条、第 35(1) 条和第 42(2) 条的违反，这些条款要求平台评估和减轻系统性风险，包括非法内容传播和与性别暴力相关的负面影响。

欧盟的调查延续了原定于2023年底发生的《数据保护法》案件，该案件最终导致了……1.4亿美元12 月，X 公司因欺骗性设计、广告透明度不足和限制研究人员访问权限而被罚款 1.2 亿欧元。

此后，委员会扩大了对 Grok 的审查范围，包括此前对该聊天机器人生成的反犹太内容的担忧。

解密已联系 xAI 以获取更多评论。