币币情报道：
欧盟委员会近日明确指出，埃隆·马斯克旗下的xAI团队开发的聊天机器人格罗克（Grok）生成儿童性化图像的行为不仅违法，而且令人发指。
欧盟委员会发言人托马斯·雷尼尔在布鲁塞尔举行的新闻发布会上表示：“我们注意到，X或Grok提供了一种‘刺激模式’，其中包含露骨的性内容，并使用类似儿童的图像。”他强调：“这不是什么刺激的事，这是违法的，这是骇人听闻的，这是令人作呕的，这种事在欧洲没有立足之地。”
这一声明标志着争议进一步升级。此前，解密曾报道过xAI的聊天机器人生成未经同意的女性深度伪造视频，成为OnlyFans创作者的营销工具，并被用于政治目的的图像操纵。
雷尼尔还指出，这并非格罗克首次违规。去年，该聊天机器人因生成否认大屠杀的内容而受到欧盟委员会的信息请求调查，类似事件在多个欧洲国家也引发了关注。
欧盟发言人对X公司提出了严厉警告，称其对《数据保护法》和《数字服务法》的执行非常认真。告诉欧洲新闻台并援引《数字服务法》说：“他们会记住我们给他们开的罚单。”
去年12月，欧盟委员会根据《数字服务法》对X公司开出了首张罚单，金额高达1.2亿欧元（约合1.4亿美元）。委员会裁定X公司违反了其蓝V认证系统、广告库和研究人员数据访问权限方面的透明度要求。目前，X公司仍因涉嫌发布非法内容和虚假信息而接受DSA的积极调查。
马斯克称罚款“胡说八道”，并表示他会提出异议。
与此同时，法国已扩大刑事调查范围，将格罗克涉嫌制作儿童色情制品的指控纳入其中。英国通信管理局（Ofcom）周一紧急要求X公司解释格罗克是如何生成这些图片的。印度信息技术部要求X公司在1月5日前提交一份全面的安全审查报告，马来西亚也已展开相关调查。
荷兰籍欧洲议会议员杰伦·莱纳斯一针见血地指出了xAI方法的核心问题。“如果人工智能平台选择允许生成色情内容，则必须事先实施稳健、有效且可独立验证的安全保障措施。”莱纳斯说周二。
莱纳斯补充说，仅仅依靠在儿童性虐待材料制作完成后将其删除是不够的，因为“对受害者的伤害已经造成，无法挽回”。
据报道，格罗克曾发布未成年人的性暗示图片，之后将其删除。该聊天机器人上周就生成12至16岁女孩的图片一事道歉，称这些事件是“保障措施的漏洞”。然而，到那时，损害已经造成了。
面对日益增长的国际压力，xAI尚未作出实质性回应。当路透社要求该公司置评时，其仅回复称“传统媒体的谎言。”
然而，多项监管调查正威胁着这一策略。《数字服务法》规定，违规行为最高可处以全球年收入6%的罚款。X公司12月份的罚款是根据初犯较低的罚款比例计算的，再次违规的罚款金额可能会呈指数级增长。
首轮罚款公布后，美国政界迅速作出反应。副总统万斯发帖称，欧盟“应该支持言论自由，而不是因为垃圾问题攻击美国公司”。国务卿马可·卢比奥也发表了类似言论，称12月DSA的罚款是对美国人民的“攻击”。
但欧洲监管机构并不接受以言论自由为由对抗儿童性虐待材料。雷尼尔周一的表态不容置疑。这并非关于政治审查或不同内容审核文化的争论，而是关乎如何制止非法儿童性虐待图像的制作和传播。
截至目前，xAI尚未对格罗克的功能进行实质性改动。尽管聊天机器人的“媒体”选项卡在被大量色情图片淹没后已被禁用，但核心的图像编辑功能和图片动画功能仍然可用。
首页
快讯