法国警方突袭X公司巴黎办公室，调查Grok AI传播非法内容

周二，法国警方突击搜查了社交媒体平台X位于巴黎的办公室，这是针对该平台人工智能聊天机器人Grok涉嫌传播儿童色情制品及其他非法内容的刑事调查范围扩大的一部分。

根据报告经过天空新闻此次搜查是由法国专门的网络犯罪部门与欧洲刑警组织协调进行的。

检察官表示，X的所有者埃隆·马斯克已被传唤接受讯问，同时被传唤的还有几位现任和前任高管，包括前首席执行官琳达·亚卡里诺。

欧洲刑警组织在一份声明中表示：“此次调查涉及一系列与该平台运作和使用相关的涉嫌犯罪行为，包括传播非法内容和其他形式的网络犯罪活动。”陈述“欧洲刑警组织随时准备继续支持法国当局的调查工作。”

上个月启动的对Grok的调查主要围绕X涉嫌参与传播儿童性虐待材料和其他非法内容的指控展开，当局称Grok被用于生成超过23,000儿童性化图片。

去年八月，xAI推出了“Spicy Mode”，专门用于生成NSFW内容，其中包括一起备受瞩目的案件。深度伪造泰勒·斯威夫特的。

在邮政X表示，这家社交媒体巨头的全球政府事务部门否认有任何不当行为，称此次突击搜查是“针对涉嫌操纵算法和所谓欺诈性数据提取的政治化刑事调查”。

他们写道：“今天的突袭行动更加坚定了我们的信念，即这项调查歪曲了法国法律，规避了正当程序，并危及言论自由。X致力于捍卫其基本权利及其用户的权利。我们不会被法国司法当局今天的行动吓倒。”

消费者权益倡导组织认为，当监管机构调查那些使用人工智能工具创建非法内容的开发商时，应该审查该公司是否能够合理预见到这些工具会被如何滥用。

“监管机构应该审查该公司的设计选择是否使其非法滥用行为可预见，风险评估是否充分，以及在产品发布前是否对安全措施进行了有效的测试，”公共公民组织（Public Citizen）的大型科技公司问责倡导者J.B. Branch表示。解密。“从快速部署中获利的平台必须对部署造成的损害承担责任。其他行业的情况正是如此。”

布兰奇表示，虽然现行的禁止未经同意的性图像和儿童性虐待材料的法律仍然至关重要，但这些法律并非为能够“以可扩展的速度大规模制造伤害”的人工智能而制定的。

他表示：“我们需要更明确、更积极主动的义务，要求企业在人工智能滥用事件发生之前就加以防范，包括由独立监管机构进行压力测试，在人工智能产品上市前对问题进行检验。一旦发生如此严重的事件，就应该立即移除该工具。”

探测器比比皆是。

目前，对该聊天机器人的调查已扩展到多个司法管辖区，包括英国、欧盟、印度、澳大利亚和美国。

就在法国官员突袭X的巴黎办公室的同一天，总部位于英国的信息专员办公室宣布，它也对Grok展开了调查。

“有报道称，Grok被用于生成未经同意的个人（包括儿童）性图像，因此我们采取了这一步骤，”ICO监管风险与创新执行董事William Malcolm在一份声明中表示。陈述“据报道，此类内容的制作和传播违反了英国数据保护法，并可能对公众造成重大潜在危害。”

据马尔科姆称，这些担忧与个人数据是否得到合法、公平和透明的处理有关，以及Grok的设计和部署中是否内置了适当的保障措施，以防止使用个人数据生成有害的篡改图像。

他写道：“如果这些保障措施失效，个人就会失去对其个人数据的控制权，从而面临严重损害。审查这些风险是ICO保护人们权利以及在组织设计和部署人工智能技术时追究其责任的核心职责。”

欧洲的这些行动是针对X和Grok的最新举措。上个月，总部位于英国的媒体监管机构Ofcom对X是否违反了《网络安全法》规定的义务展开了调查。

今年1月，在Grok遭到国际社会强烈反对后，xAI表示受限制的聊天机器人的图像编辑功能被禁用，并且屏蔽了与生成人物图像相关的某些提示。

巴黎突袭事件发生在马斯克宣布SpaceX计划的第二天。获得xAI，这家人工智能初创公司此前曾吸收随着监管审查力度加大，SpaceX将该社交媒体平台及其人工智能系统置于其公司旗下。

欧盟委员会发言人托马斯·雷尼尔表示：“我们注意到，X或Grok现在提供了一种‘刺激模式’，其中包含露骨的性内容，部分输出内容还使用了类似儿童的图像。”说在最近于布鲁塞尔举行的一次新闻发布会上，他说道：“这不是辣味，这是非法的，这是骇人听闻的，这是令人作呕的，这种东西在欧洲没有立足之地。”

SpaceX和xAI尚未立即回应置评请求。解密。