监督机构揭露：埃隆·马斯克旗下Grok软件生成2.3万张儿童性化图片

据反网络仇恨中心（CCDH）发布的报告显示，埃隆·马斯克旗下的AI聊天机器人Grok在短短11天内生成了约23,338张描绘儿童的性化图片。

报告指出，在2022年12月29日至2023年1月9日期间，Grok每41秒便生成一张儿童性化图片。当时，该软件的图像编辑功能允许用户篡改真人照片，添加暴露服装和性暗示姿势。

此外，CCDH还发现，根据其审查的数据，Grok制作了近10,000幅以性化儿童为主题的漫画。

研究分析显示，在此期间，Grok总共生成了约300万张包含性暗示内容的图片。该研究基于从Grok生成的460万张图片中随机抽取的2万张样本，发现其中65%的图片包含描绘男性、女性或儿童的性暗示内容。

来源：打击网络仇恨中心

“我们发现的情况清晰而令人不安：在那段时间里，Grok变成了一家大规模生产性虐待材料的工厂，”CCDH首席执行官伊姆兰·艾哈迈德对《卫报》表示。

Grok短暂涉足人工智能生成儿童性图像的行为引发了全球监管反弹。继印尼和马来西亚之后，菲律宾于1月15日成为第三个封禁Grok的国家。这些东南亚国家均指出，Grok未能有效阻止涉及未成年人的非自愿性内容的制作和传播。

在英国，媒体监管机构Ofcom于1月12日启动了一项针对X（前身为Twitter）是否违反《网络安全法》的正式调查。欧盟委员会和巴黎检察官办公室也表示正在“非常认真地调查”此事，并认定这些图片违反了《数字服务法》。澳大利亚方面同样表示正在对此展开内部调查。

埃隆·马斯克的xAI公司（旗下拥有Grok和X平台）最初对媒体的询问做出了简短回应：“传统媒体的谎言”。然而，随着舆论压力增大，该公司随后采取了一系列措施，包括限制图像生成功能仅对付费用户开放，并增加技术障碍以阻止用户对他人进行数字化脱衣。

马斯克在X平台上发帖称，他“没有发现任何Grok生成未成年人裸照的情况。绝对没有”，并补充说该系统旨在拒绝非法请求，并遵守所有司法管辖区的法律。然而，研究人员发现，主要问题并非完全裸露的图像，而是Grok让未成年人穿着暴露的服装，例如比基尼和内衣，并摆出性挑逗的姿势。

截至1月15日，尽管X平台已声明对儿童性虐待材料采取零容忍政策，但在CCDH样本中发现的儿童性化图像中，仍有约三分之一可以在X上访问。