币币情报道：
美国全国总检察长协会 (NAAG) 已致函 OpenAI、Anthropic、Apple 和 Meta 等 13 家人工智能公司，要求采取更强有力的保障措施，保护儿童免受不当和有害内容的侵害。
信中特别警告了儿童通过“调情”人工智能聊天机器人接触到带有性暗示的材料的风险。
总检察长在信中写道：“让儿童接触色情内容是不可原谅的。如果是人类实施的，那就是违法的，甚至是犯罪的，但不能仅仅因为是机器实施的，就被原谅。”
信中还将社交媒体的兴起与人工智能技术的快速普及进行了比较，批评政府机构未能及时采取措施来减轻其对儿童造成的负面影响。
“社交媒体平台对儿童造成了重大伤害，部分原因是政府监管机构未能及时履行职责。我们吸取了教训。人工智能的潜在危害，如同其潜在的益处一样，远远超过了社交媒体的影响，”该组织写道。
调查显示，人工智能工具在青少年中的使用率正在迅速攀升。美国非营利组织 Common Sense Media 的一项调查表明，截至 2024 年，十分之七的青少年尝试过生成式人工智能，而到 2025 年 7 月，超过四分之三的人正在使用人工智能伴侣，其中一半的受访者表示他们经常依赖这些工具。
其他国家也出现了类似的趋势。英国监管机构 Ofcom 去年进行的一项调查显示，一半的 8-15 岁在线青少年在过去一年中使用过生成式人工智能工具。
随着这些工具的普及，家长、学校和儿童权利组织的担忧也在增加。他们指出，这些工具有可能导致诸多风险，包括带有性暗示的“调情”聊天机器人、人工智能生成的儿童性虐待内容、网络欺凌、诱骗、勒索、虚假信息传播、隐私侵犯以及心理健康问题。
Meta 最近因内部文件泄露而受到广泛批评。文件显示，其 AI 助手被允许“与儿童调情并进行浪漫角色扮演”，甚至涉及年仅 8 岁的儿童。泄露的内容还包括聊天机器人将儿童描述为“艺术品”或“珍宝”的政策指南。Meta 随后表示已删除这些准则。
NAAG 表示，这些披露的内容让总检察长们“对这种明显无视儿童情感健康的行为感到厌恶”，并警告称风险并不仅限于 Meta。
该组织还援引了针对谷歌和 Character.ai 的诉讼案例，指控性感聊天机器人导致一名青少年自杀，并鼓励另一名青少年杀害其父母。
田纳西州总检察长乔纳森·斯克梅蒂 (Jonathan Skrmetti)，作为 44 名签名者之一，表示公司无法为那些可能将与未成年人的性互动正常化的政策辩护。
“算法出错是一回事——可以修复——但公司经营者制定明确授权诱骗行为的指导方针又是另一回事，”他说。“如果我们不能引导创新远离伤害儿童，那就不是进步，而是一场瘟疫。”
解密已经联系了信中提到的所有人工智能公司，但尚未收到回复。
快讯