币币情报道：
周二，美国两党参议员提出一项法案，限制人工智能模型与儿童互动的方式，并警告称人工智能伙伴会对未成年人的心理健康和情感福祉构成严重风险。
这项名为《GUARD 法案》的立法将禁止为未成年人提供人工智能伴侣，要求聊天机器人明确表明自己是非人类，并对那些面向未成年人、招揽或生成性内容的公司的产品和服务制定新的刑事处罚措施。
“在竞相降低标准的过程中，人工智能公司正向孩子们推送危险的聊天机器人，并对产品导致性虐待、胁迫儿童自残或自杀的行为视而不见，”该法案的共同发起人之一、康涅狄格州民主党参议员理查德·布卢门撒尔（Richard Blumenthal）在一份声明中表示。陈述.
他补充道：“我们的立法对剥削性或操纵性人工智能施加了严格的保障措施，并辅以严厉的执法，包括刑事和民事处罚。大型科技公司一贯将利润置于儿童安全之上，辜负了我们应该相信它们会自行做出正确决定的说法。”
问题的严重性令人警醒。常识媒体 (Common Sense Media) 7 月份的一项调查显示成立调查显示，72%的青少年使用过人工智能伴侣，超过半数的青少年每月至少使用几次。约三分之一的青少年表示，他们使用人工智能进行社交或恋爱互动、寻求情感支持或练习对话——许多人表示，与人工智能的聊天感觉与和真人朋友的聊天一样有意义。同样比例的青少年表示，他们会选择人工智能伴侣而不是真人来讨论严肃或私人问题。
随着针对大型人工智能公司产品涉嫌导致青少年自残和自杀的诉讼不断增加，人们的担忧也日益加深。其中，16岁的亚当·雷恩（Adam Raine）的父母已对OpenAI提起过失致死诉讼。亚当在自杀前曾与ChatGPT讨论过自杀。
该公司因其法律回应而受到批评，其中包括要求提供参加该青少年追悼会的人员名单和悼词。家属的律师称他们的行为是“蓄意骚扰”。
Holonym联合创始人兼数字权利倡导者沙迪·埃尔·达马蒂表示：“人工智能的发展速度比我们以往接触过的任何技术都要快，我们已经看到它对行为、信仰和心理健康的影响。”解密.
“这看起来更像是核军备竞赛，而不是iPhone时代。我们谈论的是能够改变人们思维方式的技术，需要以严肃的、全球性的责任感来对待。”
埃尔·达马蒂补充说，用户权利对于确保用户安全至关重要。“如果你开发的工具会影响人们的生活和思维方式，那么你就要对这些工具的使用方式负责，”他说。
这个问题不仅限于未成年人。本周，OpenAI披露据公司数据显示，每周有120万用户通过ChatGPT讨论自杀话题，占所有用户的0.15%。其中近50万用户表现出明确或隐含的自杀倾向，另有56万用户每周出现精神病或躁狂症状，超过100万用户对聊天机器人表现出高度的情感依恋。
Reddit和其他平台上也涌现出一些论坛，供那些声称与人工智能机器人谈恋爱的用户交流。在这些小组中，用户们描述他们与人工智能“男友”和“女友”的关系，并分享人工智能生成的他们自己和“伴侣”的图像。
面对日益增长的审查，OpenAI 本月形成公司成立了一个由学者和非营利组织领导人组成的健康与人工智能专家委员会，旨在指导其产品如何处理心理健康方面的互动。与此同时，首席执行官萨姆·奥特曼宣布，公司将……开始放松12月将对成人内容进行限制。
快讯