加州通过新法案：人工智能聊天机器人需证明其安全性

加州在人工智能监管领域迈出了重要一步，通过了一项旨在降低有害人工智能聊天机器人对消费者构成风险的全面法案。该法案已获加州议会批准，目前正等待参议院最终审议。根据法案要求，人工智能聊天机器人的开发者必须进行严格的安全评估，并对其系统的功能和局限性保持透明。

根据拟议法规，在人工智能聊天机器人正式部署之前，开发者必须对其进行潜在危害评估，包括虚假信息传播、心理操纵及隐私侵犯等风险。此外，聊天机器人运营商需要向用户提供清晰的信息，涵盖其预期用途、所依赖的数据源以及功能限制。开发者还需向加州科技部提交详细文档，以便该部门监督其合规性。

该法规特别强调消费者保护，要求聊天机器人提供商设立机制，允许用户举报有害或欺骗性输出内容。为此，加州将推出一个专门的举报门户，用户可通过该平台报告具有误导性、有害或其他不当的内容。相关部门将负责审查被举报内容并采取适当的执法行动，例如处以罚款或要求系统更新。

《加州人工智能安全与透明度法案》引发了业内专家的广泛讨论，既有支持也有批评。支持者认为，该法案为负责任的人工智能开发树立了典范，填补了联邦监管中的关键空白。他们指出，随着人工智能聊天机器人被滥用于传播虚假信息、冒充个人或从事掠夺性行为的情况日益增多，这一法案有助于减少滥用的可能性。

然而，一些科技公司和行业机构对该法案可能对创新产生的影响表示担忧，认为严格的合规要求可能会增加小公司和初创企业的进入门槛，从而限制消费者选择和技术进步。对此，支持者回应称，这些保障措施是防止不可逆损害的必要手段，且负责任的创新完全可以在监管框架下实现。

据悉，该法案目前已进入最终投票阶段，立法者正在考虑修改部分条款，以避免无意中阻碍有益的人工智能应用。可能的调整包括对医疗、教育和客户服务领域使用的人工智能聊天机器人提供豁免，前提是它们符合特定的安全和透明度标准。该法案的最终版本预计将在下一届立法会议上提交，而相关执法措施可能会在未来18个月内分阶段实施。