图灵汇官网

加州拟出新规：AI 公司需定期提醒儿童聊天机器人并非人类

近日，美国加利福尼亚州提出了一项新法案（SB 243），旨在保护儿童免受人工智能（AI）带来的潜在危害。该法案由加州参议员史蒂夫·帕迪拉提出，要求AI公司在一定时间内向儿童明确指出，聊天机器人是由AI驱动的，而不是真实的人类。

新法案的主要内容

除了要求AI公司定期告知儿童聊天机器人的本质之外，法案还规定，AI公司需要每年向州医疗保健部门提交报告。这些报告将涵盖平台上检测到的儿童自杀倾向次数，以及聊天机器人提及这类话题的频率。此外，法案还要求公司通知用户，聊天机器人可能不适合所有年龄段的儿童使用。

法案背景

去年，一起针对Character.AI的诉讼引起了广泛关注。一名家长起诉该公司，称其定制的AI聊天机器人存在安全隐患，导致她的孩子在长时间交流后自杀。另外一桩诉讼也指责该公司向未成年人传播有害内容。为此，Character.AI公司已经开始研发家长控制功能，并计划推出一种新的AI模型，以过滤掉敏感或有暗示性的内容。

参议员的观点

参议员帕迪拉在新闻发布会上表示，“我们不能允许孩子们成为科技公司实验的对象，牺牲他们的心理健康。”他强调，必须采取措施防止AI开发者使用那些已知会导致上瘾和剥削用户的策略。

监管趋势

目前，美国各州和联邦政府正加强对社交媒体平台的监管。预计未来，AI聊天机器人将成为立法者关注的新焦点之一。