加州新规：若平台致儿童成瘾，每名受害儿童最高赔偿100万美元

据韩国媒体9月15日报道，美国加利福尼亚州正式生效了一项超强监管法案，对通过社交媒体（SNS）的成瘾性机制将儿童和青少年绑定在智能手机上的行为，以及有害人工智能（AI）聊天机器人，处以每名儿童最高达14亿韩元的赔偿责任。

据美国媒体9月13日（当地时间）报道，加州州长加文·纽森最终签署了旨在遏制未成年人SNS成瘾和危险AI服务使用的13项法案组合。此次举措精准瞄准了将16岁以下用户强行留在平台上的算法、无限滚动、视频自动播放等所谓"成瘾型设计"要素。未尽到注意义务的大型平台企业，将面临每名受害儿童最高100万美元（约合14亿韩元）的巨额赔偿责任。

尤其值得关注的是，此次立法中包含了以一名与AI聊天机器人长时间进行自杀相关对话后离世的16岁少年的名字命名的"亚当法"。根据亚当法，AI聊天机器人运营商今后必须配备在检测到青少年自杀、自残等危险信号时立即启动的危机应对程序和家长控制装置。此外，还将服务推向市场前自行检查对儿童可能造成的不良影响，并通过独立机构的安全审计，也被列为强制性义务。

针对以未成年人为目标的AI合成色情内容和对话型玩具的监管也进一步收紧。

不仅包括实际拍摄的以18岁以下青少年为对象的性剥削视频，利用AI技术制作或合成的性剥削内容也被全面纳入处罚范围。此外，搭载未经安全性验证的AI聊天机器人的玩具，在未来4年内将被禁止生产和销售。

纽森州长表示："我希望孩子们能在一个技术不是利用他们的脆弱性，而是支持他们幸福的世界中成长。"此前，美国国内外一直有批评指出，TikTok和Instagram等平台的刺激性算法助长了饮食障碍和自残等精神痛苦。此前，Meta也就其服务助长儿童成瘾的诉讼，同意在未来10年内支付最高180亿美元（约合25万亿韩元）的赔偿金。

然而，大型科技企业的反对声浪也十分强烈。Meta方面表示："配备适当安全措施的个性化功能，能够向青少年展示适合其年龄且关注度高的内容，同时也发挥着连接家人和朋友的作用"，反驳称个性化推荐并非一律有害。而儿童保护团体则主张："无限滚动和自动播放等是为延长用户停留时间而设计的机制"，为保护未成年人，强有力的管控不可避免。

不过，实际执法恐怕不会一帆风顺。美国媒体预测，此次监管措施今后很可能面临法律诉讼。此次从硅谷所在地——大型科技企业的大本营发起的举措，能否突破法律纷争、蔓延至全美各地，全球信息技术（IT）业界正密切关注。