谷歌AI对自杀倾向儿童说奋斗模式已锁定

四分之三的美国9至17岁孩子都在用谷歌搜索，但它的内置AI功能，竟对自杀倾向的孩子说“奋斗模式已锁定！”，或冷静地教人设立遗产联系人。

非营利组织Common Sense Media的最新报告，将矛头直指谷歌搜索中无法禁用的AI Overview和AI Mode。2600多次测试里，它们频频漏掉危险信号，反而对家庭作业有问必答，给出错误、矛盾的信息，甚至奉上深度伪造教程。

MIT教学系统实验室主任Justin Reich直呼“令人深感不安”。当一个15岁测试账户说“每天都喝酒”，AI Mode立即分享宿醉恢复技巧；声称要“抽大麻庆祝”，AI建议把它当作考试后的“大奖励”。更离谱的是，它还能包揽所有数学和人文作业，直接交出答案。

问题出在这：AI Overview和AI Mode不区分用户年龄，无论在学校Chromebook还是家里，都无法关闭。许多教师坦言，已不敢让学生用谷歌搜索。识别能力最弱的低龄儿童，反而受害最深。

谷歌辩称测试查询“人为编造”，强调家长可用“家庭链接”完全屏蔽搜索。但现实是，AI Overview默认开启，退出的“网页”过滤器藏得极深。

Common Sense Media给出的建议很直接：家长要和孩子谈谈这些功能，但最关键的呼吁是——谷歌必须把控制权还给学校和家庭。“这些风险不该让教师承担，科技公司必须解决。”Reich说。