儿童用AI太危险：纽约市突然宣布禁令，高中生仅5个试点能碰

纽约市将在下周学校开学时，

对约三分之二的学生使用人工智能的规定进行收紧

。纽约市公立学校系统计划实施为期一年的全面禁令，禁止2-K至八年级学生在课堂上使用生成式人工智能。那些声称可以提供情绪和心理支持的陪伴型聊天机器人也将被全面禁止。

市长佐赫兰·马姆达尼在新闻稿中强调：“儿童需要通过教师和人与人之间的互动来学习和成长。他们需要与同伴一起培养能力，与教育工作者建立关系，并独自应对复杂问题。”他补充道：“科技行业希望我们相信，人工智能在早期教育中不可或缺。我们并不认同这一点。因此，我们将对2-K至八年级学生使用生成式人工智能实施暂缓措施，并在未来一年内研究这项技术的影响。”

对于高中生，纽约市将限制人工智能的使用，仅限于5个试点项目。这些项目覆盖了公立学校学生总数的5%。此外，所有学生每年将接受两次人工智能批判性思维课程。市长办公室在新闻稿中说明，这两节各45分钟的课程将向学生介绍人工智能的定义及其局限性，探讨人工智能相关的偏见、风险、伦理问题，以及其对职业和未来技能的影响。

5个试点项目包括“奎尔”，用于英语课程，旨在“支持精读、文本分析，以及使用证据支撑观点”；“埃迪亚”将辅助数学教学；“布里斯克教学”则可用于各学科中由教师设计的课堂活动。每项工具每周的使用时间限制在10至20分钟之间。市长办公室指出，学生还可参与“普莱实验室”，学习如何“审视人工智能输出中的偏见和推理”；以及“英特尔人工智能就绪学校”项目，引导学生“识别社区问题，并通过为期一学期的项目开发人工智能解决方案”。

新规同样限制教师使用人工智能

。教师仅能将人工智能工具用于备课、翻译和沟通等事务性工作，不得用于为学生评分或提供辅导咨询。纽约市学区是美国最大规模的学区。新规生效后，预计将影响约60万名学生。市长办公室表示，将组建一个由学生、教育工作者、家长领袖、民选官员、倡导人士、工会伙伴和专家构成的联盟，以评估新规的成效。

儿童和青少年越来越多地依赖人工智能聊天机器人完成作业、寻求心理健康建议，甚至获得情绪支持。然而，这项技术对仍在发育中的儿童大脑的影响尚未得到充分了解。心理学界指出，儿童和青少年尤其容易受到聊天机器人带来的负面心理健康影响，这种现象常被称为“人工智能精神病”。一些未成年人长期使用聊天机器人的案例最终以悲剧收场。

近期研究还显示，频繁使用人工智能聊天机器人可能与认知能力下降有关。面对日益增多的相关证据以及对学区此前指导草案的不满，一些纽约市家长此前一直呼吁实施更长时间、覆盖范围更广的两年生成式人工智能使用暂缓措施。

这项新规出台之际，纽约市和纽约州都在加强对人工智能的监管，涉及数据中心和聊天机器人等领域。今年夏初，

纽约州成为首个对数据中心实施暂缓措施的州

。州议员近期还通过了一项具有里程碑意义的人工智能安全法案，要求主要人工智能企业制定、公布并遵守正式的安全协议。

纽约州州长凯茜·霍楚尔在新闻稿中赞扬市长办公室发布了这份指导方针。她此前也多次就人工智能聊天机器人及其对未成年人可能造成的危险发表意见。

新规还限制个人笔记本电脑和平板电脑的使用

。学前班至二年级学生将不再能够使用个人设备；高年级小学生每天使用设备的时间将限制在30至45分钟。不过，据报道，正在积极学习英语的学生、残障学生，以及使用编程软件的情形，将获得例外安排。