谷歌前安全负责人：AI对儿童伤害恐超社交媒体

驱动中国9月23日消息 谷歌信任与安全团队创始人、前副总裁汤姆·西格尔（Tom Siegel）近日公开呼吁放缓人工智能发展步伐，并警告科技行业正重演社交媒体时代的监管滞后问题，可能导致AI对儿童造成比社交媒体更为严重的伤害。

西格尔指出，社交媒体平台目前正因被指控损害年轻用户身心健康而面临数千起诉讼及巨额赔偿，各国政府也在努力限制未成年人访问相关平台。然而，人工智能对儿童的潜在威胁被认为更为深层。尽管监管机构已注意到相关风险，例如路透社曾报道Meta内部文件显示其聊天机器人可能“与儿童进行浪漫或情色对话”，但监管措施仍未能跟上AI技术的快速迭代。

“就AI正在对儿童造成的影响而言，我们目前的处境非常糟糕。那种认为行业能够在没有外部帮助的情况下自行解决问题的想法，是不现实的。”西格尔表示。他的观点反映了部分科技从业者与学术研究者日益加剧的担忧：在数百万年轻人日常使用聊天机器人的背景下，整个行业正竞相添加更先进的功能，却未能建立足够的安全防护体系。

周二，西格尔宣布加入儿童网络安全倡导组织Common Sense Media，并出任该组织今年5月成立的“青少年AI安全研究所”首任执行主任。该研究所旨在评估儿童使用AI的情况，其支持方包括Anthropic以及控制OpenAI的非营利组织OpenAI基金会。西格尔计划制定相关标准以问责AI公司，并与企业及第三方组织合作推动标准落地。

西格尔于2004年至2019年在谷歌任职，后因认为科技行业在保障消费者网络安全方面“陷入瓶颈”而离职，并共同创办了安全工具开发公司TrustLab。本月早些时候，他卸任TrustLab首席执行官职务，转而投身于AI儿童安全倡导工作。

他列举了AI可能带来的多重风险，包括自杀、精神错乱以及“认知卸载”——即因过度依赖AI回答问题而导致批判性思维能力下降。西格尔建议，Anthropic和OpenAI可实施更严格的年龄验证机制，阻止未成年人使用其聊天机器人；谷歌则可在搜索引擎中增加关闭AI概览和AI模式的选项，类似于现有的色情内容过滤开关。他强调，尽管这些措施可能短期内影响使用量或利润，但若不采取行动，AI公司将面临更严重的诉讼与监管风险。

针对西格尔的言论，谷歌发言人回应称，家长可通过相关控制功能完全关闭孩子使用搜索引擎的权限，并表示AI搜索功能对儿童和青少年在学习、探索和理解信息方面具有积极作用。OpenAI发言人则指出，除用户自报年龄外，该公司还利用“账户和行为信号”识别未成年用户，并持续测试和改进系统，以防范绕过安全防护的行为。