市人大代表担心“AI原住民”，需警惕AI产品应用于儿童的风险 – 新京报

新京报讯（记者 王静熙）随着AI的兴起和人工智能产品的广泛普及，不少家长将AI视为“数字守护者”。后十年一代被称为AI时代第一代本土一代。孩子们开始通过播放音乐和回答问题来与人工智能交流，将其用作助手。然而，一些孩子逐渐对人工智能产生依赖并上瘾。出席北京市第十六届人民代表大会第四次会议，市人大代表、北京一贤律师事务所主任黄乐平提出《人工智能在儿童智能产品应用的风险与应对》的提案。目前市场上不乏专为儿童设计的人工智能产品。黄乐平认为，儿童智能产品应用存在隐私信息泄露的风险。 “恶意程序很容易在用户不知情的情况下被植入他还表示，孩子对智能产品的过度依赖、对科技的过度依赖，正在对孩子的身心健康产生负面影响。他观察到孩子依赖智能手表社交圈，导致睡眠不足；孩子过度依赖AI，导致认知混乱；孩子使用并依赖AI学习机，导致自主学习能力丧失。 “上述案例表明，儿童过度依赖人工智能技术及其衍生品，学习资源系统过分重视未成年人的个人需求，助长了儿童的闲想，导致意识封闭、认知茧化、缺乏独立性。”黄乐平介绍道。此外，智能产品还带有诱导消费的风险。例如，儿童智能手表内置的应用功能种类繁多，如弹窗广告、内置小游戏、皮肤商店、红包积分等，孩子佩戴时很容易被广告、游戏内容所吸引，甚至收取大量费用，增加了家庭资产的风险。人工智能技术在儿童智能产品中的滥用也是一个社会问题。黄乐平指出，网上也有报道称，一些孩子对智能手表的反应可能超出最低文化标准，扭曲孩子的价值观，腐蚀他们的心灵。他建议结合北京实际情况制定监管标准，推动儿童监护AI智能应用法制化、规范化。引入伦理审查机制，加强立法监督。严格执行未成年人保护法中华人民共和国，规范数据收集和人工智能技术的使用，确保儿童相关数据的安全存储和传输。建立算法评估机制，对算法的公平性、透明度进行评估和监督，建立完善的安全管理体系，加强安全漏洞监测预警，提高系统防御能力，强化儿童人工智能系统的安全防护措施。在行业层面，需要完善行业标准和认证机制，引入第三方认证，形成行业内统一的标准和质量管理体系。此外，他还表示，要加强对家庭和学校教育的积极引导。学校需要构建系统的课程体系，开发系统的人工智能课程，融入私教课程。保护和网络安全。编辑：张谦 校对：张彦军