建立人工智能教育应用安全防护体系

　　□ 本报记者 赵晨熙

　　教育部等五部门近日联合印发《“人工智能+教育”行动计划》（以下简称《行动计划》），对促进人工智能与教育深度广泛融合、人工智能人才培养、筑牢安全屏障等作出一体化部署。
　　在教育部近日召开的新闻发布会上，教育部科学技术与信息化司司长周大旺指出，《行动计划》围绕“十五五”时期教育强国建设的重点任务进行部署，提出“人工智能+教育”的总体思路。其中，坚持智能向善，统筹发展和安全是一项重中之重。
　　《行动计划》提出建立人工智能教育应用安全防护体系，部署严防利用人工智能伪造诈骗、学术造假、泄露隐私等多项有力举措，筑牢教育领域人工智能安全底线。
依法统筹学段布局
　　近年来，国家一直高度重视推进“人工智能+教育”相关工作，《教育强国建设规划纲要（2024—2035年）》《国务院关于深入实施“人工智能+”行动的意见》等多份重要文件均作出部署。
　　“将‘人工智能+教育’的‘蓝图’转化为‘施工图’。”周大旺用一句形象的比喻道出《行动计划》出台的重要意义。
　　实现人工智能教育全阶段覆盖是《行动计划》的一大亮点，针对各学段特点，精准明确了目标任务。
　　在基础教育阶段，确保开齐开足开好人工智能课程，重在激发学生好奇心，培养创新思维，提高解决复杂问题的能力。在高等教育阶段，推动人工智能成为公共基础课程，促进人工智能交叉创新，优化调整学科专业设置，胜任智能时代对人才的新要求。在职业教育阶段，推动传统产业相关专业的智能转型，培养适应产业变革的高技能人才。在终身教育阶段，针对不同人群开发优质资源，确保全体学习者享有平等学习人工智能的机会。
　　实习实训一直是职业教育人才培养的核心环节。“依托AI技术能很好地将人才培养起点从‘课本’前移到‘产线’。”金华职业技术大学校长梁克东介绍了他所在学校的经验——针对不同专业群，打造主题式、沉浸式实训场景，比如，在新能源汽车专业群，通过与车企深度协同，将企业最新的智能产线工艺、质量标准和真实故障数据搬进课堂，将企业的工艺规范和技术经验，转化为可交互、可训练的“AI工艺导师”。
　　这位从不离岗的“AI工艺导师”能实时识别学生操作步骤并纠正错误，有助于将企业最关注的“一次做对”要求，提前内化到培养环节中。如今，通过AI赋能，学生操作失误率已降低近60%。
强化教师智能素养
　　教师是人工智能与教育深度融合的关键。《行动计划》提出多项举措提高教师的智能素养与技能。比如，制定教师智能素养标准，根据不同岗位需求分层分类开展人工智能素养培训；推动师范生培养改革，将人工智能等前沿技术知识纳入课程体系；将人工智能纳入教师资格考试和认证内容等。
　　“AI可以完成知识讲解、作业批改、信息检索等标准化工作，而教师要把更多时间和精力放在激发孩子好奇心、保护想象力、培养创新思维、塑造健全人格上。”对于智能时代下的教师定位，深圳大学附属教育集团外国语小学校长姚晓英认为，教师要从“知识传授者”，真正转向“学习设计者”、“成长陪伴者”和“价值引路人”。首先，要有“育人优先”的定力，面对技术发展，也始终要坚持以学生成长为中心。其次，要有“人机协同”的素养，学会用AI服务教学、读懂数据、精准支持每一个孩子的个性化成长。此外，要有“面向未来”的视野，懂AI时代的学习规律，设计项目式、探究式、跨学科学习，激发学生的创新潜能。
　　如今，很多学校都在开展推进教师数字化能力提升相关工作。梁克东以其所在学校为例称，学校建立覆盖通识普及、交叉融合、研究提升三层进阶的AI赋能体系，每年设置专项经费支持教师团队开展智能实训设计、虚实融合教学等研究。同时，升级“畅学金职”智慧学习平台功能，为教师提供智能备课、虚拟仿真、教学设计、实训过程数据分析等“一站式”支持。
严守法治安全边界
　　坚持智能向善，筑牢教育领域人工智能安全底线，严守法治安全边界，是教育部推进数字教育始终遵循的宗旨。
　　《行动计划》针对筑牢“人工智能+教育”安全屏障作出专门规定。要求建立人工智能教育应用的安全防护体系，分类分级确定安全防护标准。深化建立教育大模型安全审核机制，确保生成内容积极健康、向上向善。建立人工智能教育应用的安全测评标准，一体保障模型算法、数据资源、基础设施、应用系统等安全，确保技术应用符合教育规律。推动软件正版化，保障人工智能应用安全、可信、可控。强化人工智能进校园管理，明确智能产品、终端的应用规范。健全人工智能评估备案、技术监测、风险预警、应急响应机制，有效防范利用人工智能伪造诈骗、学术造假、应试内卷、泄露隐私等问题。
　　周大旺指出，“人工智能+教育”在推进中必须统筹发展和安全，要围绕师生素养、工具开发、技术研发、伦理安全等方面研制人工智能的标准规范，加强内容安全、技术安全、数据安全、算法安全和伦理安全的评估和保护。
　　“技术越强大，其反作用也会很大，因此，对技术本身需要清醒的价值引领。”清华大学校长李路明指出，应用人工智能要坚持积极而审慎的态度。如，清华大学发布了《人工智能教育应用指导原则》，在鼓励教师大胆探索人工智能赋能教育教学的同时划清了伦理边界和使用规范。