各中小学、幼儿园、职校及其他教育事业单位：

现将《虹口区学校生成式人工智能应用暂行管理办法》印发给你们，请结合各单位实际，认真贯彻执行。

特此通知。

                     上海市虹口区教育局

                      2025年1月8日

虹口区学校生成式人工智能应用暂行管理办法

第一章  总则

第一条 为了促进虹口区教育领域生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据国家相关法律法规以及网信办联合国家发展改革委等六部门出台的《生成式人工智能服务管理暂行办法》，结合虹口区教育实际情况，制定本暂行管理办法。

第二条 本办法适用于虹口区内各级各类学校（包括幼儿园、小学、中学、中等职业学校、职业院校等）以及其他教育单位（以下统称 “学校”）在教育管理与教学活动中使用生成式人工智能的相关活动。

第三条 生成式人工智能在虹口区教育领域的应用应遵循教育教学规律，坚持立德树人根本任务，以提高教育质量、促进教育公平、推动教育创新为目标，确保技术应用服务于教育事业的发展和学生的全面成长。同时，应紧密结合教育部和上海市教委关于推进人工智能赋能教育的相关文件精神，坚持以人为本，引导学生正确处理人与技术、社会的关系，培养学生的创新精神和解决实际问题的能力。

第二章  发展与应用

第四条 鼓励学校积极探索生成式人工智能在教育教学和管理的各环节的创新应用，包括但不限于通过数据分析、课程教学、教学资源开发、学生个性化学习、教育评价、教育管理与服务等方面，提升教学与管理的智能化水平和效率。

第五条 学校在应用生成式人工智能时，应根据自身的教育教学需求和实际条件，合理选择合适的生成式人工智能产品或服务，并进行充分的可行性论证和风险评估。

第六条 鼓励学校采用多种方式培训教师掌握生成式人工智能在教学中应用的技术和教学方法，促进全体教师的人工智能素养提升。积极推进生成式人工智能与教育教学的有机融合，同时要高度重视避免过度依赖AI技术，确保教师在教育教学中的主导地位和学生的主体地位，培养学生的批判性思维、创新能力和实践能力。

第七条 为营造宽松容错的创新环境，学校和教师在遵循法律法规与职业道德且非主观故意前提下，由于生成式智能应用本身不确定性导致事故但未造成重大损失和恶劣影响的，可免予追责。

第三章  治理与规范

第八条 学校应建立健全生成式人工智能应用的管理制度，明确管理职责和流程，加强对应用过程的监督和管理，确保生成式人工智能教育应用合法、合规、安全、有序。

第九条 14岁（含14岁）以下学生在校期间，使用生成式人工智能产品或服务开展学习活动时，全程需在教师的指导和监管下进行。

第十条 使用生成式人工智能生成的教学资源、学习成果等，应进行严格的审核和把关。由虹口区教育主管部门负责统筹协调全区的审核工作，学校应成立专门的审核小组，由教学管理部门、信息技术部门、骨干教师等人员组成，负责对本校使用生成式人工智能生成的各类教学资源和学习成果进行全面审核，确保符合学校的教育教学定位和要求，保障资源的适用性和可靠性。确保其内容符合国家的教育方针政策、社会主义核心价值观以及教育教学的基本要求，不存在错误信息、有害信息和侵权行为。

第十一条 人工智能生成的内容应审慎用于出版、发表、竞赛等场景，必须按照法律法规做好标注，保证信息真实准确。

第十二条 学校应加强对教师和学生使用生成式人工智能的培训和指导，提高其对技术的认知能力、应用能力和风险防范意识，引导教师和学生正确、合理、安全地使用生成式人工智能。

第四章  安全与保障

第十三条 学校应高度重视生成式人工智能应用中的安全问题，采取有效措施保障数据安全、网络安全和隐私安全。在数据收集、存储、使用、传输等环节，应遵循相关法律法规和数据安全标准，确保数据的保密性、完整性和可用性。

第十四条 建立生成式人工智能应用的安全监测和应急处置机制，及时发现和处理安全事件，降低安全风险和损失。如发生安全事故，应按照相关规定及时报告上级主管部门，并采取有效措施进行应急处置。

第十五条 在推动生成式人工智能发展的进程中，学校应秉持发展与安全并重的理念。积极引入和运用先进的生成式人工智能技术及资源，为教育教学赋能；同步构建完善的安全防护体系，定期开展安全评估与技术升级，确保生成式人工智能在安全的轨道上持续发展，防止因追求发展速度而忽视安全隐患，实现两者相辅相成、协同共进。

第十六条 建立生成式人工智能应用的安全管理和应急处置机制，按照区域、学校、班级三级进行分级处置：

区域层面：

安全管理：虹口区教育主管部门负责对全区使用情况进行管理，重点关注各学校生成式人工智能应用的整体使用状态，包括设备接入数量、使用频率、系统负载等情况，实时收集并分析各类安全威胁信息，如网络攻击迹象、数据泄露风险等，同时对各学校日常使用提问及回答记录进行汇总和筛查，以发现可能存在的具有普遍性或潜在重大风险的问题。

应急处置：制定全区性的应急预案，一旦发现存在违法、伦理等各类不良问题或重大安全事故，迅速启动应急响应。协调专业技术团队进行深入调查和处理，及时阻断不良信息传播，确保全区教育系统的稳定运行。同时，对问题的源头进行追溯，追究相关责任主体的责任，并向各学校发布安全警报和处置指导意见，防止类似问题在其他学校出现。

学校层面：

安全监测：学校依托区级管理要求，建立本校的管理流程，针对校内生成式人工智能应用的具体使用状态进行精细化记录，如师生使用的时间分布、应用功能的使用偏好等，深入分析可能出现的安全威胁信息，尤其是结合本校教学实际情况，对学生可能提出的特殊使用提问及相应回答记录进行重点审查，防止出现与学校教育理念相悖或违反法律法规、伦理道德的内容。

应急处置：当学校监测到异常情况时，立即启动本校应急预案。一方面，采取措施限制问题应用的使用范围，对相关数据进行备份和隔离；另一方面，组织校内技术人员和管理人员进行初步排查和处理，及时向区教育主管部门报告详细情况，并按照上级指示配合后续的调查和整改工作，对本校师生进行安全教育和引导，避免再次发生类似问题。

班级层面：

安全监测：班主任和任课教师在日常教学中，密切留意班级学生使用生成式人工智能的实时状态，重点关注学生的提问内容和回答反馈，及时发现并制止学生可能提出的涉及违法、伦理等不良问题，引导学生树立正确的价值观和使用行为观念。

应急处置：若班级内出现使用生成式人工智能引发的小范围安全问题，如个别学生接触到不良信息等，教师应立即采取措施，对学生进行教育和引导，消除不良影响，并及时向学校相关部门报告情况，协助学校完善安全管理措施，防止问题扩大化。

通过三级安全管理机制，形成全方位、多层次的安全防护网络，确保生成式人工智能在虹口区教育领域的安全应用，保障教育教学活动的正常开展和学生的健康成长。

第五章  监督与评估

第十七条 区教育主管部门将加强对学校生成式人工智能应用情况的监督检查，定期对学校的应用情况进行评估，确保本办法的有效实施和各项要求的落实。

第十八条 对违反本办法规定的学校，区教育主管部门将视情节轻重，采取责令整改、通报批评、暂停应用等措施，并依法追究相关人员的责任；构成犯罪的，移送司法机关依法追究刑事责任。

第六章  附则

第十九条 本暂行管理办法由虹口区教育局负责解释和修订。

第二十条 本办法自发布之日起施行，有效期三年。在有效期内，如国家和地方出台新的法律法规和政策规定与本办法不一致的，以国家和地方的法律法规和政策规定为准，并适时对本办法进行修订。

（此页无正文）

虹口区教育局办公室               2025年1月8日印发