第一章 总则
第一条 为加强对北京大学人工智能大模型的安全管理，防范化解潜在风险，保障学校网络安全、数据安全及个人信息安全，促进大模型应用更好地服务学校各项事业，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法律法规，结合学校实际，制定本规定。
第二条 本规定所称的人工智能大模型（以下简称“大模型”），是指具有大规模参数和深度学习架构的机器学习模型，能够处理复杂内容生成、语言理解、决策推理等任务。本规定适用在校园网内研发、训练、调整、部署、应用人工智能大模型及相关服务等全链条活动。
第三条 本规定以网络安全备案管理为基础，以模型安全监督和风险评估处置机制为主要手段，旨在建立覆盖人工智能大模型全生命周期的安全管理体系，确保所有在校园网内研发和应用的大模型安全可控、合规有序，遵循伦理原则和规范。
第四条 本规定适用于北京大学各单位和个人在校园网内发起或参与的大模型研发、应用与服务提供等相关活动，其形式包括但不限于自主研发、采购引进及其他合作方式。
第二章 职责分工
第五条 学校建立健全大模型安全管理组织架构：
（一）北京大学网络安全和信息化委员会是学校网络安全管理的决策机构，负责领导大模型有关的网络安全工作。
（二）网络安全和信息化领导小组是学校网络安全工作的协调机构，负责统筹协调大模型有关的网络安全工作。
（三）网络安全和信息化委员会办公室（以下简称“网信办”） 承担大模型安全日常安全管理职责，落实执行学校大模型安全管理决策部署。
（四）计算中心作为学校大模型安全的技术支撑单位，承担大模型安全技术保障职责，提供安全风险评估、监测与应急响应等技术支持。
第六条 学校实行大模型安全管理责任制：
（一）各院系、职能部门等二级单位承担本单位大模型的安全管理责任。负责督促本单位大模型项目遵守安全管理规定、开展风险评估和安全自查。
（二）大模型项目负责人是项目安全的第一责任人，须全面落实合规、安全和伦理要求，对模型输出内容的安全性、合法性承担直接责任。
第三章 工作机制
第七条 大模型安全管理通过统一管理压实各方责任，贯彻预防为主、综合治理的方针，强化全生命周期风险防控。
第八条 根据潜在风险的发生概率及可能的影响范围，学校大模型项目实行分类管理：
（一）第一类（C1）：内部科研探索类。此类项目仅限于特定团队内部科学研究、技术验证与模型开发活动，不面向任何第三方提供服务，原则上不处理真实个人信息或重要敏感数据。
（二）第二类（C2）：校内应用类。此类项目服务于本校教学、科研、管理等校内业务，面向校内师生提供服务，收集或使用校内师生个人信息数据或校务数据。
（三）第三类（C3）：对校外开放服务类。此类项目通过互联网等渠道向社会公众或特定校外用户提供服务。
第九条 大模型项目实施应严格遵守国家法律法规，遵循以人为本的公认伦理原则和规范，坚持社会主义核心价值观，切实保障算法安全、数据安全、内容安全。
（一）算法安全要求。应提升算法透明度和可解释性，确保算法决策过程可靠、结果可控。定期开展算法鲁棒性测试与安全性评估，提升抵御对抗性攻击、资源消耗攻击的能力。建立算法风险监测机制，及时发现并修正偏差。
（二）数据安全要求。应加强数据安全管理，细化数据采集、存储、使用和销毁的操作规范，对训练数据、用户输入及模型输出数据实施分类分级管理，并采取有效的加密、脱敏、访问控制等安全防护措施，防止数据泄露、篡改、滥用。
（三）内容安全要求。 必须确保训练数据来源合法、内容合规，建立内容过滤机制，不得生成或传播任何危害国家安全、破坏社会稳定、侵犯他人合法权益等违法违规信息。
（四）内容标识要求。C2和C3类项目应对生成内容进行显著、不易去除的标识，避免公众误解误用。内容标识的实施方式与标准应符合国家相关法律法规和监管要求。
第十条 大模型项目在正式部署或提供服务前，项目主管单位应向网信办提出备案申请，如实填写《北京大学人工智能大模型项目登记表》。如发生项目名称、责任主体、服务范围、模型基座、技术架构等重大变更，应及时重新备案。
（一）C1类项目实行自愿备案制，材料齐全即予备案。
（二）C2类和C3类项目实行强制备案与安全评估管理。提交备案申请后，由网信办组织，计算中心负责实施安全风险技术评估，评估通过后方可完成备案；未通过评估或未完成备案的项目，不得投入应用或向用户提供服务。
第十一条 大模型项目终止服务或下线时，应履行数据处置义务，妥善处置相关模型及数据，涉及个人信息、校务数据等敏感信息的应依规进行销毁或匿名化处理，并向网信办报备。
第四章 监督与应急
第十二条 网信办会同计算中心组织对已备案的大模型项目开展安全测评，督促相关责任主体及时整改安全隐患，不断提升风险防控和应对能力。
第十三条 学校建立大模型安全事件应急响应机制：
（一）项目单位发现或接报安全风险通报，应立即启动应急预案，采取暂停服务、断开连接、隔离数据、删除违规内容等措施控制事态，并同步向网信办和计算中心报告。
（二）计算中心接报后提供技术支援。若事件涉及重大舆情或可能造成较大社会影响，网信办牵头启动校级应急响应，协调处置并按规定程序向上级主管部门报告。
第十四条 对于违反本规定及相关实施要求的项目或单位，网信办可视情节轻重，依法依规采取约谈责任人、责令暂停服务、通报批评等处理措施。涉嫌违反国家法律法规或学校相关管理规定的，移交有关部门追究相应责任。
第五章 附则
第十五条 本规定经学校网络安全和信息化工作小组审定，自发布之日起试行，由网信办、计算中心负责解释。
附件：《北京大学人工智能大模型项目登记表》
