全国首个教育智能体落地山东莱州,6000名教师数据合规风险谁来担?律师解读
2025年,山东莱州市宣布启动全国首个教育智能体项目,覆盖当地6000名教师,实现备课、授课、作业批改、学情分析等全流程教学场景的智能化覆盖。这一消息在教育界和科技领域引发广泛关注,被视为人工智能赋能基础教育的重要里程碑。然而,在技术光环之下,一个容易被忽视却至关重要的问题浮出水面:当AI深度介入教学过程,学生和教师的个人信息如何被收集、使用和保护?一旦算法出错或数据泄露,法律责任又该由谁承担?作为长期关注教育与科技法律实务的律师,我认为有必要从法律视角对这一创新项目进行冷静审视。
教育智能体的法律身份与数据处理的合规基础
教育智能体本质上是一套基于人工智能算法的软件系统,其运行高度依赖大量数据的采集与分析。在莱州项目中,系统需要处理的学生成绩、课堂表现、心理测评结果,以及教师的教案、授课视频、教学评价等,均属于《个人信息保护法》界定的个人信息,其中涉及未成年学生的不满十四周岁信息更是法律上的敏感个人信息。
根据《个人信息保护法》第二十八条,处理敏感个人信息必须取得个人的单独同意,且需具有特定的目的和充分的必要性。对于未成年学生,该法第三十一条进一步要求处理不满十四周岁未成年人个人信息,应当取得未成年人的父母或者其他监护人的同意。这意味着,莱州教育部门在部署智能体时,必须建立一套完整的告知同意机制,明确告知学生家长和教师哪些信息将被收集、用于何种目的、保存多久,并获得明确授权。
此外,教育智能体的运营方(可能是技术公司或教育主管部门)属于个人信息处理者,需履行《个人信息保护法》第五十一条规定的安全技术措施义务,包括加密存储、访问权限控制、数据脱敏等。如果项目涉及委托第三方处理数据,还需依据第二十一条签订严格的委托处理协议,明确双方的数据安全责任。实务中,不少教育科技项目在初期只关注功能实现,忽视数据合规架构,一旦发生泄露事件,不仅面临行政处罚,还可能引发家长集体诉讼。
算法决策的透明度与教育公平的法律边界
教育智能体的核心功能之一是基于数据分析进行学情诊断和学习建议,这本质上是算法决策。当算法可以预测学生学业表现、推荐学习路径,甚至辅助教师评价学生时,其决策的公平性和透明性就成为法律关注的焦点。
《个人信息保护法》第二十四条明确规定,利用个人信息进行自动化决策,应当保证决策的透明度和结果公平合理。该条还赋予个人重要的对抗权利:通过自动化决策方式作出对个人权益有重大影响的决定,个人有权要求处理者予以说明,并有权拒绝仅通过自动化决策的方式作出决定。具体到教育场景,如果智能体基于算法自动将学生划分为不同学习等级或推荐不同难度的课程,这可能构成对个人权益的重大影响,家长或学生应有权要求人工复核。
从司法实践看,虽然目前国内尚未出现针对教育算法的诉讼案例,但参考《电子商务法》对算法推荐的规制以及欧盟《通用数据保护条例》中关于自动化决策的规定,未来很可能出现家长以”算法歧视”或”算法不透明”为由提起的纠纷。例如,若算法因数据偏差而错误标签某学生为”学习困难”,导致其被降低教学期待,这可能侵犯学生的受教育权。教育主管部门在推进智能体应用时,应当建立算法影响评估机制,定期审查模型的公平性,并设立人工干预与申诉渠道,确保技术应用不突破教育公平的法律底线。
教师数据权益保护与劳动法下的新型风险
该项目覆盖6000名教师,意味着教师的教学行为将被大量记录和分析。教师的教案、授课视频、课堂互动数据等是否属于职务作品?其数据权益如何归属?这涉及著作权法和劳动法的交叉问题。
根据《著作权法》第十八条,主要是利用法人或者非法人组织的物质技术条件创作,并由法人或者非法人组织承担责任的职务作品,作者享有署名权,其他权利由法人或者非法人组织享有。教师为完成教学任务而创作的教案通常属于职务作品,但智能体系统可能对教案进行二次加工或算法优化,这可能产生新的衍生数据或作品,其权利归属需在教师与教育机构之间的协议中明确。实务中,不少学校在推行智慧教育时,并未与教师就数据权益和作品使用范围签订细致协议,导致后续纠纷。
此外,教育智能体对教师工作表现的量化评估,可能触及《劳动合同法》中关于工作条件和考核制度的底线。若系统自动生成的评价结果直接影响教师的绩效工资、职称评定或续聘,教育机构应当确保评价标准合法合理,并事先经过民主程序公示。依据《劳动合同法》第四条,用人单位在制定、修改或者决定直接涉及劳动者切身利益的规章制度或者重大事项时,应当经职工代表大会或者全体职工讨论,提出方案和意见,与工会或者职工代表平等协商确定。教师若认为智能体的评价不公,有权依据《劳动法》第八十九条主张权利,但举证难度较大,需要律师介入协助收集和固定证据。
数据安全事件的法律责任与应急预案
教育智能体汇集了海量敏感数据,一旦发生泄露或被恶意利用,后果不堪设想。2024年某地教育系统数据泄露事件曾导致数万学生信息被非法出售,相关责任人员被追究刑责。莱州项目应当引以为戒,建立完善的数据安全事件应急响应机制。
依据《数据安全法》第二十七条,开展数据处理活动应当依照法律法规的规定,建立健全全流程数据安全管理制度,组织开展数据安全教育培训,采取相应的技术措施和其他必要措施,保障数据安全。该法第四十五条还规定了未履行数据安全保护义务的法律责任,包括责令改正、警告、罚款,情节严重的可处以高额罚款甚至吊销相关业务许可证。
对于教育主管部门和技术服务商而言,明确数据安全责任边界至关重要。实践中,常见的做法是:教育部门作为数据控制者负总体责任,技术公司作为处理者按合同履行安全义务。但一旦发生泄露,监管机构往往首先追责控制者。因此,莱州教育部门在项目合同中应明确技术公司的安全保护义务、违约赔偿责任以及保险安排,同时建立内部的数据分类分级制度,对核心数据实施最高级别的访问控制。律师建议,教育机构还应定期开展数据安全审计,并购买网络安全保险以分散风险。
教育智能体的未来:法律先行,技术方能用得安心
山东莱州的教育智能体项目无疑是一次大胆且具有前瞻性的探索,它可能重塑基础教育的形态,提升教学效率。然而,技术越先进,法律风险越复杂。从个人信息保护到算法公平,从教师权益到数据安全,每一个环节都需要法律框架的支撑。
对于全国其他计划跟进的教育部门和学校,莱州项目提供了一个重要参考:在项目启动之初就应引入法律合规审查,而非事后补救。具体建议包括:一、开展数据保护影响评估,识别高风险处理活动;二、制定详细的个人信息处理规则,落实告知同意机制;三、与技术服务商签订严谨的合同,明确数据权属和安全责任;四、建立教师与学生的申诉和人工复核机制,保障算法决策的公正性;五、定期组织法律培训,提升教职员工的数据合规意识。
教育智能体的未来值得期待,但法律的边界必须清晰。作为法律从业者,我们乐见技术创新,更希望看到每一项创新都能在法治的轨道上稳健前行。广东知明律师事务所长期关注教育科技领域的数据合规与争议解决,曾为多家教育机构和科技企业提供法律咨询服务。如果您在教育智能体部署或使用过程中遇到法律疑问,欢迎与我们深入探讨。法律不是创新的阻碍,而是让创新行稳致远的护栏。