第1003章 紧急叫停，制定“AI教育伦理规范”（1 / 2）
江东省政府三楼会议室，上午九点整。
长条会议桌两侧坐满了人。
左侧是省政府分管教育的李副省长、教育厅厅长、科技厅厅长，以及江东理工大学新任代理校长，原校长杨振华昨天已被停职。
右侧，智科科技总裁沈梦瑶带着两名副总裁、三名技术人员，个个西装革履，面前摆着精致的笔记本电脑。
沈梦瑶今年四十三岁，短发，妆容精致，一身香槟色套装。
她坐姿笔直，嘴角挂着职业微笑。
会议主持人正要宣布开始，门突然开了。
林杰走进来，身后跟着许长明和林念苏。
他没穿正装，就一件普通的白衬衫，袖子挽到小臂。
会议室里所有人都愣住了。
“林书记？”李副省长赶紧站起来，“您怎么......”
“路过，来听听。”林杰在中间坐下，“你们继续，当我不存在。”
这话没人敢信。
沈梦瑶的笑容凝固了一瞬，很快恢复后说：“林书记好。我是智科科技沈梦瑶，早就想拜访您了。”
“沈总客气。”林杰看她一眼，“听说你们公司做的AI教育系统，很受欢迎？”
“感谢学校认可。”沈梦瑶打开PPT，“我们智科科技的智慧校园系统，目前已经在全国八十七所高校落地，服务超过一百七十万师生。我们的目标是用科技赋能教育，让每个孩子都能享受优质资源。”
PPT上闪过精美的图表、数据、案例照片。
林杰没看屏幕，盯着沈梦瑶：“沈总，我有个问题。”
“您请讲。”
“你们的系统，收集学生哪些数据？”
沈梦瑶早有准备：“主要是教学相关的数据，课堂参与度、作业完成情况、知识点掌握程度。这些数据用于优化教学方案，实现个性化辅导。”
“只有这些？”
“当然还有一些基础信息，比如姓名、学号、院系，用于身份识别。”
林杰点点头，转向林念苏：“林教授，你给大家看看你们团队的分析报告。”
林念苏打开电脑，连接投影，画面中出现一堆代码和数据流图。
“沈总，”林念苏平静的说，“这是我们从江东理工系统后台提取的数据传输日志。过去六个月，系统收集的数据包括但不限于：教室摄像头拍摄的学生面部表情、肢体动作；宿舍楼公共区域摄像头拍摄的学生出入记录；图书馆闸机记录；校园卡每一笔消费的时间、地点、金额；部分学生手机APP的健康数据；甚至，通过校园WiFi网络，系统还收集了学生的网页浏览记录、社交软件活跃时间。”
会议室里一片死寂。
沈梦瑶脸色变了：“这不可能......我们的系统有严格的隐私保护......”
“保护在哪？”林念苏调出另一张图，“这是系统隐私协议的第三十七条，用小字写着：‘为提供更好的服务，系统可能收集用户的部分行为数据’。什么叫可能？什么叫部分？学生们签协议时，知道你们要收集这么多吗？”
“这是行业惯例......”沈梦瑶的一名副总裁试图解释。
“惯例不代表合法。”林念苏打断他，“更重要的是，我们发现这些数据不仅存储在本地服务器，还通过加密通道，实时传输到境外。”
他调出IP追踪图：“开曼群岛的数据中心。沈总，能解释一下，为什么中国学生的数据要传到境外吗？”
沈梦瑶站起来：“林教授，你这是污蔑！我们有完善的数据安全措施......”
“措施就是传到国外？”林杰开口了，声音不大，但整个会议室都能听见，“沈总，我再问你一个问题，你们申请的基于校园行为数据的信用评估模型专利，是怎么回事？”
这父子俩一唱一和，沈梦瑶彻底僵住了。
林杰翻开手里的一份文件继续说，“专利摘要里写着，通过分析学生的出勤率、图书馆使用时长、消费规律、社交活跃度等数据，评估学生的信用状况。专利说明里还提到，评估结果可以用于就业推荐、金融服务。”
他抬头看着沈梦瑶问道：“你们收集学生数据，不光是为了优化教学吧？是想给每个学生打信用分？然后卖给出钱的企业？银行？还是其他机构？”
“林书记，这是误会......”沈梦瑶声音发干。
“误会？”林杰把文件扔在桌上，“那我再问你，华北科技大学用你们的AI监考系统，凭微表情就判定学生作弊，三十七个学生被冤枉。这也是误会？”
会议室里“嗡”的一声。
李副省长脸色发白：“林书记，华北科技的事......”
“已经处理了。”林杰看向沈梦瑶，“刘司长昨晚带队去华北科技，复核了所有案件。三十七个学生里，三十五个根本没有作弊，是你们的系统误判。另外两个，确实有作弊行为，但你们的系统也没抓到实质证据，没拍到小抄，没拍到手机，就凭眼球移动异常、面部肌肉紧张就定罪。”
他站起来，走到窗前，背对着会议室：“沈总，你做企业，想赚钱，我理解。但你不能把手伸到校园里，不能拿学生的前途开玩笑，不能把中国年轻人的隐私数据卖到境外！”
沈梦瑶咬着嘴唇：“林书记，我们所有的合作都是合法的，都有合同......”
“合同合法，内容违法。”林杰转过身，“从现在起，教育部正式通知，全国所有学校，立即暂停使用智科科技及其关联公司的所有AI教育产品。已经安装的系统，立即切断数据连接。正在洽谈的合作，一律终止。”
“您不能这样！”沈梦瑶也站起来，“我们和八十七所高校有合同，涉及几十亿的投资......”
“投资可以退，合同可以协商解约。”林杰盯着她，“但学生的隐私、学生的前途，退不了。”
他看向李副省长：“李省长，江东省立即成立联合工作组，处理智科科技在省内高校的所有合作项目。该退费的退费，该赔偿的赔偿。有问题吗？”
李副省长擦擦汗：“没......没问题。”
“那就这样。”林杰往外走，“沈总，你好自为之。”
“林书记！”沈梦瑶追出来，“您这是要逼死我们企业！”
林杰停下脚步，回头看她：“沈总，你父亲沈国华当年也说过类似的话，你们这是要逼死我。结果呢？他违法乱纪，就该受到惩罚。你现在做的事，比你父亲更危险，他在国内搞腐败，你在把中国学生的数据往国外送。”
沈梦瑶脸色煞白。
“许主任，”林杰对许长明说，“通知公安部、国安部、市场监管总局，按程序对智科科技立案调查。该查封查封，该抓人抓人。”
走出省政府大楼，上午的阳光刺眼。
林念苏跟在父亲身边，轻声说：“爸，您刚才的话很重。”
“不重不行。”林杰上车，“这种企业，这种模式，必须一次性打掉。否则会有更多企业学样，更多学校上当。”
车驶向机场。路上，林杰给院领导打电话汇报情况。
“领导，情况就是这样。智科科技的问题很严重，涉及数据出境、侵犯隐私、技术滥用。我建议全国范围内彻查所有AI教育企业，建立准入和监管机制。”
电话那头沉默了一会儿：“林杰同志，你的处理我同意。但要注意方式，智科科技倒掉，会有几亿的合同纠纷，几百人失业，还有那些已经装了系统的学校，后续怎么办？”
“我们会制定过渡方案。”林杰说，“但原则不能退，学生的数据安全、隐私权利，必须放在第一位。”
“好，那你就牵头，尽快拿出一个全国性的规范。”领导说，“AI是趋势，不能因噎废食。但要立规矩，画红线。”
挂了电话，林杰对许长明说：“回北京后，立即组建起草小组。教育部、科技部、工信部、公安部、网信办、市场监管总局，都派人参加。一个月内，拿出《教育领域人工智能应用伦理指南》初稿。”
“一个月会不会太紧？”
“紧也要做。”林杰说，“现在每拖一天，就多一天风险。”
回到北京，已是下午三点。
林杰直接去了教育部会议室。
起草小组的第一次会议，二十多个人已经等着了。
“各位，时间紧，任务重。”林杰开门见山，“咱们今天就把大纲定下来。”
科技部的一位司长先发言：“林书记，我觉得首先要明确AI在教育中的定位，是辅助工具，不是替代品。这个基调得定准。”
“我同意。”工信部的代表说，“还要划定技术红线，哪些数据能收，哪些不能收；数据存在哪，怎么用，谁有权用。”
公安部的同志补充：“必须建立数据出境审批制度。涉及学生隐私的数据，原则上不得出境。确需出境的，要经过严格的安全评估。”
网信办的代表说：“还要有问责机制。企业违规怎么罚，学校监管不力怎么处理，要写清楚。”
讨论了两个小时，大纲基本成型。
《教育领域人工智能应用伦理指南（暂定名）》，分六章：
第一章：总则。明确AI在教育中的辅助定位，坚持教育以人为本。
第二章：数据伦理。划定数据收集范围，明确知情同意原则，建立数据分类分级保护制度。
第三章：算法伦理。要求算法透明、可解释，禁止基于算法的歧视性评价。
第四章：应用边界。列出负面清单，AI不得用于哪些场景如监考定罪、心理评估、信用评分等。
第五章：安全要求。规定数据存储、传输、处理的安全标准，建立出境审批制度。
第六章：监管问责。明确企业、学校、监管部门各方责任，设立违规举报和处罚机制。
“框架有了，但具体条款还得细化。”林杰看看表，“这样，分六个小组，每组负责一章。一周后交初稿，我们再合。”
散会后，林杰刚回到办公室，华北科技大学的刘司长打来电话。
“林书记，华北科技这边处理完了。”刘司长声音疲惫但轻松，“三十七个学生全部复核完毕，三十五个平反，取消处分。学校公开道歉，赔偿精神损失。那两个真作弊的，也按正规程序重新处理。”
“学校领导呢？”
“校长记大过，分管副校长免职。”刘司长说，“那个AI监考系统已经拆了。我们还发现，引进系统时，学校收受了智科科技五十万‘赞助费’，已经移交纪委。”
“好。”林杰顿了顿，“学生们情绪怎么样？”