学而思因低俗内容被约谈，频频涉黄的在线教育，该如何避免“灯下黑”？原创小盟网络安全联盟受疫情

【学而思因低俗内容被约谈，频频涉黄的在线教育，该如何避免“灯下黑”？】原创小盟网络安全联盟
受疫情影响，今年春天开始，各地纷纷推出网课平台，实行在线教学，教育由线下转为线上，在线教育迎来新一轮发展机遇。
根据中国互联网信息报告中心统计报告显示，截止2020年6月，中国在线教育用户规模达到3.81亿。在教育部“停课不停学”的要求下，全国约有2.8亿学生需要通过网络平台上课。
疫情前，在线教育在主要地区的普及率不及20% ，但在疫情期间，这个普及率几乎达100% ，仅教育部就组织了22个在线教育平台开放了2.4万余门课程。
文章插图
蓬勃发展的在线教育平台为学生提供了丰富的课程、题库等教学资源，很大程度上改善了学生的学习状态；但另一方面，急剧增加的用户量和使用量，使得在线教育平台获得更高的曝光量，同时也暴露出许多内容安全风险，引发大众对在线教育的担忧。
1
在线教育平台内容安全问题凸显
上个月， “学而思网校”APP因存在低俗视频、教唆早恋等突出问题，被北京网信办和属地教育主管部门约谈并责令限期整改，而这已经是“学而思网课”第二次因为内容安全问题被处理了。
文章插图
今年7月，网信办启动了为期2个月的“清朗”未成年人暑假网络环境专项整治，在整治过程中，重点查处了网课学习频道、学习教育类APP等平台共40家，其中就包含“学而思网课”、百度APP“轻松学”频道等。
大平台都难逃内容安全问题，更何况目前许多在线教育平台正处于初创期。平台有内容监管意识，但难以准确把握具体治理内容，监管重点较为模糊，这使得一些不适合传播的内容成为漏网之鱼，出现在平台中。
一是涉及低俗、暴力、色情等内容的文字、图片和视频。
二是利用网课推销网游、交友、直播、影视剧等与学习无关信息。
三是传播唯心主义、封建迷信、好逸恶劳、巧取豪夺、唯我独尊、个人主义等错误思想。
四是推荐不当典型，如吸烟、炫富等行为，容易误导学生的行为和思想。
在线教育平台的主要用户是青少年群体，并承担着教育这一特殊使命，如果存在大量低俗或与主流价值观不符的内容，势必会影响青少年身心的健康成长。因此，国家非常重视在线教育平台的监管，对平台的处罚也相对严格，稍不注意就会有下架风险。
为了保证平台的顺利运行与发展，在线教育平台需要将内容安全置于较高位置，并将内容安全治理作为平台发展的刚性需求。
2
在线教育平台内容安全3大风险点
在线教育平台想要针对性整治平台中的内容安全问题，首先要了解，平台中哪些方面最容易出现内容安全风险？相比于其他互联网平台，在线教育面临的内容安全威胁又有何不同？
!
用户自制内容
在线教育平台上的内容很大一部分来源于用户自制，这个部分最容易出现违规内容，同时也是最难管控的部分。
在用户个人信息部分，包括用户的头像、ID、个人简介等，这些内容最容易被用来传播色情信息和进行违规的广告引流。
其次，在线教育平台会涉及到用户上传内容，比如为了学习进行的打卡记录，而照片中的内容可能并不适合年龄较小的青少年观看。特别是刀具、烟酒、违禁药物等内容，对青少年来说是较为敏感的。
文章插图
同样社交板块、用户私聊之间也可能存在问题。在社交板块中直接发布低俗、色情信息已经屡见不鲜，为了躲避审核，现在用户更容易采用变异字体、在图片中加上特殊水印等较为隐秘的方式传播不良内容。
所以在线教育内容的审核，较之于其他平台内容的审核，要更细化、更严格。例如在社交平台能够出现的“混蛋”“我不和你玩了”之类的词句，会因为涉及到语言粗暴和价值观错误引导而不能出现在在线教育平台。
对于用户自制内容，平台除了做好上传内容审核以外，更重要的是做好内容区分，明确各个年龄阶段的内容接受程度，对不同年龄阶段采取不同的内容管控方式。
在线教育平台在一定程度上承担了内容输出的功能，在审核时最容易忽视自身生产的内容，特别是一些平台的文学、历史、政治等自制课程中很可能会出现内容安全风险。