不知道孩子|在未成年人保护中,那些技术解决不了的事才是最重要的( 二 )


深水区钛媒体App之前对腾讯游戏未成年人保护体系进行过报道:「成长守护平台」是于事前,家长在玩游戏这件事上给予未成年人关注、引导,起得是预防的作用;「健康系统」则在未成年人游戏中,企业起到监管、限制的作用;「少年灯塔」是企业提供的事后服务,比如张晓京现在正在进行的退款业务。
其中,「成长守护平台」和「健康系统」是守在成人游戏世界的两道关卡——家长主动把孩子账号绑定到成长守护平台,基本不会出现孩子过度游戏时长和大额充值的事。
但更多的家长或更相信自己孩子的自控能力,或压根不知道这个平台的存在。
因此,「健康系统」的主要任务一直是尽可能精准地找出未成年用户,全面实名制、接入公安权威数据平台、上线人脸识别功能、建立一套识别疑似未成年人用户的算法都是为了解决这个问题。
如果未成年人一路过五关斩六将避开「健康系统」进行了大额充值,「少年灯塔」接到退款申请后就会开始核实账号信息进行退款。
腾讯内部将以上架构和功能的建设称为腾讯未成年人保护体系的1.0和2.0阶段。
今年,他们称腾讯未成年人保护体系进入到3.0阶段:在对已实名未成年人“限玩、限充、宵禁”基础上,专门针对“孩子冒用家长身份信息绕过监管”的问题,扩大人脸识别技术应用范围,对疑似未成年人的用户进行甄别。
也就是说,他们现在重点要研究并解决那些绕过健康系统的案例,“有些孩子冒用家长的身份信息或者是他人的身份信息绕过了我们游戏里面的限制,这部分的孩子,我们要把他管起来。”腾讯团队认为,尝试解决这个问题的他们现在是来到了深水区。
疫情也催熟了这些问题——当孩子声称用手机上网课,和家长共用设备时,如何精准识别这段时间是孩子在使用账号;事后,如何分辨背后使用的人;如何让不太懂智能手机的家长学会管理设备,学会了解孩子。
这些问题里,能用技术完全解决的并不多。
技术能解决什么?找出解决方法之前,我们需要先还原未成年人成功充值或超时长玩游戏的情景。
根据媒体报道的几例疫情期间未成年人充值事件来看,发生条件之一是孩子使用着家长的设备,设备中有支付宝、微信等支付方式。
其中肯定有系统未检测出疑点的情况,而在大部分情况中,家长的游戏账号可能已被记录为成年人,或者,当算法检测出未成年人行为时,孩子让父母或非父母的成年人通过了人脸识别。
那些孩子给家长说的理由也有理有据,让人不忍拒绝,比如学校要交材料需要家长照照片。
有一份退款申请就显示,未成年人使用的账号在7月、9月3次触发了人脸识别并成功通过,系统确认为成年人操作,且与实名认证信息相符。实际情况是,未成年人的母亲在不知情的情况下,被孩子要求帮忙进行了人脸实名,事件里的未成年人只有9岁。
另一个必要条件是孩子通过偷看/根据生日等信息猜测尝试/父母告知等方式知道了家长的支付密码。
游戏公司的技术在其中可以做的是:再一次加强检测和验证力度,并尽量减少父母不知情的情况。
今年10月21日起,腾讯在人脸识别验证流程中上线了语音播报和画面提示的功能:若用户在游戏充值环节触发人脸识别验证,系统将自动进行语音播报及画面提示,让家长清楚这次人脸识别是在帮孩子往游戏里充钱。
此功能上线后,下方评论提出了更多建议,如提示音量必须是系统设定好的,不能通过人工关闭或调低,且要求家长大声读出“我要充值 ”句子。
腾讯团队称,未保3.0应用到的人脸识别技术,原理是将用户面部信息与公安权威数据平台数据源一比一比对,也曾考虑让家长读出句子再充值。但这也带来一个问题,就是过于简单固定的语句,容易被地下黑产破解,另外也有一定概率会损害成年人的游戏充值体验。
也有很多用户提出无差别人脸识别的建议,即每一位玩家在每一次登录、支付环节都进行人脸识别。但他们完全忽视了背后巨大的技术和经济成本,以及目前用户最注重的隐私问题,这个建议的可行性并不高 。
而在发现技术无法完美解决一些问题后,深水区里的另一块暗礁也越来越明显——那些用技术怎么也解决不了的问题,比如面对学习能力极强、每日畅游在互联网的孩子们,家长该如何管理教育 。
在「腾讯未成年人家长服务平台」小程序中,家长将会收到一份关怀问卷。问卷填写过程能帮助家长还原支付失控过程,给予不同场景下的教育技巧,获取管理孩子账号、与孩子平等沟通等问题的解决方案。每一种方案中也都针对不同场景提供了详细的步骤。这些文字精准严肃,但又有点苍白无力。