苍溪 切换城市

请选择您所在的城市:

    热门
    城市

    新闻频道

    发布投稿
    客服热线152-84856515

    如何设计一套完整的未成年防沉迷体系,我们和腾讯未成年保护负责人聊了聊

    2020-05-30 10:09:42

    来源:小黄鸡   作者:小黄鸡

    阅读:451

    评论:0

    [摘要] 采访完腾讯未成年人保护体系负责人,我们发现未成年人防沉迷不只是一个技术问题,其中还交织着社会与人性问题。

    图片来源@视觉中国

    图片来源@视觉中国

    5月15日,《王者荣耀》官网发布了《未成年人防沉迷新规接入公告》,未成年用户每日22时至次日8时禁玩,法定节假日每日限玩3小时,其他时间每日限玩1.5小时。

    此条消息下,有条评论是:“腾讯的游戏不给玩,那我去玩别家的游戏 。”

    合乎情理,无法反驳。

    未成年人完全可以在这家游戏厂商里玩够1.5个小时,再去其他家游戏厂商里玩1.5个小时。只要每家游戏厂商松散分布于互联网中,未成年玩家就可以一路绿灯自由穿梭。

    况且,在创造了1000多亿元收入的中国手游市场上,避开一家游戏厂商的产品,找求同类型的游戏体验和快感并不是特别难的事。

    5月18日,实时3D内容创作平台Unity宣布联手腾讯游戏共同推出防沉迷系统开发工具,该工具将由腾讯成长守护平台提供技术后台支持。

    此工具的目的是让广大中国游戏开发者能够更简单、更快速地在游戏开发阶段应用防沉迷系统。如果我们再放大点想象力的话,这也许是国内游戏行业共建未成年人防沉迷生态的开端。腾讯未成年人保护体系负责人Lanky是抱有这种期望的。

    在采访中,当钛媒体问 Lanky 有没有和网易、阿里打通未成年人防沉迷系统的可能性。他说:

    我们项目很早就讨论过这个问题,首先不排除任何可能性。我们心态非常开放,因为我们项目在公司内部的目标非常明确,就是长线的、持之以恒地去解决未成年人防沉迷的问题。

    它不是个技术问题,是个社会问题——全社会群体怎么共同面对互联网,怎么共同帮助青少年更好地面对互联网浪潮的问题。

    所以这里面有越来越多的生态小伙伴参与,我们都是非常乐意的。坦白讲,商业上的竞争关系并不会影响我们在未成年保护方面的合作,不会因为商业竞争选择谁或者不选择谁。

    2017年,腾讯成立了【成长守护平台】,到了今年5月底,腾讯旗下《王者荣耀》、《龙之谷》手游等80款游戏,已落实防沉迷新规接入工作,预计上半年内完成腾讯运营全部移动游戏产品接入工作。

    腾讯对于未成年人保护体系的进展公布已算坦诚,但另一方面,仍有许多细节藏于背后。

    5月25日,财经网针对未成年人充值游戏遭遇退款难问题的报道提到,当事家长申请退款,但被腾讯游戏方面因投诉金额与绑定游戏号码实际消费不符等原因,要求进一步核实用户基础信息。当记者进一步询问退款细则时,腾讯负责人称他们不便透露判别是否未成年人充值的判断依据。

    在采访中,Lanky也没有向钛媒体透露系统判断未成年人的具体维度,因为他们“要避免少数孩子及外部黑产链条为逃避查验,会基于现有规则而针对性改变游戏行为的可能。”

    这也说明,未成年人防沉迷这件事的复杂性不仅体现在技术层面,其中还交织着社会与人性问题。

    为了不让未成年沉迷游戏,两群人斗智斗勇

    2017年6月底,马化腾、刘炽平、任宇昕、马晓轶等腾讯总办成员以及游戏负责人连夜“拉”起一个微信群,讨论“《王者荣耀》与未成年防沉迷”的话题。

    2017年7月4日开始,12周岁以下(含12周岁)未成年人每天限玩1小时,晚上9时以后禁止登陆功能;12周岁以上未成年人每天限玩2小时。

    腾讯未成年人守护负责人Lanky当时拿到任务后,得到的回复只有六个字——按照最严施行。

    2017年,腾讯上线了【成长守护平台】和【健康系统】。其中,【成长守护平台】支持家长关联孩子账号,同步了解孩子游戏登陆和消费信息,同时提供一键禁玩、消费限额、成长资讯,提供游戏健康指导等功能。【健康系统】是通过游戏大数据以及实名验证身份信息,基于不同身份所匹配的防沉迷策略。

    2018年,腾讯公司发起【少年灯塔】主动服务工程,设立未成年人游戏专线客服专线,建立了未成年人非理性消费申诉和受理机制,为有需要的家庭提供免费教育辅导服务。

    按职责划分的话,【成长守护平台】是于事前,家长在玩游戏这件事上给予未成年人关注、引导,起得是预防的作用;【健康系统】则在未成年人游戏中,企业起到监管、限制的作用;【少年灯塔】则是企业提供的事后服务。

    未成年人防沉迷机制并不是什么新鲜事。2011年,新闻出版总署等八部门日前联合印发《关于启动网络游戏防沉迷实名验证工作的通知》,但此验证机制仅涵盖所有在线使用的网络游戏并没有意识到手机网络游戏后来的快速发展。

    而随着智能手机的普及,当一家游戏厂商打算正经做未成年人防沉迷这事后,在前方等待它的就是未成年人层出不穷的花样操作。

    之前最容易出现在大众范围内的未成年人“作弊”行为是购买、租用他人身份证,Lanky说还有一些小朋友会使用爷爷奶奶的身份证。

    现在,这些“作弊”行为需要通过初次验证和后续使用时的二次验证两道关卡。

    2018年9月15日,以《王者荣耀》为起点,腾讯游戏健康系统接入公安权威数据平台,对于所有用户进行实名校验。在初次验证这道关卡中,使用他人身份证的未成年人还是有避开健康系统监控的可能。

    所以,两个月后,《王者荣耀》再次推出人脸识别验证功能,经公安认证为成年人,游戏内特征却疑似未成年人的《王者荣耀》用户在游戏时,会被要求进行人脸识别验证,与其实名信息进行比对。

    2018年年底,腾讯称在未通过验证的用户中,有98.2%的用户属于“拒绝进行人脸识别”的情况。并且,当一个账号在《王者荣耀》中出现了疑似未成年人游戏行为时,即便之前已通过人脸识别验证,还是有可能被要求再次进行验证。

    人脸识别过程中,腾讯遇到了非常多让人哭笑不得的“作弊”手段,有小朋友将妈妈的身份证跟睡着的妈妈本人摆在一起合影,但大多都属于稍加注意即可识别的招数。

    所以,二次验证的重点在于,人脸识别前,如何精准定位到疑似未成年人的用户。

    腾讯会运用AI机器学习等技术手段,针对用户游戏内行为特征进行判定,包括用户所属年龄段、游戏时间及其他游戏内行为都一起纳入,作为身份判定的参考标准。

    “它并不是一个刚性标准。它是由一组规则,通过一系列算法,推导出的一个概率,当概率超过一定值之后,我们就会提示二次验证 。所以这是一整套的算法构成的疑似判断的条件。在整个技术的用户画像体系里面,这是一个概率问题,我们在努力提高它的覆盖率和精准度。”Lanky 解释道。

    比如实名信息为60周岁及以上、存在疑似未成年人游戏行为、且在近一周的某一天有过较长时间游戏的用户,会进一步加大验证力度——这一策略是针对未成年人,尤其是留守儿童可能存在冒用祖父母身份信息注册的情况,所做出的综合判定。

    但腾讯方面和Lanky都没有透露“疑似未成年人”的具体判定标准,因为他们要避免少数孩子及外部黑产链条为逃避查验,会基于现有规则而针对性改变游戏行为的可能。

    Lanky告诉钛媒体,有人反过来故意用一些未成年人的身份、行为去玩游戏,玩到一定程度后会称自己是未成年人要求客服返还充值数额。

    根据腾讯之前发布的数据,在人脸识别验证环节中,62%的用户被判定为未成年人。Lanky说现在识别未成年人的准确度渐渐上升到近80%。

    还有一种特殊情况——健康系统有被破解的可能吗?

    钛媒体发现,在知乎一个未成年玩家控诉游戏健康系统的问题下,有回答称健康系统破解起来非常简单,不过这位用户答了拂衣去,深藏功与名,并没有回复评论其他信息。

    但以“解绑腾讯游戏健康系统”为由实施诈骗的举报倒是真不少。2018年年底,厦门市公安局在当地抓获此类事件的作案人员张某。

    新闻显示,张某无法破解腾讯游戏健康系统,将未成年人玩家作为诈骗对象,制作虚假钓鱼网站,以破解腾讯健康系统为由,在各类论坛等渠道大肆宣传,引诱被害人上钩,随后以需要支付手续费、保证金、验证费用等理由,让未成年玩家扫描二维码付款,涉案金额3万余元。

    公司内部对Lanky团队提的要求是“希望不放过一个未成年用户”,Lanky说这是一个长期互相博弈、迭代、上升的一个过程,“客观来讲,没有一个措施是百分百有效的、滴水不漏的......但从大盘上来讲,我们是越来越有信心把它(误差率)压缩在一个非常小的比例。”

    不仅老玩游戏,孩子还充了钱该咋办?

    今年3月,南宁市一名少年在家上网课期间,瞒着家长用家长的手机偷偷购买腾讯游戏装备充值累计达4万多元,新闻显示,孩子先用妈妈的支付宝账号在淘宝网上购买Q币,再用Q币购买游戏装备或充值。

    这是疫情期间未成年人巨额充值案例的典型场景,其中有三处行为驱动因素:未成年人独自使用家长的手机、未成年人知道家长的支付密码或家长开启了免密支付、未成年人通过腾讯生态外的支付方式充值。

    在未成年人知道家长支付密码或家长开启了免密支付的情况下,让未成年人在没有监护的环境中使用手机,这种匪夷所思的情况,其实比比皆是。今年2月,武汉12岁男孩瞒着家长充值4万元打赏某直播平台女主播,新闻显示,此未成年人经常拿妈妈手机玩,并偷偷看了妈妈的微信支付密码,还录入了自己的指纹支付。

    最重要的原因在于家长的防范意识不够。他们没有意识到未成年人对于手机支付的熟练程度,也没有培养孩子的正确的消费观念。

    “(家长的)手机一天有一个小时在孩子手上,我们需要快速找到并证明这一个小时的游戏是孩子在玩,你可以设想一下这个问题,其实是挺挑战的。”Lanky团队在疫情期间没闲着,他们针对性地加入了同设备同账号的技术要素,将疑似未成年人账号库的规模大概又扩大了10%到15%。

    5月19日,最高人民法院发布的《关于依法妥善审理涉新冠肺炎疫情民事案件若干问题的指导意见(二)》第9条指出,限制民事行为能力人未经其监护人同意,参与网络付费游戏或者网络直播平台“打赏”等方式支出与其年龄、智力不相适应的款项,监护人请求网络服务提供者返还该款项的,人民法院应予支持。

    Lanky说这对于他们内部而言并不算是新闻,在过往的司法实践当中,他们大致上也是这样处理的。“家长可以直接打我们的热线电话,第一点是要证明亲子关系、账号等信息,第二点是要证明这确实是在家长监护之外孩子在操作上的问题。”

    但由于他们接到的绝大多数案例,都并没有具体实证,如操作录像等证明相关消费为未成年人操作。

    “我们亦充分理解家长在这方面的举证难度。因此在具体流程上,主要结合后台数据验证比对,并与家长和孩子就相关信息进行进一步的沟通核实,如果判断由未成年人消费的可信度较高,我们会出于关怀妥善处理。”

    腾讯游戏的客服有一套标准流程,Lanky说如果家长能够准备好户口本等证明,说清楚事件发生场景、孩子的消费行为、并提供一些消费凭证例如支付短信、订单截图,这样就能较快认定

    家庭教育才是最重要的事

    5月15日,腾讯称通过实名认证,但仍被判定存在高度疑似未成年游戏行为的成年人账号,通过微信支付在游戏内自然月超过400元后,若想再次充值,系统将要求用户进行人脸识别验证,“人脸”一致才允许进行后续支付行为。 

    技术仍需完善,难免有漏网之鱼。高速运转的时代,如果家长长时间的陪伴已成奢侈品,那么每晚花些时间查询孩子今日玩游戏的时间和充值数额也不是特别费劲的事。

    腾讯在2017年2月16日上线了【成长守护平台】,钛媒体前几天也试用了下——关注了成长守护平台公众号后,【成长守护】【小课堂】【帮助】三个模块位于页面下方。 

    其中,成年人输入姓名与身份证号即可进入【成长守护】模块,在【我的】页面的【家庭管理】功能里,家长可以通过扫码添加与发送添加链接两种方式添加家庭成员。 

    使用门槛极低,有手机有微信的家长都可以将小孩的账号添加进来,在【游戏管理】页面随时了解孩子每天的游戏时长和登陆时间。

    更重要的一点是,家长的游戏时长也会显示在此页面中,腾讯称此设计是期望家长可以与子女共享彼此游戏时长等信息,建立平等伙伴关系,通过互相了解和激励实现目标。 

    Lanky说他们当初集中做完健康系统的控制措施之后,马上就开始在家长和校园维度的一些工作,“既然我们不可避地要面对数字时代,那我们希望学校和家长能够在我们这个平台上,更好的和孩子一起去面对,更好地理解所有数字产品的特性,找寻更好的使用方法,在沟通和方法上更好地跟孩子们达成一致。”

    去年,中国青少年研究中心发布了《中小学生网络游戏的认知、态度、行为研究报告》,这份报告指出,亲子关系的紧密程度、表达类型和发展方向,与“网游”沉迷的起因和状态,有着高度相关性:民主性、开放性的家庭,往往具有更好的亲子关系。广泛的话题可以在更全面、更客观的对话基础上交流,对“网游”之利弊、长短,孩子会更早地产生理性认识,从而改变自己的行为。

    我们回过头来看,二十年前,家长将电子游戏甚至互联网视为“洪水猛兽”的原因在于,儿童每日相伴想念的虚拟世界是家长眼里的未知事物,而人类面对未知事物,恐惧、拒绝的情绪总会高于