网易游戏未成年保护系统入选中国版《人工智能为儿童》项目成果

2021年06月01日22:14  来源:人民网-广东频道
 

《人工智能为儿童——面向儿童群体的人工智能应用调研报告》

  人民网广州6月1日电 (李语)6月1日,“E路护航·赋能成长”2021未成年人网络保护研讨会在浙江宁波举行,发布了《人工智能为儿童——面向儿童群体的人工智能应用调研报告》,网易游戏基于深度学习的智能识别未成年保护系统入选调研报告。

  人工智能为儿童调研和案例征集项目由中国网络社会组织联合会与联合国儿童基金会共同开展,旨在了解当前国内面向儿童群体的人工智能应用发展现状,妥善应对人工智能对儿童健康成长可能带来的挑战,为规范和引领人工智能健康发展提供“中国方案”。

  网易游戏基于深度学习的智能识别未成年保护系统将人工智能技术与未成年保护深度融合,通过综合游戏内的多维度监控和打击手段来共同防治,包括但不限于危害未成年不良信息AI识别模型、不良信息的过滤与隔离机制、未成年人社交风控模型等,完善并创新了现有的单一体系,组合应用于未成年人的社交保护。

  网易游戏搭建了一套神经网络模型,用于判断玩家特征是否属于一个未成年的玩家,基于不理智消费玩家的相关行为特征,结合正常用户的行为习惯进行横向对比,搭建了一个基于多种机器学习算法的融合模型,用于提前预测未成年玩家的不理性消费,并及时的进行干预与拦截,保障了未成年人在游戏时的适度消费并进行合理管控。

  目前该系统已经覆盖了全网易上百款不同种类的游戏产品,累计为上亿的未成年玩家健康游戏保驾护航。

(责编:李语、陈育柱)

关注我们

  •  
  •