在 “人人都是主播,万物皆可直播”的时代,为了严防低俗内容出现,国内领先游戏直播平台斗鱼不断投入技术研发,优化完善平台规则,严打低俗庸俗内容,用 AI 构建内容防火墙。

今年 3 月起,斗鱼对直播内容进行了分类巡查和整治,针对色情三俗、造谣传谣、侵权假冒、标题党等六大类恶意营销账号进行了全面深度排查,对问题账号进行了从重、从快处理。今年 6 月份,斗鱼累计清理问题账号 4099 个,其中低级庸俗类 3200 个、标题党类 861 个、造谣传谣类 20 个、侵权假冒类 18 个。截至目前,斗鱼内容整治措施已取得了实际到位的效果。

在斗鱼内容监管体系下,平台所有开播主播均需要通过 “实名验证 + 人脸识别 + 人工审核”三道防火墙,既能够从源头防止劣迹主播直播,也能杜绝未成年人进行直播,并能在主播违规后第一时间追踪到个人,预防后续恶性事件的发生。

主播开启直播间后,其所产出的直播视频内容就在 AI 系统里不停运转,每个画面都会通过程序做实施对应识别,一旦机器自动识别到低俗、恶搞、谩骂等不良内容,拦截违规的图像视频,平台可以对这些不良内容做到 “秒关”。在颜值、户外等泛娱乐版块,系统还会同步采取捕捉交传声信息进行分段切片,并通过数据模型进行分析、通过语音、语义、弹幕文字等关键点进行智能判断识别,过滤问题内容推送至人工审核。

据了解,斗鱼的 AI 审核技术已经发展的相当成熟,目前在直播领域里,斗鱼对图片、视频、音频的鉴黄准确度都非常高,已经可以对外输出该项技术能力。对比其他平台,斗鱼拥有更加庞大的、独特的用户数据和行为数据,并且能够基于海量用户数据进行分析运算。对比早期斗鱼只能应用第三方数据进行图片识别,目前平台均已实现自主建模。相对于第三方数据,斗鱼风险识别系统经过长期数据筛选、培育和自学习后,积累了大量的违规特征数据,构建了强大计算能力,使得自身的风险识别模型更加精准。

除了自动化监管外,斗鱼采取机器审核和人工审核相结合的方式,通过后台监控、人员巡查、机器识别以及举报处理等各种途径对所有直播频道进行全天 24 小时监控。为进一步防止出现 “漏网之鱼”,斗鱼还设立了电话举报、网页和 APP 一键举报等功能,更特别集结招募热心观众对全平台直播相关内容进行监督与巡查。截止目前,斗鱼巡管团队共计参与报名人数为 17 万余人,已有 2000 余名斗鱼热心观众加入。

除此之外,斗鱼还特别制定了完善的应急处置制度,涵盖 “突发公共安全事件的应急处置制度、应急响应预案、互联网突发事件应急处置预案”等各项内容,提高重大安全事件、突发敏感事件的应急处理能力,从根源将事件的影响降到最低,所造成的破坏和损失减到最小。

在斗鱼的严格审核和封禁措施下,“清朗”行动颇具成效。斗鱼表示,未来平台将持续完善内容审核机制,充实内容审核团队,严格落实 24 小时监测的要求,不断推进网络直播行业的生态趋向健康。

推荐内容

热点新闻