中国青年网

新闻

首页 >> 娱乐 >> 正文

YY直播发布生态治理半年报:AI“风盾”系统拦截违规信息6189.76万条,“健康分”制度有效提升直播质量

发稿时间:2025-07-04 19:28:00 作者:安俐 吴熙 来源: 中国青年网

  中国青年网北京7月4日电(记者 安俐 实习生 吴熙)《中国互联网络发展状况统计报告》显示,截至2024年12月,我国网民规模达11.08亿人,互联网普及率达78.6%。面对庞大的互联网用户群体,如何规范网民线上行为,引导网民合规、健康用网,成为全社会共同关注的话题。尽管当下直播平台的大部分内容积极向上,但不可否认,仍存在个别不良内容混杂其中。网络直播的实时性、分散性、随机性等特点,给平台治理带来了诸多挑战。

  从维护网络秩序以及推动平台自身内容生态建设的角度来看,加强内容治理,打造风清气正的网络直播环境,显得尤为迫切和必要。对于直播平台来说,只有健康向上的直播间才是实现长久发展的根基,优质内容方能吸引并留住用户。

  6月30日,YY直播对外发布平台生态治理半年报。报告显示,2025年上半年,平台共封禁、处理违规账号9.4万个,巡查清理违规图文信息25053条,约2.2万名主播在扣除健康分、事后教育、维持良好开播加分的综合治理下,逐步改善整体开播质量。此外,平台积极开展企业公益、正能量直播等系列活动,持续向全平台输送风清气正的优质内容。

  AI+多模态审核 守住内容清朗第一关

  对于直播企业来说,克服直播实时性带来的挑战,高效、精准识别违规不良信息并处置,成为平台生态治理的重中之重。对此,YY直播在自主研发的AI大模型“风盾”系统上不断加码投入,构筑守护平台内容清朗的第一道关。“风盾”系统目前已经嵌入全平台各个节点,将平台信息分为音频、视频、图片、文字四个部分进行快速、全面合规审核。这不仅大大提高了人工审核的效率,而且大幅度减少不良信息暴露时间,从源头上切断不良信息传播发酵的根源。《YY直播生态治理半年报》显示,2025年1月-6月,“风盾”系统全平台全量拦截违规信息6189.76万条,命中率高达99.4%。

  YY直播还搭建了“AI+人工+志愿者联盟”的多模态环形安全审核机制。AI进行首次筛查,再配合人工进行二次审核,加之志愿者联盟全程巡查,实现对平台内容的24小时合规管理。据了解,2025年上半年,平台处理用户举报违规信息35508条,处理巡查违规信息25053条。

  “健康分”等制度助力提升直播质量

  2021年以来,YY直播陆续出台《YY直播主播健康分阶梯管理办法》、《YY直播公会健康分阶梯管理办法》、《YY社区用户违规管理规则》,整合直播全链条各节点,从制度上规范主播、公会、用户的言行。主播“健康分”满分80分,每10分为1个区间,共9个区间,不同区间对应不同处罚措施。处罚方式包括中断直播、限制直播功能、封禁直播间以及账号、限制永久直播等。

  为了鼓励主播、公会积极弘扬正能量,引导用户向上向善,平台还制定了“公益正能量活动加分细则”。主播可以通过参与官方正能量直播、公益活动来获得不同等级的健康分加分。据了解,2025年上半年,约2.2万名主播在扣除健康分、事后教育、维持良好开播加分的综合治理下,逐步改善整体开播质量。

  内容创新 引领青少年关注网络正能量

  当前,直播行业经过长期的探索和优化,已经逐渐从前期的“野蛮生长”走向“内容为王”,内容质量成为直播能否受到网民青睐的关键。为了更有效引导用户关注网络正能量内容,发挥科技向善的核心力量,YY直播通过丰富的企业公益活动和正能量专场直播,将源源不断的优质内容通过平台输送给用户,尤其是在引导青少年关注网络正能量内容方面,策划并落地多个长线活动。

  2025年1月-6月,YY直播以炬光联盟为引领,落地聚焦青少年及儿童成长、守护身心健康的“青苗守护计划”,以挖掘展现特色文化、特色产业为主旨的“宝地奇旅计划”两大重要活动。“青苗守护计划”通过“直播+公益”深度融合的创新模式,为孩子们搭建全方位的成长守护体系,旨在帮助每一棵“青苗”向阳生长。目前已开展“重症儿童暖心陪伴行动”、“慈者爱 慧者行 城市公益徒步活动”等多个线下活动。而“宝地奇旅计划”则落地“北京古代建筑博物馆”、“广东中医药博物馆”、“广州夜经济活力”等多个专场直播,吸引超过200万人次在线关注。

  YY直播CEO李乐表示,未来将继续加大在平台生态治理方面的投入,持续优化 “风盾”系统等技术手段,强化平台治理团队建设,同时积极探索更多形式的正能量直播活动,为用户打造更加优质、健康、安全的直播生态环境,推动直播行业的良性发展。

责任编辑:刘雅欣