“推荐算法本质上是一套高效的信息过滤系统。在实际应用中,平台推荐系统采取‘人工+机器’协同的方式进行风险治理,始终有人工运营和治理体系为算法导航。”4月15日,抖音生态运营经理陈丹丹在抖音“安全与信任中心开放日”活动上介绍。
算法能学习和预估用户行为,但其对内容语义的理解存在不足,可能导致违法违规、不良内容被推荐传播,开云电竞因此,在真实使用场景中,必须通过平台治理对算法进行约束和规范。目前,抖音已建成一套完整的内容治理体系。
陈丹丹介绍,抖音的内容治理体系是采用“人工参与+机器学习”相结合的模式,而且组建了专门的平台治理团队为算法设置“护栏”。创作者将内容上传至抖音后,首先进入机器识别环节。如果内容被识别出含有高危特征,将被直接拦截;若未命中高危特征但模型判断有问题,则会送至人工审核;若问题概率较低,则获得基础流量进入下一环节。在抖音平台治理的审核流程下,流量越高的内容经过评估的次数越多,标准也越严格。视频被举报、评论区出现集中质疑、流量激增等情况出现,均可能触发审核。一旦内容在任一环节被处置,系统会立即停止进一步推荐和分发。
针对社会普遍关心的、对用户造成较多困扰的焦点问题,抖音成立了多个专项治理团队,针对诈骗、网暴、虚假摆拍、未成年人保护、网络水军、AIGC(人工智能生成内容)技术滥用等一系列专项风险进行治理。开云电竞
以网暴风险应对为例,相关内容治理面临概念难界定、时效难保证、单个平台难以根治等问题。为此,抖音成立了专门治理网暴的团队,通过网暴风险特征构建模型,对识别出的潜在网暴受害者主动提醒风险,引导开启一键防护功能。
“在不实信息治理方面,我们近日上线了辟谣卡,遏制不实信息的传播。”陈丹丹以谣言治理为例称,目前,当用户在抖音搜索一些谣言相关的信息时,搜索结果将以“辟谣卡”页面形式呈现,明确标注相关信息为“谣言”或“存疑”,还会为用户提供权威媒体辟谣、当事人发声等信息。据了解,为打造良性的辟谣生态,抖音还会对发布不实信息的用户和易受不实信息影响的用户,定向精准推荐辟谣视频。
目前,在处于试运营阶段的抖音安全与信任中心网站上,除了阐释算法、治理等,还公布了平台倡导的社区价值,以及对优质内容的定义。据了解,未来,抖音将以安全与信任中心为依托,持续增加算法和治理透明度,回应社会关切的议题,主动公示违规案例治理情况,接受公众监督。
人民网北京4月16日电 (记者孙红丽)据商务部网站消息,4月16日,商务部新闻发言人就美对华关税税率情况答记者问。 有记者问:美东时间4月15日,白宫网站发布关于关键矿产和衍生品232调查的有关事实清单,提到因为中国针对美“对等关税”采取报复措施,现在中国出口到美国的商品面临最高达245%的关税,请问这是否意味着美国再次提高对华关税?商务部对此有何评论? 答:中方注意到,中国出口美国的个别商品累计各种名目的关税已达到245%。…
人民网北京4月16日电 (记者孙博洋)近日,2025中国种子大会暨南繁硅谷论坛在海南三亚召开。会上,市场监管总局推动质量基础设施集成服务工作、赋能南繁种业高质量发展有关做法在会上得到与会院士、专家的关注和肯定。…
人民日报社概况关于人民网报社招聘招聘英才广告服务合作加盟版权服务数据服务网站声明网站律师信息保护联系我们
人 民 网 股 份 有 限 公 司 版 权 所 有 ,未 经 书 面 授 权 禁 止 使 用
标题:人工“护航”算法 保障内容平台生态安全
链接:https://www.ksrongchuan.com/kaiyundianjingdongtai/youxigonglue/1963.html
免责声明:本站资料均来源互联网收集整理,作品版权归作者所有,如果侵犯了您的版权,请发邮件给我们