今日头条平台治理开放日 :多项治理举措并行,迎接AI发展挑战

图灵汇官网

2月24日,今日头条在北京举办了“平台治理开放日”活动。活动期间,相关业务负责人与学界专家就网络虚假谣言、同质化发文、AI低质内容等领域的治理进行了深入探讨,分享了今日头条在正面传播、平台安全、内容生态等方面的工作举措、成果及未来规划。

营造优质、清朗、绿色、安全的平台

今日头条内容策划负责人刘姗姗表示:“作为内容资讯平台,今日头条有责任和义务让用户看到真实、有用的信息。”她强调,一方面要消除虚假信息,另一方面要主动传播真实信息,这也是团队的核心工作之一。

自2023年起,今日头条以“传播真实信息”为核心理念,推出了《头条讲真的》项目,联合医学、财经、法律等领域的专业创作者进行辟谣和反诈宣传。项目还与多个知名IP、机构和优质创作者合作,实现了科普内容的跨圈传播,为平台治理工作提供了新思路。截至2024年,《头条讲真的》发布的科普和辟谣视频,全网话题讨论量超过36亿次,成为今日头条健康和优质内容生态的重要组成部分。

安全治理:提升用户体验

今日头条安全运营负责人闫梦茹分享了2024年平台在安全治理方面的成果。作为一家以民生热点和新闻资讯起家的内容平台,今日头条深知网络不良信息对用户体验和平台环境的影响。因此,平台建立了“风险发现→风险识别→风险处置”的全流程治理体系,秉持“早识别、多拦截、多提示、快速干预”的原则,加大对同质化发文、网络诈骗、网络水军等乱象的治理力度。

除了内部治理,今日头条还与多家航空公司合作,开辟反诈主题航班进行反诈知识宣传,并推出官方反诈、辟谣小课堂,加强用户教育。闫梦茹表示,2025年将继续把虚假谣言和同质化治理、黑灰产管控及作者教育等方面作为工作重点,持续深化安全治理,为用户营造健康、绿色的网络环境。

提升内容质量:扶持优质内容

今日头条生态治理运营负责人韩雨桐提到,近年来越来越多用户在头条上参与创作,提升了平台内容的丰富度。然而,海量内容中的虚假谣言、低质AI内容等,破坏了平台生态,不利于创作公平。为此,今日头条建立了谣言库、权威信源库以及专业审核团队,并在发文下方增加权威媒体报道来源标签,以保障资讯的真实性。针对AI技术和低质内容问题,平台鼓励用户使用AI提高效率的同时,保护原创空间,迅速升级AI模型的识别能力,严格审核AI内容。

此外,今日头条还加大对优质内容的扶持力度,如“头条深一度”栏目精选不同领域的深度内容,通过多种推荐机制传达给用户。韩雨桐表示,希望与媒体、学界等加强合作,共同建设更好的互联网生态。

善用AI技术,完善法律体系,积极应对网络谣言治理

在场的专家学者和媒体从AI技术发展、平台难点、法治助力等角度,探讨了当前复杂的互联网环境下,资讯平台如何迎接新挑战,维护用户体验与内容安全。

清华大学新闻与传播学院副教授陆洪磊指出,生成式AI正在重塑谣言的传播生态,使得传统辟谣手段难以应对。陆洪磊表示,今日头条近年来构建起涵盖内容治理制度、内容审核、辟谣教育、内外联动的四位一体防御工事,取得了显著成效。此外,他还呼吁各方力量联合起来,共同应对网络乱象治理。

北京师范大学法学院院长、教授梁迎修发表了题为《网络谣言治理:法治引领与多元共治》的演讲,分析了网络谣言的类型、变体及发展趋势,并提出利用AI技术在谣言内容识别、路径追踪和自动化辟谣等方面的积极作用。梁教授强调,网络平台应积极承担社会责任,重视内容整治,同时政府机构、媒体、公众等应加强协同,共同应对网络谣言治理。

彰显平台责任担当,协力建设清朗生态

据介绍,这是今日头条成立以来首次举办的平台治理开放日。此前,今日头条发布了《2024年度治理报告》,对外公布了过去一年来针对网络虚假谣言、同质化发文、网络诈骗、无底线博流量、网络水军等重点专项的治理成果。报告显示,平台全年累计拦截不实信息超500万条,低质AI内容超93万条,处罚同质化发文超781万篇,拦截和处置涉嫌诈骗内容超200万条。未来,今日头条将继续聚焦平台安全与生态治理,为社会和用户营造清朗、健康的互联网环境。

本文来源: 图灵汇 文章作者: 吴盛