今日头条平台治理开放日：多项治理举措并行，迎接AI发展挑战

11个月前来源：观看：114

2月24日,今日头条“平台治理开放日”活动在北京举办。相关业务负责人与学界专家围绕网络虚假谣言、同质化发文、AI低质内容等领域的治理进行了深入探讨,分享了今日头条在正面传播、平台安全、内容生态等三方面治理工作上的举措、成果及规划。

营造优质、清朗、绿色、安全的平台

“作为内容资讯平台,今日头条有责任、有义务让我们的用户看到真实、有用的信息”,在开放日上,今日头条内容策划负责人刘姗姗表示,“一方面要消灭假的信息,另一方面更要主动传播真的信息,这也是我们团队最重要的工作之一。”

自2023年以来,平台立足“传播真实信息”理念,以“硬核科普”为主要传播方向,推出《头条讲真的》项目。联合医学、财经、法律等领域专业创作者,为用户进行辟谣、反诈宣传。并与熊出没、南京红山动物园、我是小魔等知名IP、机构和优质创作者多元合作,实现科普内容的跨圈传播,为平台治理工作拓展了新的思路。截至2024年,《头条讲真的》发布科普、辟谣等主题视频,全网话题讨论量超36亿,成为今日头条健康和优质内容生态的重要一环。

今日头条内容策划负责人刘姗姗

安全问题是各大互联网资讯平台的治理重点与核心,今日头条安全运营负责人闫梦茹分享了2024年平台在安全治理领域取得的成果:作为民生热点、新闻资讯起家的内容平台,今日头条深知网络不良信息将极大影响用户体验,扰乱平台环境。近年来,今日头条建立完善的“风险发现→风险识别→风险处置”全流程治理体系,秉持“早识别、多拦截、多提示、快速干预”的原则,针对同质化发文、网络诈骗、网络水军等乱象加大治理力度。

今日头条安全运营负责人闫梦茹

除此之外,今日头条联合多家航空公司,开辟反诈主题航班进行反诈知识宣传,推出官方反诈、辟谣小课堂等加强用户教育。闫梦茹表示,2025年,将继续把虚假谣言和同质化治理、黑灰产管控及作者教育等方面作为工作重点,持续加码,不断深化安全治理工作,为用户营造健康、绿色的网络环境。

今日头条生态治理运营负责人韩雨桐提到,近年来越来越多用户在头条上参与创作、记录生活,大大提升了平台内容的丰富度,然而,海量内容里的虚假谣言、低质AI内容等,破坏了平台生态,也不利于创作公平。

对于虚假谣言,今日头条早早建立起三大核心治理能力,包括:谣言库、权威信源库以及专业审核团队。并于2024年在发文下方增加权威媒体报道来源标签,在保障资讯真实性的基础上,为用户提供了更多客观视角。针对近年来快速发展的AI技术和涌现的低质内容问题,平台在鼓励用户使用AI提效的基础上,保护原创空间,迅速升级、迭代AI模型的识别能力,收严AI内容的审核力度。

此外,今日头条同步加强对优质内容的扶持力度,“头条深一度”等栏目精选不同领域深度内容,通过更多的推荐机制传达至用户。最后韩雨桐表示,希望能够与媒体、学界等加强合作,一起共建更好的互联网生态。

今日头条生态治理运营负责人韩雨桐

善用AI技术,完善法律体系,积极应对网络谣言治理

在场的专家学者和媒体也从AI技术发展、平台难点、法治助力等角度,探讨了当前复杂的互联网环境下,资讯平台将如何迎接新挑战,维护用户体验与内容安全。

清华大学新闻与传播学院副教授陆洪磊指出,生成式AI正在重塑谣言的传播生态,技术的加持让AI谣言无论在空间、速度还是结构、方向、效果上,都更具“说服性”、虚假性和强传播性,使得传统辟谣手段难以招架。陆洪磊表示,今日头条近年来构建起涵盖内容治理制度、内容审核、辟谣教育、内外联动的四位一体防御工事,取得了较为显著的效果,对于AI谣言治理提供了一条具有可行性的发展之路。此外,道阻且长,也需要多方力量联合:比如执法机构需要做好法治保障的护盘手,建立“技术取证-电子证据-司法鉴定”的全链条执法标准;而每位用户也都应当成为理性的受者和传者,对可疑内容主动进行核实。最后,陆洪磊呼吁有更多像今日头条这样的平台携手,共同应对网络乱象治理。

清华大学新闻与传播学院副教授陆洪磊

北京师范大学法学院院长、教授梁迎修发表题为《网络谣言治理:法治引领与多元共治》的演讲,系统分析了网络谣言的类型、变体及发展趋势,从概念层面厘清了治理的理论基础,并基于我国法律法规梳理了网络谣言治理的法律依据。梁教授提出,随着AI技术的发展,AI虚假谣言层出不穷,增加了甄别和治理难度,加快了谣言的传播速度。但同时我们可以利用AI技术作为新工具,在谣言内容识别、路径追踪和自动化辟谣等方面“用魔法打败魔法”。梁教授还指出,网络平台要积极承担社会责任,重视内容整治,同时政府机构、媒体、公众等更应加强协同,网络谣言治理需要多方综合施策。

北京师范大学法学院院长、教授梁迎修

彰显平台责任担当,协力共建清朗生态

据介绍,这是今日头条自成立以来首次举办平台治理开放日。此前,今日头条发布《2024年度治理报告》,对外公布了过去一年来平台针对网络虚假谣言、同质化发文、网络诈骗、无底线博流量、网络水军等重点专项的治理成果。《报告》显示:平台全年累计拦截不实信息超500万条,低质AI内容超93万条,处罚同质化发文超781万篇,拦截和处置涉嫌诈骗内容超200万条。未来,今日头条将继续聚焦平台安全与生态治理,为社会和用户营造清朗、健康的互联网环境。（中国经济网）

点击展开全文

本文链接：http://www.gihot.com/news-1-41341-0.html今日头条平台治理开放日：多项治理举措并行，迎接AI发展挑战

声明：本网页内容旨在传播知识，不代表本站观点，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。

上一篇：智邦国际一体化ERP助力电子行业效能变革，用“数智一体化”实现逆袭!

下一篇：民族品牌向未来，东极定位王博受邀出席土巴兔生态大会