精准整治网络乱象，Soul张璐团队以AI技术守护千万社交场景

发布时间：2026-06-03 11:00:45  来源：  发布人： 阅读量：

当前,人工智能已成为互联网平台优化生态治理、防控网络风险的核心技术支撑。伴随社交场景持续丰富,各类隐蔽化、复杂化的网络违规问题频发,对平台治理能力提出更高标准。结合中央网信办“清朗·2026年营造喜庆祥和春节网络环境”专项行动部署,Soul张璐团队聚焦平台社交生态痛点,依托AI技术创新治理模式,通过《2026年第一季度生态安全报告》,全面公示专项治理举措与实效,全力筑牢安全清朗的网络社交环境。

AI反诈能力升级

一季度正值春节社交高峰,Soul持续迭代AI识别模型,重点强化对隐蔽话术、变体表达、视觉干扰类违规内容的甄别能力,攻克传统反诈识别的技术短板。

平台升级多模态语义理解技术,实现风险内容前置识别、精准拦截,并配套优化场景化风险提示机制,提升用户反诈防范意识。同时搭建起“技术识别+用户提醒+警企协同”的全链路反诈体系。在虚假人设治理上,构建设备账号关联分析、人像识别、语义研判等多维度筛查体系,一季度日均处置假人设相关内容7万余条,同步管控违规账号,遏制虚假信息传播。此外,团队深化警企联动,一季度报送有效反诈及黑灰产打击线索50余次,大幅提升协同治理效能。

社交治理持续强化

围绕“清朗”专项行动要求,平台持续优化AI模型与人工审核协同机制,聚焦低俗擦边、恶意辱骂、有偿交友、违规引流等突出问题开展专项整治,全方位净化社区内容生态。

一季度治理数据显示,平台机审直接拦截违规内容477万条,累计处理违规账号16.2万个 ,拉黑违规设备3870台,从账号、设备、内容多维度阻断违规行为。同时,平台常态化开展用户文明引导,日均为近2500名用户推送文明发言提醒。针对低质内容乱象,持续强化限流与处置力度,日均处理低质帖子超12万条、低质评论18万条以上,有效肃清社区不良内容,夯实文明社交基础。

双场景治理升级

针对群聊、私聊等高频社交场景,Soul持续完善治理策略与产品机制,优化产品防护机制,兼顾社交安全性与用户互动体验,实现细分场景治理提质增效。

群聊治理层面,通过智能风控系统实时拦截违规信息,日均中断语音违规消息3万余条,拦截违规文字消息4万余条,完成群聊自动化中断5.8千余次。私聊防护层面,上线骚扰消息自见、消息盒子分类管理、风险提示弹窗等机制,搭建全方位用户自主防护体系。数据显示,平台日均保护用户免受骚扰6.4万余人次,日均触发保护弹窗7万余次,重度违规用户日均被限制私聊功能5.8万余次,有效压降私聊骚扰问题。

强化网暴治理体系

为整治网络戾气、化解社交情绪对立,平台升级AI情感识别模型,迭代动态违规词库,实现攻击性、情绪化不良言论的实时监测与精准识别,搭配人工复核快速响应机制,大幅提升网暴内容处置效率。

同时,平台坚持治理与宣教并行,通过公示典型违规案例、推送防网暴指南、发起文明发言倡议等方式,引导用户规范社交行为。一季度,平台日均保护用户免受网暴与骚扰侵害4223次,处理私聊不文明用户2216人,触发文明发言提醒19.6万次。此外,持续推进社区文明建设,发布38篇生态安全科普、违规公示、谣言辟除相关内容,累计触达用户22.81万人次,助力构建共建共治共享的社区治理格局。

结语

网络生态长效治理是社交平台可持续发展的核心根基,也是平台履行社会责任的关键体现。Soul张璐团队持续深耕AI治理技术研发,不断迭代优化风险防控模型与用户保护机制,深化多方协同治理模式,持续提升平台精细化、智能化治理水平,打造真实友善的线上社交空间。