Soul App创始人团队公布Q 1生态安全成果：AI赋能清朗社交环境建设

近日，Soul App 创始人团队发布了《2026年第一季度生态安全报告》（以下简称“报告”），集中披露平台在反诈防控、网络环境净化、网络暴力治理以及社交行为引导等方面的具体举措和阶段性进展。围绕用户真实、安全、友善的社交需求，Soul持续强化AI技术在内容治理中的应用，并通过平台机制优化、用户提醒及多方协同等方式，进一步提升社区生态治理能力。

随着线上娱乐与社交互动场景日趋复杂，虚假人设、违法引流、低俗内容以及网络暴力等问题呈现出隐蔽化、链条化特征。对此，Soul App 创始人团队在一季度重点升级AI反诈识别能力，持续迭代识别模型，提升平台对变体话术、隐蔽表达及视觉干扰内容的识别效率。在治理实践中，平台通过升级多模态语义理解能力，实现风险内容前置识别与精准拦截，并结合场景化风险提示机制，加强用户风险感知能力。

针对虚假人设问题，平台建立了覆盖图片路径检测、设备与账号关联分析、人像识别以及评论语义分析等多维识别体系，对异常账号与风险内容进行快速定位和处置，日均识别并处置虚假人设相关内容7万余条，同时对违规账号进行同步管控，有效降低虚假信息传播风险。

在群聊治理方面，平台围绕语音互动与文字交流等场景，持续增强违规内容识别能力。数据显示，一季度平台日均主动中断含违规内容的语音消息超过3万条，群聊自动化中断次数达5800余次。依托实时识别与动态处置机制，平台有效减少了违规内容在公开社交场景中的扩散。

在私聊场景中，SoulApp创始人团队重点强化了骚扰防护与用户自主治理能力。平台陆续推出消息盒子分类管理、风险弹窗提醒等多项产品功能，以减少用户在陌生社交中的负面体验。数据显示，平台日均保护超过6.4万名用户免受骚扰，日均触发风险提示弹窗超过7万次。通过多层次的治理手段，平台提升了用户在社交过程中的安全感与可控性。

2026年第一季度，中央网信办部署开展“清朗·2026年营造喜庆祥和春节网络环境”专项行动，重点整治违法引流、不良价值观传播以及网络戾气等问题。围绕专项行动要求，Soul App 创始人团队同步升级平台社交治理能力，通过AI模型与人工审核协同机制，持续加强对低俗擦边、恶意辱骂、有偿交友及违规引流行为的治理力度。治理数据显示，一季度平台机审直接拦截违规内容477万条，处理违规账号16.2万个。与此同时，平台还持续加强对低质内容的识别与治理能力，日均处理低质帖子超过12万条，日均处置低质评论18万条以上，进一步提升社区内容质量。

在社区氛围建设方面，Soul通过用户引导机制与社区规范建设，日均触达近2500名用户进行文明发言提醒，推动形成更加理性、有序的互动环境。针对攻击性言论、情绪对立以及骚扰行为，Soul升级AI情感识别模型，并结合动态违规词库，实现对攻击性内容的实时监测与精准识别。同时，平台配合人工复核与快速响应机制，进一步提升网暴内容处理效率。

主题：平台|SoulApp创始人团队|违规内容