隨著移動(dòng)互聯(lián)網(wǎng)的普及與社交應(yīng)用深度融入日常生活,社交平臺(tái)已成為公眾表達(dá)觀點(diǎn)、建立連接的重要渠道。然而,隨之而來的虛假信息傳播、網(wǎng)絡(luò)欺詐、網(wǎng)絡(luò)暴力等生態(tài)治理挑戰(zhàn)也日益復(fù)雜,不僅損害用戶權(quán)益,更可能引發(fā)社會(huì)信任危機(jī)。在這一背景下,作為社交平臺(tái)代表之一的Soul App主動(dòng)將生態(tài)安全治理納入企業(yè)戰(zhàn)略發(fā)展的重點(diǎn),發(fā)布《2025年第三季度生態(tài)安全報(bào)告》(以下簡稱“報(bào)告”)。
報(bào)告詳盡披露了Q3季度平臺(tái)在生態(tài)安全領(lǐng)域所取得的進(jìn)展,全面展示了 Soul 圍繞“技術(shù)+制度+教育”三維治理體系的創(chuàng)新實(shí)踐與顯著成效。這標(biāo)志著 Soul 在用戶信息保護(hù)、反欺詐、未成年人守護(hù)、網(wǎng)絡(luò)暴力治理及社區(qū)共治等關(guān)鍵領(lǐng)域的持續(xù)投入和能力升級(jí)。
AI風(fēng)控全面升級(jí) 筑牢社交安全屏障
在Q3季度,Soul持續(xù)深化AI前沿技術(shù)的應(yīng)用,構(gòu)建全方位、高智能的安全防護(hù)體系,通過不斷完善技術(shù)手段,平臺(tái)在前端攔截和中端處置能力上實(shí)現(xiàn)提升。
反欺詐能力迭代突破,全場景覆蓋用戶安全
伴隨年終促銷季的臨近,網(wǎng)絡(luò)欺詐活動(dòng)呈現(xiàn)高發(fā)態(tài)勢,手法也愈發(fā)隱蔽。Soul App針對(duì)性地迭代升級(jí)了多項(xiàng)AI反欺詐模型,重點(diǎn)發(fā)力于提高識(shí)別準(zhǔn)確率和降低誤傷率,確保用戶體驗(yàn)的順暢與安全——
對(duì)基于AI大模型的圖片反欺詐模型進(jìn)行了深度優(yōu)化,取得了顯著成果。數(shù)據(jù)顯示,誤傷量級(jí)大幅下降約80%,而識(shí)別覆蓋率則提升至90%以上,實(shí)現(xiàn)了對(duì)主流圖片生產(chǎn)場景的全面、精準(zhǔn)防護(hù);
平臺(tái)完成人設(shè)大模型優(yōu)化升級(jí),高風(fēng)險(xiǎn)人設(shè)識(shí)別覆蓋率由不足50%提升至70%以上,有效增強(qiáng)了對(duì)潛在欺詐人設(shè)的提前預(yù)警和識(shí)別能力,將風(fēng)險(xiǎn)阻斷在用戶接觸初期;
Soul持續(xù)保持與監(jiān)管部門及公安機(jī)關(guān)的緊密合作,積極參與到打擊違法有害信息的行動(dòng)中。Q3季度,平臺(tái)向全國推送各類違法有害線索100余個(gè),調(diào)證協(xié)查80余次,并參與其他警企合作工作3次,以實(shí)際行動(dòng)幫助構(gòu)建起堅(jiān)實(shí)的安全防線。
違規(guī)與低質(zhì)內(nèi)容治理,打造清朗社區(qū)畫風(fēng)
為切實(shí)保障用戶在廣場和群聊中的交流體驗(yàn),Soul 運(yùn)用包括圖片/文本反作弊大模型、外鏈審核大模型在內(nèi)的一系列技術(shù)手段,對(duì)違規(guī)行為和低質(zhì)內(nèi)容進(jìn)行了有效打擊——
Q3季度違規(guī)內(nèi)容機(jī)審直接攔截量439萬,同時(shí)對(duì)相關(guān)跟帖、評(píng)論處理量1578萬;處置違規(guī)賬號(hào)30.6萬個(gè),并對(duì)同設(shè)備下存在多個(gè)違規(guī)賬號(hào)進(jìn)行拉黑備案;
針對(duì)群聊生態(tài),Q3季度日均中斷違規(guī)語音超5600條,日均攔截違規(guī)文字消息2.6萬條,確保群聊空間的文明有序。高強(qiáng)度的治理力度,有效遏制了違規(guī)內(nèi)容的滋生。
私聊社交生態(tài)優(yōu)化,增強(qiáng)用戶自主安全防護(hù)
私聊場景的安全性是用戶社交體驗(yàn)的關(guān)鍵。在Q3季度,Soul 持續(xù)上線迭代超過20項(xiàng)私聊策略,并強(qiáng)化了用戶的自主防護(hù)能力,其中“消息自見策略”保護(hù)超4.3萬用戶免擾信息侵?jǐn)_;針對(duì)反復(fù)違規(guī)的用戶,平臺(tái)日均禁止私聊功能8萬例。此外,平臺(tái)還針對(duì)疑似被騷擾的用戶下發(fā)“守護(hù)彈窗”,主動(dòng)提醒用戶采取必要的保護(hù)措施。
聚焦網(wǎng)暴治理與青少年保護(hù),構(gòu)建友善環(huán)境
Soul 深刻認(rèn)識(shí)到網(wǎng)絡(luò)暴力對(duì)青年用戶心理健康的負(fù)面影響,倡導(dǎo)“社交友善”的平臺(tái)理念;同時(shí),Soul積極響應(yīng)國家“清朗”系列專項(xiàng)行動(dòng)號(hào)召,從技術(shù)監(jiān)測、快速處置、教育引導(dǎo)三方面入手,全力維護(hù)網(wǎng)絡(luò)空間的文明與和諧。
網(wǎng)暴治理見效,推動(dòng)友善社交環(huán)境
平臺(tái)通過智能監(jiān)測和快速處置流程,有效降低了用戶遭受網(wǎng)暴和惡意攻擊的概率。在Q3季度,Soul 致力于將善意社交“落地生根”,日均至少保護(hù)用戶避免遭受網(wǎng)暴與頻繁騷擾3127人,有效維護(hù)用戶權(quán)益。同時(shí),日均處理私聊不文明行為2100起,日均提醒引導(dǎo)私聊文明發(fā)言21.5萬次,形成了主動(dòng)干預(yù)和教育為主的治理閉環(huán)。
青少年安全防護(hù)再強(qiáng)化,守衛(wèi)未成年人上網(wǎng)安全
Soul 長期以來堅(jiān)持明確的未成年人保護(hù)原則:禁止未成年人注冊(cè)賬號(hào),并對(duì)極少數(shù)已注冊(cè)的未成年用戶采取自動(dòng)切換至青少年模式的嚴(yán)格措施。
在暑期高峰期,Soul 完成了人設(shè)大模型的迭代升級(jí),在年齡、身份人設(shè)上的覆蓋量增加了200%?；诟_的AI識(shí)別結(jié)果,平臺(tái)同步優(yōu)化了其他未成年人識(shí)別策略,通過更精準(zhǔn)的人設(shè)畫像和判別邏輯,系統(tǒng)能更全面、更準(zhǔn)確地識(shí)別疑似未成年用戶,最大程度地將未成年人用戶納入保護(hù)范圍。
社區(qū)共建共治,共享安全生態(tài)
Soul深知社區(qū)生態(tài)的安全健康離不開每一位用戶的積極參與。Q3季度,平臺(tái)持續(xù)推進(jìn)“社區(qū)共建共治”體系,并加大用戶教育力度,提升全員數(shù)字素養(yǎng)——
報(bào)告顯示,內(nèi)容推薦官、風(fēng)紀(jì)委員等在任社區(qū)共建用戶數(shù)量已超過7.8萬人,其中,日均站內(nèi)內(nèi)容推薦官在任用戶5.1萬人,日均參與投票和投票人數(shù)均穩(wěn)定增長。社區(qū)成員日均貢獻(xiàn)2.2萬+次投票,通過這一高度參與的方式,最終日均產(chǎn)生2900+個(gè)優(yōu)質(zhì)帖子,形成了“用戶參與治理,治理反哺優(yōu)質(zhì)內(nèi)容”的良性循環(huán)。
在“教育”維度,Soul App 持續(xù)投入資源,通過多渠道、多形式的宣傳,增強(qiáng)用戶對(duì)平臺(tái)規(guī)則和網(wǎng)絡(luò)文明規(guī)范的認(rèn)知。官方賬號(hào)“風(fēng)紀(jì)球長”對(duì)安全生態(tài)宣傳內(nèi)容發(fā)布了59篇帖子,內(nèi)容涵蓋反低俗、反不實(shí)信息、反惡意引戰(zhàn)、惡意盜用他人形象等違規(guī)行為的警示,以及對(duì)安全標(biāo)準(zhǔn)及社交禮儀規(guī)范的宣導(dǎo),總計(jì)觸達(dá)51萬用戶。這一系列教育舉措顯著提升了用戶自我保護(hù)能力和文明互動(dòng)素養(yǎng)。
技術(shù)向善,共赴友好社交新生態(tài)
《2025Q3生態(tài)安全報(bào)告》不僅是一份階段性的工作總結(jié),更是 Soul App 對(duì)全體用戶乃至整個(gè)社會(huì)的安全承諾書。在過去一個(gè)季度,Soul 依靠其強(qiáng)大的AI技術(shù)能力、嚴(yán)格的制度執(zhí)行力以及日益壯大的社區(qū)共治力量,成功構(gòu)筑了一道智能化的安全防線。
在未來,Soul將繼續(xù)秉承“讓天下沒有孤獨(dú)的人”的愿景,持續(xù)投入資源升級(jí)AI治理能力,并深化社區(qū)共治體系。Soul 期待與每一位用戶攜手,共同探索和建設(shè)一個(gè)更加清朗、友善、健康的社交新生態(tài),讓每一份真誠的連接都能在安全可靠的空間中落地生根。
關(guān)鍵詞：
