近日,Soul App正式發(fā)布《2025生態(tài)安全半年報》(以下簡稱“報告”)。報告全面展現(xiàn)Soul App積極響應(yīng)國家“清朗”系列專項(xiàng)行動號召的堅(jiān)定決心,通過大量具體數(shù)據(jù)和創(chuàng)新舉措,詮釋了平臺如何通過技術(shù)創(chuàng)新、警企協(xié)作、社區(qū)共治等多維度策略,持續(xù)升級其生態(tài)安全體系,并取得顯著成效。

當(dāng)前,社交平臺已成為人們?nèi)粘贤ā⒈磉_(dá)自我、建立連接的重要場域。然而,在享受其帶來巨大便利的同時,社交平臺也面臨著日益嚴(yán)峻的挑戰(zhàn),如網(wǎng)絡(luò)詐騙、低俗內(nèi)容泛濫、網(wǎng)絡(luò)暴力侵?jǐn)_等問題層出不窮,對用戶體驗(yàn)和社會秩序構(gòu)成了潛在威脅。在這樣的背景下,平臺治理的深度和廣度顯得尤為關(guān)鍵。

Soul App深刻認(rèn)識到生態(tài)安全對于平臺可持續(xù)發(fā)展和用戶福祉的基石作用,因此始終將其置于戰(zhàn)略發(fā)展的核心位置。通過持續(xù)不斷的技術(shù)模型升級和一系列專項(xiàng)治理行動,Soul App致力于從根本上優(yōu)化平臺環(huán)境,確保每一位用戶都能在清朗、健康的氛圍中安心交流。

AI反詐體系升級 全鏈條守護(hù)用戶安全

在當(dāng)前網(wǎng)絡(luò)詐騙手段日益隱蔽和多樣化的背景下,Soul App持續(xù)加碼AI技術(shù)投入,對反詐防護(hù)體系進(jìn)行了全方位、深層次的升級,成功構(gòu)建了一套高效、智能的“識別-預(yù)警-攔截”全鏈條防御機(jī)制。這一體系旨在從源頭發(fā)現(xiàn)、及時預(yù)警、果斷攔截各類詐騙行為,最大限度地保障用戶的財產(chǎn)和信息安全。兩大核心技術(shù)模型——“圖片/文本反作弊大模型”和“殺豬盤發(fā)帖文案識別大模型”在安全鏈條中,發(fā)揮巨大作用。

兩大模型的協(xié)同投入使用,極大地提升了Soul App在面對文本變體、圖像偽裝等復(fù)雜多變場景下的識別精度。它們使得黑產(chǎn)分子想要繞過平臺風(fēng)控識別的對抗成本顯著提高,從而有效遏制了詐騙行為的蔓延;同時,反詐官號接入AI反詐助手大模型,部分用戶回復(fù)交由大模型進(jìn)行智能回復(fù),提示用戶相關(guān)風(fēng)險。

得益于這一系列的反詐舉措,Soul App平臺整體涉詐人群數(shù)量較此前實(shí)現(xiàn)了約20%的顯著下降。除了技術(shù)防線,Soul App還積極構(gòu)建了與公安機(jī)關(guān)的緊密協(xié)作機(jī)制,形成了線上線下聯(lián)動的打擊網(wǎng)絡(luò)犯罪網(wǎng)絡(luò)。報告顯示,在過去半年中,Soul App與警方協(xié)同配合,取得了豐碩的成果:

? 網(wǎng)絡(luò)謠言線索推送: 發(fā)現(xiàn)并推送網(wǎng)絡(luò)謠言線索50個。針對可能誤導(dǎo)公眾或損害他人名譽(yù)的謠言,平臺迅速識別并向警方報告,共同維護(hù)網(wǎng)絡(luò)信息真實(shí)性。

? 黑灰產(chǎn)線索推送: 累計(jì)推送各類黑灰產(chǎn)線索25個,包括但不限于非法刷量、惡意營銷等黑色產(chǎn)業(yè)鏈線索,從源頭上打擊網(wǎng)絡(luò)犯罪。

? 協(xié)助警方查明案件: 協(xié)助警方查明盜用照片、侵犯用戶權(quán)益的案件20余次。通過提供技術(shù)支持,幫助警方迅速鎖定違法分子,維護(hù)用戶合法權(quán)益。

? 處理警方調(diào)證協(xié)作需求: 共計(jì)處理警方調(diào)證協(xié)作需求80余次。建立高效的響應(yīng)機(jī)制,積極配合警方依法調(diào)取證據(jù),確保案件偵辦的順利進(jìn)行。

這些數(shù)據(jù)充分表明,Soul App不僅在技術(shù)層面筑牢了安全防線,更通過與執(zhí)法機(jī)關(guān)的深度協(xié)作,形成了強(qiáng)大的社會協(xié)同治理合力,共同打擊網(wǎng)絡(luò)違法犯罪,為用戶打造了一個真正安全可靠的社交生態(tài)。

社交治理持續(xù)優(yōu)化,共建清朗網(wǎng)絡(luò)空間

為了給廣大用戶營造一個文明、友善、積極向上的社交環(huán)境,Soul App持續(xù)在社交治理體系上發(fā)力,不斷完善其治理策略和技術(shù)手段。報告顯示,平臺新增了可以識別色情交易變體等違規(guī)行為的反作弊大模型,進(jìn)一步提升了對新型違規(guī)行為的識別能力。同時,Soul App從用戶騷擾管制、群聊治理、低質(zhì)內(nèi)容管控、正能量內(nèi)容推薦等多個方向,全方位、系統(tǒng)性地持續(xù)建設(shè)社交禮儀體系,致力于為廣大用戶提供一個輕松無壓力的社區(qū)場景氛圍。

在違規(guī)行為及低質(zhì)內(nèi)容治理方面,Soul App采取多管齊下的策略,并取得顯著成效:

? 違規(guī)內(nèi)容機(jī)審攔截量級932萬: 平臺通過AI技術(shù)對海量內(nèi)容進(jìn)行實(shí)時監(jiān)測和識別,能夠在違規(guī)內(nèi)容發(fā)布的第一時間進(jìn)行自動化攔截,有效阻止不良信息的傳播;

? 累計(jì)拉黑同設(shè)備下存在多個違規(guī)賬號2.1萬個: 針對“小號”泛濫、惡意注冊等行為,Soul App通過設(shè)備識別技術(shù),對同一設(shè)備下存在的多個違規(guī)賬號進(jìn)行批量拉黑,從源頭上打擊黑灰產(chǎn)團(tuán)伙的作惡空間。

? 教育用戶文明發(fā)言,累計(jì)觸達(dá)33.7萬用戶: 對于網(wǎng)絡(luò)社交規(guī)范,平臺注重“疏”和“導(dǎo)”——通過系統(tǒng)消息、彈窗提醒、社區(qū)公告等多種形式,積極引導(dǎo)用戶遵守社區(qū)規(guī)范,提升網(wǎng)絡(luò)文明素養(yǎng)。

? 增加違規(guī)貼提示功能,引導(dǎo)用戶行為符合平臺規(guī)范: 平臺不僅告知用戶違規(guī),還會附帶違規(guī)理由和站內(nèi)用戶行為規(guī)則的解讀,幫助用戶理解并改正。

在群聊治理方面,Soul App針對群聊場景的特點(diǎn),采取了精細(xì)化管理:

? 日均中斷語音違規(guī)消息條數(shù)4萬+: 語音群聊是社交的重要形式,平臺通過語音識別技術(shù),對違規(guī)語音消息進(jìn)行實(shí)時中斷,并對發(fā)布此類內(nèi)容的用戶進(jìn)行專項(xiàng)處置。

? 日均攔截違規(guī)文字消息條數(shù)2.7萬+: 文字消息同樣受到嚴(yán)格監(jiān)控,確保群聊內(nèi)容的合規(guī)性。

? 日均梯度處罰違規(guī)用戶數(shù)1.7萬+: 針對群聊中的違規(guī)用戶,平臺會根據(jù)違規(guī)程度進(jìn)行不同梯度的處罰,從輕微警告到永久封禁。

在私聊社交生態(tài)建設(shè)方面,Soul App的舉措旨在提升用戶私密交流的安全性與舒適度:

? 季度上線/迭代策略36+: 平臺在私聊安全方面持續(xù)進(jìn)行策略的更新和優(yōu)化,以應(yīng)對不斷變化的風(fēng)險。

? 騷擾消息自見策略日均保護(hù)2.3萬+用戶: 主動識別并處理騷擾消息,減少用戶被騷擾的困擾。

? 消息盒子輔助用戶日均收納消息5k+: 幫助用戶更好地管理和過濾不重要的消息,提升私聊體驗(yàn)。

重拳整治網(wǎng)絡(luò)暴力,超八成用戶感受環(huán)境改善

網(wǎng)絡(luò)暴力作為數(shù)字時代的一大社會公害,其隱蔽性、擴(kuò)散性和傷害性日益凸顯。Soul App對此高度重視,建立“技術(shù)識別+人工審核+用戶教育”三位一體的全方位治理體系,旨在從源頭預(yù)防、過程中干預(yù)、事后懲戒和引導(dǎo)等多維度,全面遏制網(wǎng)絡(luò)暴力行為。

在技術(shù)識別層面,Soul App部署了AI內(nèi)容識別系統(tǒng)。系統(tǒng)能夠?qū)τ脩舭l(fā)布的文字、圖片、語音等內(nèi)容進(jìn)行實(shí)時、精準(zhǔn)的掃描和分析,自動識別出包含侮辱、誹謗、人身攻擊等網(wǎng)絡(luò)暴力傾向的內(nèi)容。從而實(shí)現(xiàn)對涉網(wǎng)暴內(nèi)容的快速預(yù)警和標(biāo)記。

同時,Soul App完善用戶舉報機(jī)制,建立了便捷高效的舉報通道,鼓勵用戶積極參與到網(wǎng)絡(luò)暴力的監(jiān)督和治理中來。用戶一旦發(fā)現(xiàn)網(wǎng)絡(luò)暴力行為,可以迅速通過舉報功能向平臺反饋;在用戶教育層面,Soul App深知“防患于未然”的重要性。平臺通過多種形式開展網(wǎng)絡(luò)文明宣傳,提升用戶的網(wǎng)絡(luò)素養(yǎng)和對網(wǎng)絡(luò)暴力的認(rèn)知,包括:

? 典型案例公示: 定期公布處理的網(wǎng)絡(luò)暴力典型案例,以案示警,讓用戶清晰了解平臺對此類行為的零容忍態(tài)度。

? 防網(wǎng)暴指南推送: 推送實(shí)用的防網(wǎng)絡(luò)暴力指南,教授用戶如何識別、應(yīng)對和舉報網(wǎng)絡(luò)暴力,及如何保護(hù)個人信息。

? 社區(qū)共識推動: 通過線上活動、話題討論、官方賬號宣導(dǎo)等方式,積極推動形成“人人抵制網(wǎng)暴”的社區(qū)共識,營造互助友愛的社區(qū)氛圍。

綜合性措施的實(shí)施帶來了顯著的治理成效:

? 日均保護(hù)用戶免遭網(wǎng)暴騷擾3956人:平臺的主動防御和干預(yù)機(jī)制,日均有效阻止近4000名用戶免受網(wǎng)絡(luò)暴力和惡意騷擾的侵害。

? 日均處理私聊不文明行為用戶2146人: 私聊是網(wǎng)絡(luò)暴力的隱蔽發(fā)生地,平臺對此類行為的精準(zhǔn)識別和處理,有效凈化了私密交流空間。

? 日均提醒引導(dǎo)私聊文明發(fā)言211710次: 大量的善意提醒和引導(dǎo),有助于培養(yǎng)用戶在私聊中的文明習(xí)慣,從源頭減少不文明行為的發(fā)生。

? 累計(jì)433199人簽署友善互動聲明: 簽署友善互動聲明是用戶對文明社交的承諾,這一數(shù)據(jù)的持續(xù)增長,體現(xiàn)了用戶對平臺倡導(dǎo)的友善文化的積極響應(yīng)和認(rèn)同。

相關(guān)舉措的有效實(shí)施,不僅顯著凈化了網(wǎng)絡(luò)空間,更重要的是,超過八成的用戶在問卷調(diào)查中表示,他們明顯感受到了平臺環(huán)境的改善,社交體驗(yàn)更加安全和愉悅。這正是Soul App致力于構(gòu)建清朗網(wǎng)絡(luò)空間的最佳反饋。

AI護(hù)航未成年人,筑牢成長防護(hù)網(wǎng)

未成年人是互聯(lián)網(wǎng)的原住民,也是最需要重點(diǎn)保護(hù)的群體。Soul App始終將未成年人網(wǎng)絡(luò)安全保護(hù)視為平臺義不容辭的社會責(zé)任。平臺明確規(guī)定,不允許未成年人在平臺上注冊賬戶,從源頭上杜絕未成年人接觸不適宜內(nèi)容。同時,對于極少數(shù)已經(jīng)注冊的未成年用戶,平臺會自動識別并將其賬戶切換到青少年模式,提供專屬的保護(hù)環(huán)境。

為了更精確、更全面地識別和保護(hù)未成年用戶,Soul App構(gòu)建了一套包括身份認(rèn)證、年齡識別、18歲以下年齡限制、防沉迷系統(tǒng)、正能量內(nèi)容池、隱私保護(hù)等在內(nèi)的全方位未成年保護(hù)體系。本季度,平臺在這一體系中再次實(shí)現(xiàn)了重大突破——首次在識別鏈路中引入了AI大模型,以顯著提升識別精度與覆蓋廣度。

本次新引入的AI大模型,具備高度智能化的判斷能力,能夠有效判斷用戶的人設(shè)是否為未成年人,并進(jìn)一步識別是否存在成年人“開玩笑偽裝”成未成年人的情況,從而極大減少了未成年人“漏放”帶來的風(fēng)險。同時,它也有效避免了對成年用戶的誤封誤判,提升了整體識別準(zhǔn)確率與用戶體驗(yàn),確保了保護(hù)措施的精準(zhǔn)性和有效性。

報告中列舉的關(guān)鍵數(shù)據(jù)顯示了這一體系的強(qiáng)大效能:

? 未成年識別和未成年保護(hù)策略共51條:體現(xiàn)Soul App在未成年人保護(hù)方面投入的精力和細(xì)致程度,涵蓋了從注冊、內(nèi)容瀏覽、互動交流到時間管理等各個環(huán)節(jié)。

? 策略識別假成年人貢獻(xiàn)率高達(dá)99%: 這一數(shù)據(jù)是新AI大模型在未成年保護(hù)領(lǐng)域取得的里程碑式成就。高達(dá)99%的貢獻(xiàn)率意味著絕大多數(shù)試圖偽裝成未成年人的成年用戶都能被精準(zhǔn)識別,從而有效阻止了他們進(jìn)入未成年人專屬的保護(hù)空間,極大地提升了未成年人模式的純凈度和安全性。

Soul App通過持續(xù)的技術(shù)創(chuàng)新和嚴(yán)格的策略執(zhí)行,為未成年人筑起了一道堅(jiān)實(shí)的網(wǎng)絡(luò)安全防護(hù)網(wǎng),確保他們在平臺上的每一次互動都安全、健康、積極。

持續(xù)深耕生態(tài)安全,共創(chuàng)美好社交未來

《2025生態(tài)安全半年報》的發(fā)布,不僅是對平臺過去半年努力成果的總結(jié),更是對未來責(zé)任的再次承諾。Soul App深知,網(wǎng)絡(luò)生態(tài)安全建設(shè)是一項(xiàng)長期而艱巨的任務(wù),需要平臺持續(xù)投入、不斷創(chuàng)新。未來,Soul App將繼續(xù)秉持“用戶第一”的原則,將用戶安全和體驗(yàn)放在首位。

持續(xù)加大在技術(shù)研發(fā)方面的投入,特別是深化AI、大數(shù)據(jù)等前沿技術(shù)在生態(tài)安全領(lǐng)域的應(yīng)用,不斷提升風(fēng)險識別和治理能力,與廣大用戶攜手,共同努力,不斷完善生態(tài)安全體系,為構(gòu)建清朗、健康、有愛的網(wǎng)絡(luò)社交空間貢獻(xiàn)更多力量。

免責(zé)聲明：市場有風(fēng)險，選擇需謹(jǐn)慎！此文僅供參考，不作買賣依據(jù)。

關(guān)鍵詞：