Soul創(chuàng)新用戶共治新模式第四季度生態(tài)安全治理再交亮眼成績單

2023-01-12 17:49:03來源：中關村在線

日均攔截95%以上的導流欺詐行為、日均識別打壓搬運抄襲帖2.9萬條，日均3000+用戶參與平臺眾裁活動……近期，新型開放式社交平臺SoulApp發(fā)布了《Soul第四季度生態(tài)安全報告》。

(相關資料圖)

報告顯示，Soul通過AI識別和黑灰產識別技術上線動態(tài)查重功能和多項反詐機制，從技術研發(fā)、產品設計及多方協(xié)同打擊方面著手，建立嚴密的風控機制，并打造了由辨識真?zhèn)?、平臺打擊、用戶宣導和治理眾裁四部分組成的循環(huán)反饋雙擎生態(tài)安全治理模式。2022年第四季度，Soul重點圍繞導流詐騙治理、綠色生態(tài)共建、虛假內容打擊、一鍵防網暴等四大用戶安全生態(tài)專項開展治理，再次交出一份亮眼的成績單。憑借在生態(tài)安全治理方面的領先實踐，Soul受邀參與由中國互聯網協(xié)會調解工作委員會主辦的“2022網絡安全治理機制高峰論壇”，并入選《2022網絡安全運營服務機制及網絡反詐應對報告》。

重拳出擊新型詐騙，配合公安機關成功打擊導流詐騙團伙

報告顯示，2022年四季度，Soul通過站內官方賬號Soul反詐中心，在私信、廣場等多場景對用戶進行反詐安全提示，曝光達800余萬次。四季度，Soul上線1000多項風控策略，處罰100萬人次，導流外溢案件發(fā)案下降50%以上，日均攔截95%以上的導流欺詐行為，獲得用戶正向反饋超10萬次。另外，通過主動發(fā)現線索，Soul還配合公安機關成功打擊站內導流詐騙團伙2個。

由于Soul本身不具備轉賬功能，因此，有一些不法分子想方設法將用戶吸引至第三方平臺，再實施詐騙。針對這一情況，Soul嚴厲打擊通過欺騙性手段，騙取用戶信任導流到站外的行為。特別是對于“投資”“刷單”“轉賬”和與支付相關的高危敏感字眼，Soul會在用戶對話頁面上及時彈出警示標志，甚至會給用戶發(fā)短信、打電話，通過及時提醒讓用戶遠離詐騙。同時，Soul還會在第一時間響應用戶的舉報，核查并封禁涉嫌詐騙的賬號。

值得一提的是，Soul通過企業(yè)與政府多部門聯動，實現預警、勸阻、黑庫、情報等能力共享、協(xié)同打擊。及時阻斷和叫醒用戶，持續(xù)加強警企合作走訪提醒，提升平臺安全感。

在防范網絡詐騙方面，Soul還因勢而動，不斷升級，建立了更嚴密的風控體系，對不同群體“殺豬盤”詐騙實現精準打擊。同時，Soul還通過優(yōu)化用戶端及時提醒機制，防范用戶上當受騙。

創(chuàng)新安全生態(tài)治理新模式，日均3000+用戶參與共治眾裁

報告顯示，2022年第四季度，Soul在廣場治理中日均攔截1.8萬條軟色情內容，日均處理違規(guī)用戶1000人次，日均帖子、評論舉報量較上季度下降30%，在群聊派對治理中，Soul日均中斷5000余條違規(guī)語音消息，日均攔截違規(guī)文字消息1.4萬條，日均梯度處罰違規(guī)2000多用戶。在低俗內容和不良價值觀集中治理方面，Soul交出一份亮眼成績單。

構建清朗的網絡空間，需要傳遞正確的價值觀。為了給用戶提供綠色清朗的社交環(huán)境，Soul長期對擦邊低俗、拜金炫富、挑唆男女對立等不良價值觀內容開展專項整治，從內容廣場、文字群組、群聊派對等多場景進行集中優(yōu)化，讓平臺充滿溫暖、友善的氛圍。

在Soul上，平臺用戶群體大部分是以95后、00后為代表的Z世代。對Z世代來說，一方面，他們反對說教式強制管束，另一方面，他們受教育程度越來越高、正能量十足，愿意承擔起社區(qū)自治責任。

針對年輕一代的特點，Soul上線風紀委活動，邀請用戶對不良價值觀內容進行打分，實施眾裁，風紀委活動得到用戶的積極響應。數據顯示，目前已有2萬余名用戶成為風紀委成員，日均超3000成員參與其中。此外，針對低俗內容，Soul在此前軟色情識別模型以及低俗色情識別模型的基礎上，于四季度又上線超過20條不良低俗內容打壓策略，進一步精準識別，有效保護用戶。

升級“動態(tài)查重”功能，用戶對虛假內容處理滿意度提升20%

在網絡空間，虛假不實內容就像一顆顆煙幕彈，嚴重影響網絡安全生態(tài)治理。為更好地治理虛假不實內容，2022年第三季度Soul在業(yè)內首創(chuàng)“動態(tài)查重”功能，還發(fā)起《尊重原創(chuàng) 分享真實》公約（又稱《SoulReal》公約），呼吁用戶參與原創(chuàng)內容保護。

2022年第四季度，Soul對“動態(tài)查重”功能進行升級。例如，如果發(fā)布者的圖片曾在站內廣場出現過，Soul不僅在其個人主頁對應的內容帖下方提示“該內容曾在站內出現過”，還在廣場詳情頁帖子下增加相應展示，讓虛假、跟風內容處處現形。此外，Soul還增加舉報入口，通過消息提醒原創(chuàng)作者對搬運內容進行舉報維權，更好地保護原創(chuàng)者的合法權益。

報告顯示，四季度Soul官方風紀球長發(fā)布“保護原創(chuàng)、鼓勵真實”相關的宣傳科普內容14篇，涉及違規(guī)處罰公示、安全標準宣導、真實公約等方面，總計曝光量達5252萬。該季度，Soul日均識別打壓搬運抄襲帖2.9萬，搬運抄襲相關舉報日均下降30%，用戶對虛假內容處理的滿意度提升20%。

實現“一鍵防網暴”，強化“友善評論引導”

“惡語傷人六月寒”。在社交網絡中，時時出現的網絡暴力，成為傷人利器，也成為網絡生態(tài)的“毒瘤”。在網絡暴力治理方面，Soul打出了防治相輔的組合拳。

2022年第四季度，Soul上線了一鍵防網暴功能。在用戶遇到攻擊辱罵、低俗色情騷擾等情況下，Soul自動觸發(fā)“今日自閉”開啟提醒。用戶選擇開啟“今日自閉”功能后，將不再收到靈魂匹配、奇遇鈴和內容廣場等場景中的陌生人信息。據統(tǒng)計，新功能上線后，每天嘗試使用自閉功能的用戶超3萬人。此外，Soul還在私聊對話、內容廣場、游戲等不同場景與功能板塊，對辱罵攻擊、挑唆男女對立、地域歧視等網暴行為重拳出擊。

此外，當用戶因為人身攻擊被舉報多次以后，Soul將限制用戶的評論功能并引導用戶簽署“友善互動聲明”，只有簽署后才能繼續(xù)發(fā)表評論，并且Soul在廣場內容的發(fā)布中還啟動禁止評論功能，發(fā)布者可以自定義選擇可評論的用戶群體。

通過防治結合，Soul在網絡暴力治理方面也取得碩果，日均避免用戶遭受網暴與頻繁騷擾5000多次，日均處理私聊不文明行為用戶300多人，日均提醒引導私聊文明發(fā)言20萬次，日均發(fā)送友善評論提示900多次，累計簽署友善互動聲明的用戶達5萬余人。

在互聯網平臺，集聚著很多充滿活力、熱衷探索的青年人。對青年群體來說，他們是互聯網的深度參與者，也是互聯網清朗網絡空間的重要構建者。Soul相關負責人表示，“對社交平臺來說，要肩負主體責任，通過積極的自治措施，增強用戶安全意識、引導網絡良好風氣。同時，提升平臺管控效率，強化用戶權益維護。”Soul定期發(fā)布《Soul季度生態(tài)安全治理報告》，不僅是向社會公示平臺安全與生態(tài)治理的舉措與階段性進展，也為互聯網平臺提供了網絡安全生態(tài)治理的寶貴經驗。

標簽：新聞資訊