6月30日，快手發(fā)布《快手2025反詐治理報告》（簡稱“報告”）。報告顯示，過去一年，快手反詐團(tuán)隊在國家反詐中心、工信部反詐專班等部門指導(dǎo)下，嚴(yán)格按照《反詐法》等法律法規(guī)要求，不斷壓實平臺主體責(zé)任，綜合利用AI大模型等人工智能技術(shù)治理引流詐騙，構(gòu)建從識別到勸阻的全鏈路反詐防護(hù)網(wǎng)，不斷提升引流詐騙識別和處置質(zhì)效，全力守護(hù)用戶安全觸網(wǎng)。
報告顯示，過去一年，快手反詐團(tuán)隊通過建設(shè)風(fēng)控反詐AI大模型，持續(xù)加強反詐模型策略、易受騙人員識別和反詐喚醒、線上線下常態(tài)化反詐宣傳等能力建設(shè)，對引流詐騙進(jìn)行精細(xì)化治理，主動攔截阻斷詐騙行為超97.1%，金融薦股、虛假送錢領(lǐng)獎、虛擬物品交易等詐騙舉報量同比大幅下降。
反詐AI大模型賦能網(wǎng)絡(luò)詐騙治理
報告顯示，為對抗變化多端、花樣百出的詐騙信息和引流手段，快手反詐團(tuán)隊首次建設(shè)風(fēng)控反詐AI大模型，大幅提升風(fēng)險感知、賬號審核、數(shù)據(jù)分析等治理能力和效率，有效應(yīng)對詐騙分子層出不窮的作惡套路。
其中，新增詐騙舉報分析AI大模型，通過AI大模型分析站內(nèi)舉報信息，從中識別新的詐騙套路超過15個，詐騙舉報處理效率同比提升400%；新增詐騙賬號審核AI大模型，高效識別、處置短視頻、直播等多場景的涉詐賬號，詐騙賬號處置規(guī)模提升50%、效率提升90%。
模型策略迭代提升打擊治理質(zhì)效
報告顯示，針對引流詐騙成規(guī)模、成體系、有組織的在互聯(lián)網(wǎng)平臺實施引流詐騙行為，快手反詐團(tuán)隊建設(shè)詐騙團(tuán)伙識別模型，發(fā)揮AI大模型和大數(shù)據(jù)的技術(shù)優(yōu)勢，精準(zhǔn)捕捉詐騙團(tuán)伙的群體行為，大幅提高批量詐騙賬號識別處置效率。
據(jù)了解，快手反詐團(tuán)隊建設(shè)4個詐騙團(tuán)伙識別模型，模型迭代實現(xiàn)從單一詐騙賬號識別拓展至精準(zhǔn)捕捉詐騙團(tuán)伙群體行為，批量詐騙賬號識別效率提升200%。新增風(fēng)控反詐模型20余個，目前在快手運行的風(fēng)控反詐模型已經(jīng)超過150個。此外，快手反詐團(tuán)隊自主研發(fā)智能風(fēng)控引擎，過去一年新增800余個風(fēng)控反詐策略，日均運行風(fēng)控策略超過1800個。風(fēng)控策略實時研判賬號的涉詐風(fēng)險，智能對抗詐騙新套路。
增強易受騙人群識別及反詐喚醒能力
報告顯示，快手高度重視易受騙人群識別和反詐喚醒能力建設(shè)。快手反詐團(tuán)隊基于不同的詐騙類型和問題場景，建設(shè)精細(xì)化的易受騙人群識別模型，更精準(zhǔn)識別潛在易受騙人群、發(fā)送定制化的反詐提醒并做出相應(yīng)處置。過去一年，快手通過各個渠道發(fā)送反詐提示1.73億人次，日均發(fā)送反詐提示365萬次，日均發(fā)送定制化反詐提示121萬次，日均屏蔽涉詐視頻和直播間1.12萬個。
快手反詐團(tuán)隊建設(shè)更加全面、豐富的用戶反詐喚醒能力，涵蓋作品畫面提示、語音通話提醒、管理員反詐私信、手機短信提醒、電話外呼提醒等5大場景，從事前、事中、事后多維度多場景向用戶發(fā)送反詐提醒，提升用戶防騙意識。過去一年，快手管理員反詐通知累計發(fā)送2580萬余次，反詐短信累計發(fā)送285萬次，快手AI外呼累計1380萬余次，人工外呼累計6萬次。大量用戶因為收到平臺發(fā)送的反詐提醒而免于被騙。
助力公安工信打擊治理網(wǎng)絡(luò)詐騙
報告顯示，快手反詐團(tuán)隊不斷優(yōu)化警企聯(lián)動機制，積極聯(lián)合公安機關(guān)研判打擊電信網(wǎng)絡(luò)詐騙犯罪行為。過去一年，快手反詐團(tuán)隊依托技術(shù)優(yōu)勢，通過情報共享與線索報送、協(xié)助調(diào)證與及時固證、精準(zhǔn)打擊與資金追損等手段，協(xié)助國家反詐中心研判設(shè)立在緬甸、柬埔寨、越南等國的犯罪窩點百余個，協(xié)助國內(nèi)各地公安機關(guān)偵破詐騙案219起，抓獲犯罪嫌疑人231名。
此外，去年10月，快手牽頭編制的YD/T 6026-2024《短視頻社區(qū)易受騙人群識別與預(yù)警指南》行業(yè)標(biāo)準(zhǔn)已由工信部正式發(fā)布，該行業(yè)標(biāo)準(zhǔn)為短視頻平臺企業(yè)加強反詐事前風(fēng)險識別與防御、保護(hù)用戶免受詐騙侵害提供實踐指南。另外，快手牽頭制定的《電信網(wǎng)與互聯(lián)網(wǎng)用戶實名認(rèn)證數(shù)據(jù)質(zhì)量增強指南》行業(yè)標(biāo)準(zhǔn)項目也已進(jìn)入報批階段，為行業(yè)提升用戶實名認(rèn)證數(shù)據(jù)質(zhì)量、增強用戶身份可靠性貢獻(xiàn)快手經(jīng)驗。
今年1月7日，快手承辦中國通信標(biāo)準(zhǔn)化協(xié)會防范治理電信網(wǎng)絡(luò)詐騙工作組（CCSA TC8/WG5）成立三周年暨第13次標(biāo)準(zhǔn)會議。會上，快手分享了防范治理電信網(wǎng)絡(luò)詐騙實踐，并對快手牽頭編制的YD/T 6026-2024《短視頻社區(qū)易受騙人群識別與預(yù)警指南》行業(yè)標(biāo)準(zhǔn)開展了講解宣貫。同時，快手反詐技術(shù)專家就快手參與編制的其他行業(yè)標(biāo)準(zhǔn)，與相關(guān)行業(yè)、企業(yè)負(fù)責(zé)人進(jìn)行深入的研討。
線上線下宣傳提升用戶防詐意識
報告顯示，快手依托“短視頻+直播”產(chǎn)品優(yōu)勢，創(chuàng)新反詐宣傳內(nèi)容形態(tài)，通過微劇場演繹、直播動畫科普、直播案例科普等多種形式，持續(xù)供給海量反詐內(nèi)容，扶持相關(guān)創(chuàng)作者，助力營造全民反詐的良好社區(qū)氛圍。過去一年，快手站內(nèi)生產(chǎn)反詐短視頻217.8萬個，反詐短視頻播放量達(dá)305億次；反詐直播2.9萬余場，直播播放量5.19億次。其中#全民反詐在行動#話題作品播放量5.2億次，“開學(xué)反詐第一課”9場系列直播總觀看量達(dá)5049.4萬次。
同時，快手反詐團(tuán)隊也積極使用AI大模型賦能反詐宣傳。去年“全社會反詐 青年在行動”活動期間，在國家反詐中心的指導(dǎo)下，快手反詐團(tuán)隊使用可靈AI視頻生成大模型生成全網(wǎng)首條反詐宣傳短片《瘋狂工具人》，揭露各類詐騙新手法。另外，快手反詐團(tuán)隊密切跟蹤引流詐騙趨勢，不定期發(fā)布詐騙風(fēng)險提示，揭露最新引流套路與詐騙手法，提醒用戶防范詐騙風(fēng)險，提升用戶防騙意識，守護(hù)用戶財產(chǎn)安全。
在線下，快手安全中心聯(lián)合昆明市反詐中心在寒假來臨前走進(jìn)大中專校園，開展“快樂度寒假 防騙不放假”反詐公益宣傳活動，針對學(xué)生群體開展高發(fā)詐騙宣傳防范教育，提升學(xué)生群體反詐防騙意識和能力。
快手相關(guān)負(fù)責(zé)人表示，未來快手將堅持以打造最有溫度、最值得信任的在線社區(qū)為初心，始終站在堅決維護(hù)用戶權(quán)益的高度，充分利用人工智能等技術(shù)手段識別、攔截涉詐違規(guī)引流信息，多渠道多場景推送反詐預(yù)警信息喚醒易受騙人群，積極配合協(xié)助相關(guān)部門堅決打擊治理電信網(wǎng)絡(luò)詐騙犯罪，不斷壓縮違法犯罪活動空間。同時，快手通過政策傾斜和運營扶持，通過線上+線下相結(jié)合，不斷豐富反詐宣傳內(nèi)容和形式，提升用戶反詐防騙意識，營造全民反詐社區(qū)氛圍。
