在數(shù)字時(shí)代，互聯(lián)網(wǎng)平臺(tái)已深度融入經(jīng)濟(jì)社會(huì)發(fā)展與公眾日常生活，以短視頻、直播等形態(tài)蓬勃發(fā)展的內(nèi)容社區(qū)，成為串聯(lián)各行各業(yè)的重要紐帶。近日，快手發(fā)布2025社區(qū)治理報(bào)告。報(bào)告顯示，快手社區(qū)治理體系向縱深邁進(jìn)，持續(xù)深化違規(guī)內(nèi)容治理與長效防控，運(yùn)用多維策略守護(hù)用戶權(quán)益，強(qiáng)化重點(diǎn)用戶關(guān)懷與網(wǎng)絡(luò)安全保護(hù)實(shí)踐，構(gòu)建全維度電商生態(tài)治理體系，守護(hù)清朗有序的溫暖家園。

　　持續(xù)深化內(nèi)容治理 規(guī)范人工智能生成內(nèi)容傳播秩序

　　過去一年，快手聚焦擾亂傳播秩序、破壞網(wǎng)絡(luò)生態(tài)等違規(guī)內(nèi)容，堅(jiān)持向下挖根、向前筑堤，推動(dòng)社區(qū)治理從違規(guī)處置向規(guī)則完善延伸，將治理觸角穿透表層、觸及本質(zhì)。

　　報(bào)告披露，針對(duì)短視頻惡意營銷行業(yè)亂象，平臺(tái)專項(xiàng)治理累計(jì)處置違規(guī)視頻15.3萬條，處置違規(guī)賬號(hào)1.2萬個(gè)。針對(duì)以“低俗擦邊”“軟色情”等方式誘導(dǎo)打賞的違規(guī)行為，截至2025年11月，平臺(tái)累計(jì)處罰主播超3.74萬名，直播誘導(dǎo)打賞違規(guī)舉報(bào)率同比下降28%。此外，對(duì)于利用特定人群特點(diǎn)進(jìn)行定向誘騙打賞的行為，平臺(tái)除封禁賬號(hào)外，還通過打賞資金前置預(yù)凍結(jié)、賬號(hào)特征挖掘與拓展布控等方式，將管控關(guān)口前移，遏制此類違規(guī)行為。

　　在團(tuán)播向?qū)I(yè)化、優(yōu)質(zhì)化發(fā)展的過程中，部分主播為追逐流量頻頻出現(xiàn)擦邊試探行為。對(duì)此，平臺(tái)建立起覆蓋事前管控、事中識(shí)別、事后處置的立體化治理體系。報(bào)告顯示，整治網(wǎng)絡(luò)直播打賞亂象專項(xiàng)行動(dòng)期間，平臺(tái)累計(jì)處置4600個(gè)低俗團(tuán)播直播間。通過壓縮低俗團(tuán)播的生存空間，讓團(tuán)播的發(fā)展真正回歸內(nèi)容質(zhì)量本身。

　　人工智能的興起對(duì)平臺(tái)內(nèi)容治理提出了新要求。在AIGC管理方面，平臺(tái)上線了“人工智能生成合成內(nèi)容標(biāo)識(shí)”和用戶“主動(dòng)聲明”功能，通過多種形式引導(dǎo)創(chuàng)作者準(zhǔn)確、規(guī)范標(biāo)注AI生成內(nèi)容，并開展濫用AI技術(shù)專項(xiàng)治理，持續(xù)凈化AI應(yīng)用生態(tài)。專項(xiàng)治理期間，平臺(tái)累計(jì)對(duì)104萬條視頻添加AI標(biāo)識(shí)，處置違規(guī)內(nèi)容8.9萬條，處置違規(guī)賬號(hào)2900余個(gè)。

　　當(dāng)前，短劇行業(yè)正迎來質(zhì)效雙升的關(guān)鍵期。快手針對(duì)違規(guī)片名、違規(guī)內(nèi)容以及違規(guī)劇“換馬甲”傳播行為，持續(xù)開展專項(xiàng)治理。報(bào)告顯示，過去一年，平臺(tái)累計(jì)處置違規(guī)網(wǎng)絡(luò)微短劇2000余部、相關(guān)違規(guī)劇集片段等內(nèi)容600萬余條、賬號(hào)1000余個(gè)。此外，快手還陸續(xù)推出了“AI創(chuàng)想劇場(chǎng)計(jì)劃”、“星芒創(chuàng)想計(jì)劃”，推動(dòng)網(wǎng)絡(luò)微短劇向精品化演進(jìn)。

　　在內(nèi)容真實(shí)性方面，平臺(tái)從信息本身與傳播源頭同時(shí)入手，推動(dòng)網(wǎng)絡(luò)謠言治理模式由事后處置向風(fēng)險(xiǎn)前置、事中干預(yù)升級(jí)。重點(diǎn)治理AIGC造假與社會(huì)熱點(diǎn)謠言，開展假冒仿冒新聞媒體、冒充公眾人物等違規(guī)行為專項(xiàng)治理。此外，平臺(tái)持續(xù)打擊網(wǎng)絡(luò)暴力，通過建立評(píng)論區(qū)管控模型、優(yōu)化開盒風(fēng)險(xiǎn)識(shí)別模型、建立熱點(diǎn)當(dāng)事人保護(hù)機(jī)制等舉措，提升網(wǎng)暴風(fēng)險(xiǎn)識(shí)別與前置預(yù)防能力，致力于將風(fēng)險(xiǎn)阻斷在傷害發(fā)生之前。

　　AI大模型賦能升級(jí)反詐治理體系，詐騙風(fēng)險(xiǎn)阻斷率提升到98%

　　作為一家以普惠為底色、高互動(dòng)、強(qiáng)參與的數(shù)字社區(qū)，快手通過多維策略，在反詐治理、打擊虛假等方面，全力為用戶權(quán)益保駕護(hù)航。報(bào)告顯示，2025年，快手使用自研反詐AI大模型開展線上引流詐騙識(shí)別攻防，顯著提升風(fēng)險(xiǎn)感知治理能力，前置識(shí)別并攔截大量風(fēng)險(xiǎn)信息，將詐騙風(fēng)險(xiǎn)阻斷率提升到98%。

　　為對(duì)抗變化多端、花樣百出的詐騙信息和引流手段，平臺(tái)日均運(yùn)行風(fēng)控反詐模型170個(gè)、反詐策略2500余個(gè)。全年開展AI外呼反詐提醒累計(jì)1670萬次，主動(dòng)提醒潛在受害人1.66億人次，發(fā)送反詐提醒10.18億次，成功勸阻大量潛在受害用戶。主動(dòng)向各地警方提供犯罪線索1.6萬余條，協(xié)助警方打擊犯罪嫌疑人960名，助力打擊網(wǎng)絡(luò)違法犯罪。

　　在持續(xù)強(qiáng)化技術(shù)反制手段的同時(shí)，快手還構(gòu)建“線上+線下”立體化反詐宣傳矩陣。在“全民反詐在行動(dòng)”集中宣傳月期間，快手聯(lián)合多地警方走進(jìn)校園開展反詐公益宣傳；同時(shí)，積極創(chuàng)新線上宣傳形式，如云南警方聯(lián)合山人樂隊(duì)、快手推出養(yǎng)老反詐版云南山歌《酒歌》，揭露各類養(yǎng)老騙局?？焓诌€聯(lián)合中國警察網(wǎng)、演員陳都靈、四平董叔、二龍湖浩哥等多方力量，推出警察與明星反詐小短劇，揭露冒充明星、冒充警察等針對(duì)未成年人的高發(fā)詐騙套路。通過持續(xù)豐富宣傳內(nèi)容與形式，全方位提升用戶反詐防騙意識(shí)，營造全民反詐的社區(qū)氛圍。

　　報(bào)告還提到，針對(duì)發(fā)布虛假信息等侵害用戶權(quán)益的違規(guī)行為，平臺(tái)開展多維打擊。平臺(tái)基于多維度頻控策略與識(shí)別策略，處罰直播間刷人氣用戶84萬個(gè)；針對(duì)涉企侵權(quán)內(nèi)容，通過專項(xiàng)治理、明確平臺(tái)規(guī)則、設(shè)立侵權(quán)投訴機(jī)制等方式，維護(hù)企業(yè)正常經(jīng)營秩序和良好網(wǎng)絡(luò)營商環(huán)境。報(bào)告顯示，平臺(tái)下架涉企侵權(quán)視頻7.5萬余個(gè)。

　　此外，平臺(tái)持續(xù)加強(qiáng)顯性和隱性AI水印識(shí)別檢測(cè)、人臉深度偽造技術(shù)研究，體系化提升治理水平。截至2025年11月，平臺(tái)累計(jì)攔截、清理涉濫用AI技術(shù)仿冒名人的違規(guī)視頻內(nèi)容10萬余條，有力打擊了此類誤導(dǎo)公眾的違規(guī)行為。

　　強(qiáng)化重點(diǎn)用戶關(guān)懷保護(hù) 共筑科技向善的同行方舟

　　在不斷優(yōu)化治理效能的同時(shí)，快手開展多元化網(wǎng)絡(luò)安全保護(hù)與人文關(guān)懷實(shí)踐，致力于在紛繁復(fù)雜的網(wǎng)絡(luò)空間中激發(fā)善意、傳遞溫暖。

　　快手始終將未成年人保護(hù)視為平臺(tái)治理工作的重中之重，持續(xù)為未成年人打造安全、健康的網(wǎng)絡(luò)環(huán)境。報(bào)告顯示，快手積極推進(jìn)未成年人模式體系建設(shè)，與多家手機(jī)廠商聯(lián)動(dòng)開發(fā)未成年人模式一鍵啟動(dòng)功能，并新增涵蓋語言學(xué)習(xí)、教育、科學(xué)等領(lǐng)域的主題專區(qū)及語音文字搜索等新功能，以更優(yōu)質(zhì)、豐富的內(nèi)容提升未成年人使用體驗(yàn)。

　　去年暑期，平臺(tái)開展了未成年人網(wǎng)絡(luò)環(huán)境整治專項(xiàng)行動(dòng)，針對(duì)危害未成年人健康成長的網(wǎng)絡(luò)違規(guī)行為開展全面整治。專項(xiàng)行動(dòng)期間，累計(jì)處置違規(guī)內(nèi)容19.1萬條、處置賬號(hào)2.7萬個(gè)、解散群聊2270余個(gè)，下架違規(guī)商品1290余個(gè)。此外，針對(duì)“開盒”等新型網(wǎng)絡(luò)暴力，平臺(tái)細(xì)化風(fēng)險(xiǎn)識(shí)別場(chǎng)景，上線細(xì)分識(shí)別模型，推出“群聊彈窗提示”，并新增“發(fā)布開盒信息”舉報(bào)標(biāo)簽，有效提升了風(fēng)險(xiǎn)發(fā)現(xiàn)與違規(guī)處置效率，強(qiáng)化了群聊場(chǎng)景的風(fēng)險(xiǎn)阻斷能力。

　　在守護(hù)未成年人成長方面，去年9月，由共青團(tuán)中央宣傳部指導(dǎo)，快手作為戰(zhàn)略合作單位，發(fā)起了青少年健康用網(wǎng)公益行動(dòng)。幾個(gè)月來，公益行動(dòng)走進(jìn)六省十地校園與社區(qū)，邀請(qǐng)家庭教育、網(wǎng)絡(luò)安全、AI等領(lǐng)域的專家學(xué)者，以及法官、檢察官、民警、思政課老師和快手創(chuàng)作者，圍繞隔空猥褻、網(wǎng)絡(luò)詐騙、AI使用風(fēng)險(xiǎn)、親子關(guān)系培養(yǎng)等角度開展科普，推動(dòng)青少年網(wǎng)絡(luò)安全宣傳教育深入基層、貼近生活，助力未成年人安全上網(wǎng)。

　　報(bào)告還提到，平臺(tái)持續(xù)迭代升級(jí)自殺干預(yù)預(yù)警系統(tǒng)，依托大模型的意圖洞察與風(fēng)險(xiǎn)定位能力，預(yù)警系統(tǒng)可在海量直播中自動(dòng)鎖定高危風(fēng)險(xiǎn)信息，并聯(lián)動(dòng)預(yù)警機(jī)制直通平臺(tái)自殺干預(yù)救助小組。大模型自動(dòng)生成風(fēng)險(xiǎn)摘要與關(guān)鍵信息鏈?zhǔn)寡信行侍嵘?0%，核實(shí)時(shí)間成本縮減至分鐘級(jí)，實(shí)現(xiàn)“風(fēng)險(xiǎn)信號(hào)及時(shí)干預(yù)、救助聯(lián)動(dòng)分鐘級(jí)響應(yīng)”，當(dāng)好用戶生命安全的“守門人”。

　　AI大模型落地 構(gòu)建全維度電商生態(tài)治理體系

　　隨著直播電商進(jìn)入高質(zhì)量發(fā)展新階段，行業(yè)正由“規(guī)模擴(kuò)張”轉(zhuǎn)向“質(zhì)量深耕”。報(bào)告顯示，2025年，快手電商以AI大模型為核心，構(gòu)建全維度電商生態(tài)治理體系，針對(duì)虛假宣傳、不正當(dāng)營銷、假貨等行業(yè)亂象開展專項(xiàng)治理，推動(dòng)生態(tài)健康可持續(xù)發(fā)展。

　　針對(duì)長期困擾電商行業(yè)的虛假宣傳、劇本炒作等頑疾，快手電商在2025年實(shí)現(xiàn)了從人工審核向AI大模型治理的轉(zhuǎn)變。平臺(tái)通過AI模型算法對(duì)高風(fēng)險(xiǎn)商品進(jìn)行全量回掃，整體風(fēng)險(xiǎn)漏放率已降至0.1%，虛假宣傳舉報(bào)率降幅達(dá)35%。

　　特別是在治理劇本炒作和虛假人設(shè)方面，平臺(tái)構(gòu)建了全鏈條治理體系。例如，系統(tǒng)可實(shí)時(shí)識(shí)別直播間演繹家庭矛盾誘導(dǎo)下單的行為，并自動(dòng)觸發(fā)彈窗預(yù)警、直播遮罩乃至斷播處罰。2025年，此類炒作賣貨舉報(bào)率同比降低了61%。

　　此外，針對(duì)短視頻領(lǐng)域AI仿冒名人明星、虛假人設(shè)情感綁架等新型虛假違規(guī)行為，平臺(tái)屏蔽相關(guān)電商類短視頻5000多條，封禁清退商家700余人次。

　　在商品質(zhì)量與知識(shí)產(chǎn)權(quán)保護(hù)方面，AI技術(shù)同樣發(fā)揮了核心作用?？焓蛛娚?025年實(shí)現(xiàn)抽檢機(jī)制的全面自動(dòng)化。目前，所有品類均可實(shí)現(xiàn)問題商品自動(dòng)識(shí)別與自動(dòng)派單，大幅降低了人為干預(yù)風(fēng)險(xiǎn)。

　　報(bào)告顯示，2025年快手電商升級(jí)假貨識(shí)別模型，全年識(shí)別攔截風(fēng)險(xiǎn)商品190萬件，處置假貨商品3萬余件，打擊治理相關(guān)風(fēng)險(xiǎn)商家1.58萬個(gè)。在禁售商品治理上，極端風(fēng)險(xiǎn)商品日均攔截能力提升至3萬件以上；借助多模態(tài)大模型，高風(fēng)險(xiǎn)類目錯(cuò)放漏放率降至0.47%。同時(shí)，平臺(tái)對(duì)接國家版本館等權(quán)威數(shù)據(jù)庫，下架超40萬不合規(guī)圖書商品。