2月24日，今日頭條在北京舉辦平臺(tái)治理開(kāi)放日，圍繞AI謠言、同質(zhì)化發(fā)文、網(wǎng)絡(luò)詐騙等熱議的網(wǎng)絡(luò)治理焦點(diǎn)，與會(huì)嘉賓共同分享今日頭條過(guò)去一年來(lái)在安全治理、內(nèi)容生態(tài)等方面的細(xì)致舉措及有效經(jīng)驗(yàn)。
活動(dòng)現(xiàn)場(chǎng)，今日頭條相關(guān)業(yè)務(wù)負(fù)責(zé)人與學(xué)界專(zhuān)家紛紛發(fā)表演講，對(duì)近年來(lái)AI謠言與AI技術(shù)治理等議題給予了高度關(guān)注。
今日頭條生態(tài)治理運(yùn)營(yíng)負(fù)責(zé)人韓雨桐介紹稱(chēng)，平臺(tái)很早就關(guān)注到AI謠言等情況、問(wèn)題的出現(xiàn)，更針對(duì)性升級(jí)、迭代了AI模型的識(shí)別能力。在四位一體防御工事外，還建立起了包括謠言庫(kù)、權(quán)威信源庫(kù)以及專(zhuān)業(yè)審核團(tuán)隊(duì)在內(nèi)的三大核心治理能力，全面優(yōu)化了AI謠言的防控水平，加強(qiáng)了對(duì)AI謠言、低質(zhì)內(nèi)容的可靠治理和管控。
會(huì)上，清華大學(xué)新聞與傳播學(xué)院副教授陸洪磊分享了題為《AI謠言治理：多方協(xié)力的數(shù)字戰(zhàn)役》的演講，在聚焦AI謠言產(chǎn)生背景及特點(diǎn)。他指出，伴隨AI技術(shù)的進(jìn)一步應(yīng)用，生成式AI正在重塑網(wǎng)絡(luò)信息的傳播生態(tài)，體現(xiàn)在內(nèi)容端就是AI謠言的日益猖獗。在AI的加持之下，謠言實(shí)現(xiàn)了分平臺(tái)、分渠道、分時(shí)段、分媒介的定制化發(fā)布，為網(wǎng)絡(luò)環(huán)境帶來(lái)了更加嚴(yán)峻的跨平臺(tái)影響。其低廉的成本和倍率傳播特性，使得辟謠難度大幅增加。而AI技術(shù)自我學(xué)習(xí)和自我強(qiáng)化的特性，匹配AI生成圖片等造假手段，使得AI謠言越來(lái)越逼真，對(duì)于內(nèi)容平臺(tái)來(lái)說(shuō)這無(wú)疑是一場(chǎng)需要特別關(guān)注的“進(jìn)化危機(jī)”。
清華大學(xué)新聞與傳播學(xué)院副教授陸洪磊如何應(yīng)對(duì)這一新的態(tài)勢(shì)，陸洪磊以今日頭條為例，指出今日頭條平臺(tái)所采取的“內(nèi)容治理制度、內(nèi)容審核、辟謠教育、內(nèi)外聯(lián)動(dòng)”四位一體防御工事，為AI謠言的治理提供了一條具有可行性的發(fā)展之路。
事實(shí)證明，今日頭條對(duì)AI謠言的相關(guān)治理舉措卓有成效。不久前今日頭條發(fā)布的《2024年度治理報(bào)告》中顯示，截止2024年底，今日頭條平臺(tái)已處理低質(zhì)AI內(nèi)容超93萬(wàn)條，禁言、封禁相關(guān)賬號(hào)超2.9萬(wàn)個(gè)，用戶(hù)關(guān)于低質(zhì)AI內(nèi)容的負(fù)反饋量級(jí)從28條/天降到了2條/天，有效抑制和打擊了AI謠言的傳播鏈條與傳播溫床。
陸洪磊認(rèn)為，AI謠言的治理難以依靠單一力量來(lái)完成，需要聯(lián)動(dòng)各方建立謠言線索互通機(jī)制。在協(xié)同治理方面，平臺(tái)需要做好技術(shù)的守門(mén)員，加強(qiáng)跨平臺(tái)辟謠合作，破解AI謠言的“deepfake”陷阱；平臺(tái)也可以考慮推出“事實(shí)快速核驗(yàn)通道”，激發(fā)用戶(hù)的反謠言意識(shí)，便于遏制謠言的傳播。執(zhí)法機(jī)構(gòu)需要做好法治保障的護(hù)盤(pán)手，加快相關(guān)法律細(xì)則的出臺(tái)和落實(shí)，建立“技術(shù)取證-電子證據(jù)-司法鑒定”的全鏈條執(zhí)法標(biāo)準(zhǔn)；而每位網(wǎng)民則都應(yīng)當(dāng)成為理性的受者和傳者，轉(zhuǎn)發(fā)前思考三秒，分析一下信息來(lái)源是否真實(shí)、邏輯是否合理、是否屬于誘導(dǎo)內(nèi)容等，并對(duì)可疑內(nèi)容主動(dòng)進(jìn)行核實(shí)。
陸洪磊總結(jié)道，魔高一尺，道高一丈。當(dāng)網(wǎng)友發(fā)現(xiàn)AI圖片中的異常字母時(shí)，他們會(huì)在評(píng)論區(qū)自發(fā)形成的“真相拼圖”，這正是協(xié)同治理最生動(dòng)的注腳。