12月27日，抖音發(fā)布2024年直播治理報(bào)告，全面闡釋抖音直播過(guò)去一年的治理理念、技術(shù)及最新成果。

報(bào)告稱，抖音在過(guò)去一年持續(xù)迭代主播“健康分”，通過(guò)加減分定級(jí)定檔的長(zhǎng)效管理機(jī)制引導(dǎo)主播“向善”，獲得顯著成效。此外，抖音利用AI技術(shù)不斷提升治理速度和精度，有效解決風(fēng)險(xiǎn)曝光時(shí)長(zhǎng)的痛點(diǎn)。升級(jí)未成年人保護(hù)機(jī)制，并積極探索“城市+平臺(tái)”治理模式，完善綜合治理體系。抖音直播還配合相關(guān)部門打擊黃賭毒詐黑色產(chǎn)業(yè)鏈，搗毀百余個(gè)犯罪窩點(diǎn)，從源頭消除違法犯罪分子對(duì)直播行業(yè)的污染，全力維護(hù)行業(yè)的健康發(fā)展。

主播管理精細(xì)化運(yùn)營(yíng)  機(jī)構(gòu)需承擔(dān)管理責(zé)任 

2024年1月3日，抖音直播新版“健康分”管理機(jī)制正式生效，該機(jī)制是在針對(duì)直播間違規(guī)內(nèi)容做單次處罰的基礎(chǔ)上，平臺(tái)根據(jù)主播日常直播增減賬號(hào)“健康分”，并依據(jù)分值對(duì)賬號(hào)分級(jí)定檔，對(duì)應(yīng)不同的長(zhǎng)效管理措施。這也意味著，抖音的主播管理進(jìn)入精細(xì)化運(yùn)營(yíng)階段。

報(bào)告介紹，“健康分”低于70的主播，會(huì)被減少推薦、限制單日PK次數(shù)，甚至限制違規(guī)場(chǎng)次收益提現(xiàn)、關(guān)閉禮物收入功能等，0分主播則永久回收直播權(quán)限。主播的長(zhǎng)期表現(xiàn)和收益綁定后，大量主播開(kāi)始主動(dòng)修正內(nèi)容。至2024年底，共有100萬(wàn)主播被扣除過(guò)健康分，76%的低分主播主動(dòng)調(diào)整內(nèi)容后不再違規(guī)，直播間違規(guī)率明顯下降。

同時(shí)，抖音直播制定了將“主播健康分”與機(jī)構(gòu)進(jìn)行關(guān)聯(lián)的管理規(guī)則，如主播內(nèi)容違規(guī)，機(jī)構(gòu)需要承擔(dān)對(duì)應(yīng)的管理責(zé)任，并持續(xù)開(kāi)展機(jī)構(gòu)安全培訓(xùn)，2024年，機(jī)構(gòu)主播的重復(fù)違規(guī)率下降10%。

引入音頻審核大模型，強(qiáng)化違規(guī)內(nèi)容治理

直播的魅力在于“所見(jiàn)即所得”，這決定了直播治理的關(guān)鍵在于最短時(shí)間識(shí)別、定位并處置違規(guī)直播，盡可能縮短違規(guī)內(nèi)容曝光時(shí)長(zhǎng)。

抖音直播在原有的AI應(yīng)用基礎(chǔ)上引入音頻審核大模型，通過(guò)大量預(yù)訓(xùn)練，使其逐步掌握直播場(chǎng)景中的常用表達(dá)方式，并具備基本的邏輯推理能力，還能在分析文本內(nèi)容的同時(shí)，兼顧環(huán)境音、氛圍音等信號(hào)特征，感知音頻包含的情緒，輔助判斷語(yǔ)義。AI 技術(shù)的深度應(yīng)用，將有效改善違規(guī)內(nèi)容曝光時(shí)長(zhǎng)的核心痛點(diǎn)，未來(lái)大量風(fēng)險(xiǎn)內(nèi)容的識(shí)別、研判將逐漸由人審處置轉(zhuǎn)移為機(jī)器自動(dòng)識(shí)別 + 處置。

2024 年，隨著 AI 大模型在直播審核、處置上的廣泛應(yīng)用，抖音直播著重加強(qiáng)對(duì)各類違規(guī)內(nèi)容的治理，開(kāi)展二十余次專項(xiàng)行動(dòng)，共無(wú)限期回收直播權(quán)限賬號(hào)32萬(wàn)個(gè)，清退直播機(jī)構(gòu)526家。

升級(jí)重點(diǎn)人群保護(hù)機(jī)制   探索“城市+平臺(tái)”聯(lián)動(dòng)治理模式  

同時(shí)，抖音也在持續(xù)完善綜合治理體系，結(jié)合城市、人群特點(diǎn)，探索不同的治理模式。2024年，抖音直播升級(jí)未成年人保護(hù)機(jī)制，推廣“青少年模式”應(yīng)用。“青少年模式”不提供打賞消費(fèi)服務(wù)，可從源頭阻斷未成年人直播消費(fèi)，平臺(tái)也同步加強(qiáng)對(duì)未成年人繞過(guò)青少年模式消費(fèi)等行為的監(jiān)督。

未經(jīng)監(jiān)護(hù)人允許的未成年人打賞消費(fèi)，一經(jīng)核實(shí)，抖音直播將先行全額墊付退賠，平均21小時(shí)可完成退款，2024年共幫助9.5萬(wàn)個(gè)未成年人所在家庭快速退款。對(duì)于這些退款賬號(hào)，平臺(tái)將關(guān)閉其充值消費(fèi)功能，預(yù)防再次消費(fèi)。

另一方面，抖音直播在網(wǎng)紅城市爆火的背景下，積極探索“城市+平臺(tái)”治理模式。2024年，抖音直播聯(lián)動(dòng)長(zhǎng)沙、沈陽(yáng)等城市的相關(guān)部門，結(jié)合直播特點(diǎn)針對(duì)性建立“快速預(yù)防+高效處置”的聯(lián)動(dòng)機(jī)制，對(duì)反復(fù)違規(guī)的賬號(hào)升級(jí)處置力度、對(duì)涉及線下違規(guī)的行為共同打擊，違規(guī)行為大幅減少，并在多部門協(xié)同下，與直播機(jī)構(gòu)、主播代表等發(fā)起文明直播的行業(yè)倡議。

加強(qiáng)與警方配合，嚴(yán)厲打擊線下違法犯罪行為

平臺(tái)在治理中還發(fā)現(xiàn)，大部分嚴(yán)重違規(guī)的直播間，如低俗色情、詐騙導(dǎo)流等，都來(lái)自線下違法甚至犯罪行為，僅靠線上治理無(wú)法真正解決問(wèn)題。即便在單個(gè)平臺(tái)防范住某個(gè)黑產(chǎn)團(tuán)伙，他們?nèi)钥梢岳闷渌脚_(tái)進(jìn)行違法犯罪行為，嚴(yán)重阻礙行業(yè)健康發(fā)展。

在此背景下，過(guò)去一年抖音直播成立專項(xiàng)團(tuán)隊(duì)，分級(jí)分類摸排違規(guī)線索，深入研判賬號(hào)信息特征后上報(bào)公安機(jī)關(guān)，并緊密配合相關(guān)部門對(duì)黑灰產(chǎn)的查處；上線多個(gè)針對(duì)性內(nèi)容檢測(cè)能力，前置打擊企圖在直播前利用頭像、背景圖、評(píng)論等信息進(jìn)行色情引流的賬號(hào)；直播中對(duì)暴露色情二維碼等內(nèi)容實(shí)現(xiàn)快速斷播，色情黑產(chǎn)重復(fù)違規(guī)率減少30%，無(wú)限期回收7.4萬(wàn)個(gè)涉色情導(dǎo)流、15萬(wàn)個(gè)涉嫌導(dǎo)流欺詐黑灰產(chǎn)賬號(hào)的直播權(quán)限。一年來(lái)，抖音直播主動(dòng)向相關(guān)部門上報(bào)黑產(chǎn)線索300余條，配合公安機(jī)關(guān)搗毀犯罪窩點(diǎn)100余個(gè)，抓捕犯罪嫌疑人361名。