原標(biāo)題：揭秘網(wǎng)絡(luò)直播平臺審核流程——“機器+人工”審核 每秒300張截圖鑒黃

　　作為時下最熱門的信息傳播平臺之一，量大面廣、轉(zhuǎn)瞬即逝的網(wǎng)絡(luò)直播如何審核監(jiān)管？

　　據(jù)了解，根據(jù)公安部相關(guān)規(guī)定以及近期國家網(wǎng)信辦發(fā)布的《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》，網(wǎng)絡(luò)直播平臺不得利用直播從事危害國家安全、破壞社會穩(wěn)定、擾亂社會秩序、侵犯他人合法權(quán)益、傳播淫穢色情等法律法規(guī)禁止的活動，不得利用互聯(lián)網(wǎng)直播服務(wù)制作、復(fù)制、發(fā)布、傳播法律法規(guī)禁止的信息內(nèi)容。網(wǎng)絡(luò)直播平臺所在網(wǎng)絡(luò)公司，應(yīng)采取技術(shù)安全措施，防止外來攻擊；還要設(shè)立安全團(tuán)隊，對內(nèi)容、系統(tǒng)、數(shù)據(jù)等安全進(jìn)行防護(hù)，防止非法和低俗內(nèi)容播出。而明年6月1日起將實施的《中華人民共和國網(wǎng)絡(luò)安全法》，將進(jìn)一步加強網(wǎng)絡(luò)安全方面的法律規(guī)范。

　　記者從一些直播平臺了解到，業(yè)內(nèi)一般采取“機器審核”+“人工審核”模式，同時還采取各種安全技術(shù)防護(hù)措施。以被網(wǎng)友稱為“B站”的嗶哩嗶哩彈幕網(wǎng)的直播平臺為例，過去一些平臺采取“每2至4分鐘的截圖審核”“關(guān)鍵幀監(jiān)察”“第三方圖片識別”等技術(shù)模式，從截圖到完成人工響應(yīng)，時間超過4分鐘。該網(wǎng)站針對自己網(wǎng)站中“二次元”內(nèi)容作為“主打”的特點，應(yīng)用AlexNet的“鑒黃模型”，每秒處理300張截圖；嫌疑圖片從讀圖、圖片傳輸、計算、返回結(jié)果，全程平均響應(yīng)時間約2.2秒；10至15秒內(nèi)，后臺人工審核便可完成對嫌疑圖片的二次判斷。另外，有了它的幫助，監(jiān)管方能在其他用戶沒有正常進(jìn)入直播間前，就切斷或鎖定直播間，避免有害信息傳播。

　　今年以來，上海公安網(wǎng)安部門主動提前介入、加強源頭管理、引導(dǎo)行業(yè)自律，組織開展網(wǎng)絡(luò)直播平臺專項整治工作，建立并完善監(jiān)管治理機制，督促直播平臺落實“主體責(zé)任”，最大限度擠壓網(wǎng)絡(luò)違法行為空間。其間，共排查本市網(wǎng)絡(luò)直播平臺37家，查處21家，關(guān)停違規(guī)直播間1000余個，注銷未實名認(rèn)證主播1000余個，有力凈化了本市網(wǎng)絡(luò)空間環(huán)境。