很多用戶(hù)會(huì )上傳一些色情、反國、欺詐之類(lèi)的非法視頻，產(chǎn)品體量較少時(shí)，通過(guò)運營(yíng)人員的審核是不費力的，可是當產(chǎn)品規模用戶(hù)龐大，生產(chǎn)的快手短視頻足夠多時(shí)，僅僅依靠人力很難解決這個(gè)問(wèn)題，那么應該運營(yíng)什么技術(shù)手段去處理這類(lèi)問(wèn)題呢？
1、數據庫匹配
任何文件都有且只有一個(gè)獨一無(wú)二的特定數值，類(lèi)似于身份證號碼，這些應用的后臺可以建立違規文件的特定數值數據庫，數據來(lái)自監管部門(mén)不斷的更新中。用戶(hù)上傳視頻后，由該視頻數值去數據庫匹配，匹配上就認為是危險視頻，然后予以刪除，匹配不上，就進(jìn)入步驟二
2、視頻轉圖片

將初審過(guò)的視頻轉化成截圖，例如每0.5秒一張，具體多少取決于產(chǎn)品階段和運營(yíng)策略等等，然后通過(guò)圖像智能識別系統來(lái)進(jìn)行甄別。該系統說(shuō)起來(lái)簡(jiǎn)單，但背后涉及到的東西卻不簡(jiǎn)單，有興趣的可以搜一下進(jìn)一步了解。

3、聲音識別
目前可以做到語(yǔ)音轉文字，也支持部分方言，比如廣東話(huà)。轉化成文字后，進(jìn)行審核。審核的關(guān)鍵就是屏蔽字庫。
4、其他機制
通過(guò)以上方式可以解決絕大部分視頻內容的審核問(wèn)題，拿不準的可以由運營(yíng)人員介入人工來(lái)進(jìn)行審核，除此之外還有舉報機制，在此就不展開(kāi)了。另外，可以想到的策略有：新用戶(hù)、高危IP、虛擬號段等用戶(hù)發(fā)的內容審核級別提高，或者先審再發(fā)，顯示僅自己可見(jiàn)；大V用戶(hù)或者優(yōu)質(zhì)用戶(hù)降低審核級別，或者是先發(fā)再審，顯示為所有人可見(jiàn)。網(wǎng)絡(luò )監管越來(lái)越嚴格，很多app均需要手機號、實(shí)名注冊，這也就增加了用戶(hù)的違法成本。