移動(dòng)互聯(lián)網(wǎng)時(shí)代數(shù)字媒體及社交平臺快速發(fā)展，互聯(lián)網(wǎng)數(shù)據(jù)量水漲船高，其中視頻類數(shù)據(jù)占比達(dá)到了80％，這標(biāo)志著國內(nèi)外一批優(yōu)秀的流媒體視頻平臺的快速成長，而在社交媒體領(lǐng)域視頻也成了主要的信息載體，大量的數(shù)據(jù)內(nèi)容審核需求隨之而來。對于平臺方而言內(nèi)容審核很關(guān)鍵，通常國內(nèi)主流的社交產(chǎn)品都擁有超過千人的審核團(tuán)隊(duì)，流媒體巨頭YouTube、社交巨頭Facebook的內(nèi)容審核人員更是超過萬人。

對于內(nèi)容審核而言，常見的問題包括造謠、傳謠、色情、暴力、種族等，這些問題在UGC平臺尤為凸顯。因?yàn)橛脩艋鶖?shù)龐大，在用音視頻形式輸出內(nèi)容時(shí)，對于平臺等審查難度隨之提高，并且有時(shí)違規(guī)內(nèi)容的邊界并不十分的清晰，這都給內(nèi)容審核者的工作帶來困難。當(dāng)下常見的內(nèi)容審核機(jī)制分為兩種，一是采用過用戶標(biāo)記有問題的內(nèi)容讓機(jī)器學(xué)習(xí)，二是平臺根據(jù)用戶直接上報(bào)侮辱性、攻擊性內(nèi)容，從管理系統(tǒng)上標(biāo)記此類內(nèi)容，進(jìn)行特別審核并刪除。

政策及行業(yè)層面，國家互聯(lián)網(wǎng)信息辦公室在2019年11月－12月先后發(fā)布了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》和《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》。對網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者、網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺、網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者、網(wǎng)絡(luò)行業(yè)組織等提出了明確的管理要求。隨后，中國網(wǎng)絡(luò)視聽節(jié)目服務(wù)協(xié)會(huì)聯(lián)合央視網(wǎng)、芒果TV、騰訊視頻、優(yōu)酷等多家平臺共同制訂了《網(wǎng)絡(luò)綜藝節(jié)目內(nèi)容審核標(biāo)準(zhǔn)細(xì)則》，經(jīng)協(xié)會(huì)常務(wù)理事會(huì)會(huì)議審議通過，并發(fā)布。

在此背景下，極鏈科技Video＋＋針對目前行業(yè)面臨的主要問題，響應(yīng)政策號召，結(jié)合人工智能技術(shù)，打造全棧式智能內(nèi)容安全審核引擎——神眼系統(tǒng)，用AI技術(shù)幫助平臺方減輕內(nèi)容審核壓力、降低內(nèi)容審核成本，為客戶提供一站式的智能內(nèi)容安全解決方案。

神眼內(nèi)容安全審核系統(tǒng)基于先進(jìn)的深度學(xué)習(xí)算法，面向視頻平臺、社交網(wǎng)站、網(wǎng)絡(luò)社區(qū)、融媒體等客戶群體，提供包括視頻、文本、圖像等泛內(nèi)容的涉黃、暴力、政治敏感等風(fēng)險(xiǎn)內(nèi)容的識別，高效遏制風(fēng)險(xiǎn)、全面釋放審核人力、提高審核效率、凈化網(wǎng)絡(luò)環(huán)境、提升用戶體驗(yàn)。

產(chǎn)品核心功能包括：智能鑒黃、智能鑒暴、政治敏感人物識別、公眾人物識別、違禁品識別、廣告檢測、圖像質(zhì)量檢測、logo識別、OCR審核等。該系統(tǒng)支持本地私有化部署，獨(dú)立的運(yùn)營平臺滿足精細(xì)化運(yùn)營需求，并為客戶配套三次審核流程，機(jī)器＋人工雙重保障審核準(zhǔn)確率高于行業(yè)平均水平，為企業(yè)構(gòu)建牢不可破的安全防御體系。

神眼內(nèi)容安全審核系統(tǒng)基于海量特征樣本的多維度內(nèi)容識別技術(shù)，采取全序列采樣識別，支持軌跡流跟蹤，有效提升視頻抽幀的質(zhì)量和檢測效率。該技術(shù)能為視頻、圖片、文本等場景提供強(qiáng)大的深度學(xué)習(xí)算法和算力保證，對政治人物、色情、暴恐、旗幟等內(nèi)容進(jìn)行識別審核，大幅度降低內(nèi)容風(fēng)險(xiǎn)，可減少90％以上人工審核成本。

經(jīng)過多年的技術(shù)迭代升級，極鏈科技Video＋＋構(gòu)筑了技術(shù)壁壘，擁有視頻識別、圖像識別、文本識別等人工智能技術(shù)，沉淀了包括VideoAI金目視頻內(nèi)容結(jié)構(gòu)化引擎、頑石OS視聯(lián)網(wǎng)操作系統(tǒng)、VideoNet視頻AI數(shù)據(jù)集等一系列的基礎(chǔ)平臺，專注消費(fèi)級視頻AI技術(shù)研發(fā)和商業(yè)應(yīng)用。

目前，神眼內(nèi)容安全審核系統(tǒng)已全面對外開放，極鏈期待與更多企業(yè)攜手并進(jìn)，共同努力打造更加安全健康的網(wǎng)絡(luò)環(huán)境。