應用

阿里研發 AI 黑科技,有望替代人工鑒黃師

2025China.cn   2021年04月25日

  頭圖 | 下載于ICphoto

  出品 | AI科技大本營

  互聯網內容越來越朝著視頻化方向發展,短視頻處于爆發期,一些不法分子試圖利用視頻風口牟利。3月底,深圳警方打掉了一起以短視頻APP為載體,大肆從事淫穢傳播、網絡賭博以及網絡詐騙等犯罪活動。

  最近,阿里安全圖靈實驗室發布了一項關于社會文化的研究,這是一種新型視頻描述方法(SGR),可用于視頻內容安全和視頻檢索等場景,助力建設互聯網清朗環境。該研究成果已經被人工智能國際頂會CVPR2021(oral)收錄。

  讓AI做“閱讀理解”

  現有的密集型視頻描述生成方法采用自底向上的方式,即先生成大量的事件候選片段,再為每個片段獨立的生成描述,從而組合得到密集型視頻描述。然而,視頻中事件具有很強的多樣性,既可以簡單到是一個動作,也可以復雜到是若干事件的組合,這導致事件候選片段的生成目標不明確,對應的密集型描述不夠連貫和準確,且充斥著大量冗余。

  對此,研究者提出了自頂向下的密集型視頻描述方法,即SGR。

  SGR可以實現兩類基本功能,一是讓AI對視頻內容做“閱讀理解”,生成一段長文本描述視頻中心內容,二是可以根據描述性的文本精準匹配視頻中的相關片段。

  此前,必須人工定義關鍵詞詞庫后才能“指揮”AI命中檢索,這項AI技術的目標是僅通過輸入自然語言就能實現檢索,對AI“說句話”,就能找到相應片段。

  “視頻中如果有人拿起鼠標,點擊電腦,然后脫掉衣服,呈現黃賭毒等相關違規信息,以前的技術路徑上,AI可能還要分析脫掉衣服之前的動作,其實拿鼠標和點擊電腦與后面的違規內容沒什么關聯,無需提取這些信息。”該研究第一作者、阿里安全圖靈實驗室實習算法工程師青崧介紹道。

  SGR解決了這個問題。給定一個視頻,AI可對視頻的關鍵候選片段無縫銜接成一個完整的故事,保證了密集型描述的連貫性,且減少了冗余。

  為了進一步增加視頻片段的描述細節,研發人員設計了描述提升模塊,以初步得到的密集型視頻描述和視頻片段為基準,提出專用于描述質量提升的強化學習策略,來生成細節更豐富的密集型視頻描述。方法結構如下圖所示:

  該項研究的共同作者、阿里安全圖靈實驗室高級算法工程師雍秦介紹,雖然目前這個技術還無法做到“1分鐘講清楚一部電影”,但可做到“兩句話講清楚一個10分鐘以內的短視頻”,這意味著通過該技術未來可迅速判斷整個視頻的關鍵信息是否包含黃賭毒等違規內容。

  更快更準識別違規風險內容

  通過這兩個功能,AI能快速識別、準確定位違規片段,無需人類鑒黃師反復回看確認。

  雍秦透露,在SGR技術研究基礎上,阿里安全近期還將研發低門檻、高可用的“鑒黃”AI工具,讓AI對視頻不同片段打出“危險指數”,依賴信息提取直接關聯高亮風險片段,讓AI鑒黃更智能、高效。

  未來,在實際應用場景中,通過AI來進行不良內容識別的研判準確性和效率將大幅提高,比如判斷視頻內容中是否有“一個穿著暴露蘿莉裝的女孩鴨子坐著在錄吃播”,以往要形成“暴露蘿莉裝”“鴨子坐”“吃播”三個標簽,每次依據一個標簽進行一輪審核,判斷視頻內容是否涉嫌低俗,三輪審核交叉驗證。創新工具應用后,AI只用輸入“一個穿著暴露蘿莉裝的女孩鴨子坐著在錄吃播”這句話進行一輪研判,準確性也更高。

  圖說:阿里安全近期將研發低門檻、高可用的“鑒黃”AI工具,該圖為示意模型。

  阿里安全圖靈實驗室資深算法專家華棠指出,阿里安全一直希望從源頭守護安全,這是阿里安全方法論“新一代安全架構”的核心理念。“互聯網上每天產生海量視頻,單靠人力無法維護互聯網清朗環境,違規視頻危及大眾心理健康和財產安全,創新算法可以有更多用武之地,構建美好安全的網絡生活。”

  作者簡介:鄧超睿,阿里安全實習生,阿德萊德大學一年級博士,主要研究視頻理解、圖像理解,物體檢測等方向,在TPAMI、CVPR、ECCV等學術期刊和會議上發表多篇文章,目前從事視頻物體檢測和檢索的研究工作,利用創新算法提升視頻內容安全的審核技術。

標簽:阿里 AI黑科技 我要反饋 
ABB云展車
世強
工廠MRO間接材使用及管理調研
專題報道
數字化轉型 – 數據賦能——2021西門子化工及玻璃行業客戶日
數字化轉型 – 數據賦能——2021西門子化工及玻璃行業客戶日

西門子作為全球領先的電氣化、自動化和數字化解決方案供應商,始終是中國化工及玻璃光伏企業數字化轉型的忠實合作伙伴。值此之際

大族機器人 MAiRA 多感知智能機器人助手
大族機器人 MAiRA 多感知智能機器人助手

MAiRA高度集成了最新型的傳感器,在控制系統和應用中完美實現前所未有的人工智能集成,引領協作機器人步入智能時代。耐用而

TeSys Giga 系列電動機控制與保護
TeSys Giga 系列電動機控制與保護

作為本地化研發的最新結晶,TeSys Giga系列電動機控制與保護產品通過融入多項自主創新專利技術,以更簡約的創新設計,

加勒比hezyo无码专区