美團云內容安全產(chǎn)品助力美團點(diǎn)評告別人工審核

最近，兩家在線(xiàn)教育平臺因為APP內容涉黃而引發(fā)一場(chǎng)"互掐".雙方互指對方構陷以實(shí)現打壓對手的目的。脫離事件本身，從在線(xiàn)教育領(lǐng)域用戶(hù)體驗來(lái)說(shuō)，K12群體是在線(xiàn)教育的主要受眾，對這一群體來(lái)說(shuō)，網(wǎng)絡(luò )是他們獲取知識形成人生觀(guān)、價(jià)值觀(guān)的重要渠道，網(wǎng)絡(luò )環(huán)境的安全與否對于教育的影響也越來(lái)越明顯。

目前，我國有近3億的青少年網(wǎng)民，直播、游戲平臺、微信、微博、大眾點(diǎn)評等社交和生活服務(wù)平臺上都是青少年網(wǎng)民的網(wǎng)絡(luò )行為的主要場(chǎng)景，這些平臺上每天都產(chǎn)生著(zhù)大量的UGC內容，其中不乏一些違規內容。伴隨著(zhù)國家對互聯(lián)網(wǎng)傳播內容監管的逐漸加強，各類(lèi)平臺開(kāi)始提升內容安全審核能力。

調查顯示，月直播10萬(wàn)小時(shí)的中小直播平臺，如果采用傳統的內容審核技術(shù)，月消耗在80萬(wàn)上下，而利用人工智能來(lái)進(jìn)行內容審核的話(huà)，成本則可控制在傳統審核技術(shù)的13%-25%之間。

基于較低的投入實(shí)現較高的內容審核效率的目標，用人工智能代替人工進(jìn)行互聯(lián)網(wǎng)內容審核逐漸成為業(yè)界共識。

通過(guò)深度學(xué)習提高內容安全審核效率

美團點(diǎn)評是目前國內最大的O2O生活服務(wù)電商平臺，無(wú)論是美團、大眾點(diǎn)評還是美團外賣(mài)，每天都會(huì )產(chǎn)生大量的文字、圖片內容。

為了提高內容審核效率，美團點(diǎn)評聯(lián)合美團云構建了基于自然語(yǔ)言處理、圖像識別等技術(shù)以及GPU云主機、深度學(xué)習平臺等支撐的內容安全審核平臺。該產(chǎn)品已經(jīng)上線(xiàn)美團云，對外開(kāi)放使用。

美團云內容安全審核平臺是基于美團點(diǎn)評PB級數據量積累，以及算法團隊對相關(guān)模型不斷優(yōu)化從而成就的一款成熟的內容安全產(chǎn)品，可以對亂序亂打等文字內容，黃反等違規內容，抄襲、廣告等內容進(jìn)行識別判斷，從而杜絕上述內容出現影響用戶(hù)體驗。

目前，美團點(diǎn)評上99.65%的文字內容、96.7%的圖片內容都是交由機器審核，其中文字、圖片的漏過(guò)率僅為萬(wàn)分之二，這一數字還在不斷降低。依托于美團云內容安全審核平臺，美團點(diǎn)評基本上已經(jīng)告別了人工審核時(shí)代。

探索未來(lái)方向，覆蓋廣泛AI應用場(chǎng)景

前面提到直播平臺中的內容安全，直播平臺涵蓋彈幕、私信、視頻、語(yǔ)音等多場(chǎng)景的實(shí)時(shí)內容審核，這相較于美團點(diǎn)評上的內容及圖片場(chǎng)景擁有更多的應用場(chǎng)景和技術(shù)挑戰，這也是美團云內容審核平臺繼續優(yōu)化的方向之一。

除了內容審核外，美團云前不久上線(xiàn)的人臉識別產(chǎn)品也已經(jīng)應用于一些金融業(yè)務(wù)場(chǎng)景中，為金融業(yè)務(wù)安全增加一層保障。

未來(lái)，美團云將以客戶(hù)為中心，持續挖掘用戶(hù)需求，并基于前沿技術(shù)的探索，創(chuàng )造更多幫助企業(yè)用戶(hù)提升價(jià)值的優(yōu)秀產(chǎn)品。