自定義的文本敏感內(nèi)容檢測(cè)測(cè)試

原理:用戶在后臺(tái)文本內(nèi)容檢測(cè)服務(wù)上面自定義配置,并勾選不指定檢測(cè)場(chǎng)景時(shí)啟用,可對(duì)全部過(guò)濾生效。也就是自己建一個(gè)關(guān)鍵字庫(kù),生效規(guī)則與其他預(yù)設(shè)一致。

測(cè)試感受:

1、在涉黃、涉政、辱罵、廣告等單個(gè)測(cè)試時(shí)準(zhǔn)確無(wú)誤,在多種組合的場(chǎng)景下,華為云也可以根據(jù)返回結(jié)果分別查看各個(gè)屬性下的不同的犯規(guī)詞語(yǔ)。

2、對(duì)于網(wǎng)絡(luò)用語(yǔ)的灌水文本測(cè)試正常,檢測(cè)出灌水文本反應(yīng)迅速。值得一提的是,由于網(wǎng)絡(luò)流行與變更速度很快,而華為云的網(wǎng)絡(luò)灌水詞庫(kù)在進(jìn)行實(shí)時(shí)更新,可以實(shí)現(xiàn)自我優(yōu)化。

3、而在測(cè)試中,華為云最具特色的一項(xiàng)功能就是可以自定義詞庫(kù),這項(xiàng)功能在內(nèi)容檢測(cè)標(biāo)準(zhǔn)容易變化的場(chǎng)景下能夠更好的控制文本內(nèi)容;包括政治敏感詞、網(wǎng)絡(luò)用語(yǔ)等詞庫(kù)還做到了實(shí)時(shí)更新,使得整體服務(wù)更加安全。

小結(jié):華為云文本內(nèi)容檢測(cè)基本滿足了常用文本檢測(cè),支持自定義詞庫(kù)來(lái)加以補(bǔ)充,再加上實(shí)時(shí)更新,使得整體開(kāi)發(fā)體驗(yàn)更為安全和智能。

二、反黃檢測(cè)服務(wù)測(cè)試色情性感圖片檢測(cè)測(cè)試

原理:根據(jù)圖片或者圖片鏈接,華為云 API 返回三個(gè)維度對(duì)應(yīng)的比例,分別是正常比例、色情比例、性感比例,返回值里的參數(shù) suggestion 結(jié)果為 block,則判定為色情圖片;性感圖片的返回值里的參數(shù) suggestion 結(jié)果為 pass,在三個(gè)維度的比例中性感比例最大,則認(rèn)為該圖片是性感圖片。對(duì)于正常與色情比例接近的會(huì)返回 review,需要人工確認(rèn)。

除了普通畫(huà)面的圖片外,華為云還支持畫(huà)中畫(huà)涉黃內(nèi)容的檢測(cè),驗(yàn)證反黃檢測(cè)服務(wù)可以識(shí)別小窗口涉黃圖片。

測(cè)試感受:

針對(duì)黃色圖片檢測(cè)準(zhǔn)確,性感圖片準(zhǔn)確,畫(huà)中畫(huà)涉黃檢測(cè)也可以正常反饋,整體流程順利,在特殊情況下也會(huì)提供給人工進(jìn)行確認(rèn),沒(méi)有發(fā)生誤判情況。

小結(jié):反黃檢測(cè)針對(duì)各個(gè)企業(yè)都是一個(gè)重度需求,人工智能對(duì)圖片內(nèi)容檢測(cè)很有必要,華為云在這方面做的不錯(cuò),值得用戶信賴(lài)。

三、暴恐識(shí)別服務(wù)測(cè)試槍支刀具類(lèi)測(cè)試

原理:根據(jù)圖片或者圖片鏈接,華為云?API?返回多個(gè)維度對(duì)應(yīng)的比例,分別為:fire、bloody、gun、knife、flag、tiananmen、crowd、dress、symbol、normal,如果符合要求就會(huì)給出結(jié)果為block,根據(jù)各個(gè)維度的比例大小來(lái)判斷中標(biāo)那個(gè)維度。這里以槍支作為例子,測(cè)試結(jié)果如下:

槍支:

人群聚集測(cè)試

驗(yàn)證暴恐識(shí)別服務(wù)還可以準(zhǔn)確的識(shí)別人群聚集類(lèi)圖片,若是測(cè)試結(jié)果中的?suggestion?值若為?block,?且?crowd?的置信度值占比最大,則表示該圖片含有人群聚集元素。

測(cè)試感受:

1、在測(cè)試中槍支圖片測(cè)試正確。

2、人群聚會(huì)檢測(cè)正確,使用體驗(yàn)流暢

3、現(xiàn)在聚會(huì)地點(diǎn)以天安門(mén)為例進(jìn)行了檢測(cè),結(jié)果無(wú)誤。也可以做成自定義地點(diǎn),支持國(guó)內(nèi)大部分標(biāo)志性建筑。

小結(jié):槍支刀具的檢測(cè)可以稱(chēng)之為線上安檢機(jī),華為云整體表現(xiàn)非常卓越。但這部分服務(wù)對(duì)企業(yè)來(lái)講,需求量并不夠大,非剛需內(nèi)容。

四、涉政敏感檢測(cè)服務(wù)測(cè)試

原理:根據(jù)圖片或者圖片鏈接,華為云?API?返回的結(jié)果中給出識(shí)別出的名字,根據(jù)結(jié)果是否為?block,判斷是否為違規(guī)圖片。華為云服務(wù),支持國(guó)家領(lǐng)導(dǎo)人、烈士與恐怖分子識(shí)別,測(cè)試結(jié)果如下:

測(cè)試感受:

1、各國(guó)國(guó)家領(lǐng)導(dǎo)人識(shí)別正確,能夠正確給出姓名;多個(gè)領(lǐng)導(dǎo)人也可以識(shí)別,識(shí)別度很高;測(cè)試中中國(guó)地市以上級(jí)別領(lǐng)導(dǎo)人以及國(guó)外名人也能識(shí)別正確。

2、烈士識(shí)別方面對(duì)知名人物識(shí)別無(wú)誤,而針對(duì)一些沒(méi)有圖片的烈士,很大一部分是后人繪畫(huà)留存,可能導(dǎo)致識(shí)別率降低,可以通過(guò)更新學(xué)習(xí)庫(kù)進(jìn)行改進(jìn)。

3、恐怖分子測(cè)試,一些臭名昭著的恐怖分子檢測(cè)準(zhǔn)確率很高;一些較為少見(jiàn)恐怖分子識(shí)別難度較高,但可以通過(guò)更新學(xué)習(xí)庫(kù)增加識(shí)別準(zhǔn)確率。

小結(jié):華為云服務(wù)在這塊中表現(xiàn)最好的是對(duì)國(guó)家領(lǐng)導(dǎo)人與國(guó)際高管的識(shí)別,在烈士與恐怖分子識(shí)別上處于同行業(yè)前列水準(zhǔn),而通過(guò)更新學(xué)習(xí)庫(kù)也可以進(jìn)一步增強(qiáng)。

五、視頻內(nèi)容審核服務(wù)測(cè)試

原理:需要用戶上傳視頻,然后根據(jù)返回的任務(wù) id 取查詢視頻的處理狀態(tài)。狀態(tài)有四種類(lèi)型 created(已創(chuàng)建)、running(正在處理)、finish(已完成)、failed(處理失敗)。測(cè)試結(jié)果可以查看 suggestion 的值,當(dāng)同時(shí)檢測(cè)多個(gè)場(chǎng)景時(shí),suggestion 的值以最可能包含敏感信息的場(chǎng)景為準(zhǔn)。即任意場(chǎng)景出現(xiàn)了 block 則總的 suggestion 為 block,所有場(chǎng)景都 pass 時(shí) suggestion 為 pass,這兩種情況之外則一定有場(chǎng)景需要 review,此時(shí) suggestion 為 review。

測(cè)試感受:

內(nèi)容視頻測(cè)試準(zhǔn)確,分析原因可能為視頻資源幀相對(duì)較多,可分析圖片也多 ,因而使得測(cè)試結(jié)果更準(zhǔn)確, 測(cè)試結(jié)果可以給出具體哪一類(lèi)型問(wèn)題產(chǎn)生結(jié)果,并且可以在色情、涉政、暴恐等各個(gè)維度分別給出可能性比例。

小結(jié):視頻內(nèi)容檢測(cè)服務(wù)容納的類(lèi)型更多,反黃、暴恐、涉政都會(huì)有涉及,這個(gè)考驗(yàn)了云服務(wù)內(nèi)容檢測(cè)的綜合功能。華為云在這一塊表現(xiàn)不錯(cuò),充分證明了自己的技術(shù)。

總結(jié)

在本次測(cè)試中,華為云在視頻、圖片、內(nèi)容等各個(gè)方面的檢測(cè)中,針對(duì)現(xiàn)有網(wǎng)絡(luò)中資源較多的內(nèi)容檢測(cè)準(zhǔn)確率很高,這可以顯示出其在數(shù)據(jù)分析以及智能識(shí)別等領(lǐng)域的技術(shù)沉淀深厚;而在一些變數(shù)較高的內(nèi)容識(shí)別檢測(cè)時(shí),也可以通過(guò)更新學(xué)習(xí)庫(kù)以及更新檢測(cè)內(nèi)容標(biāo)準(zhǔn)實(shí)現(xiàn)準(zhǔn)確率的提升。在實(shí)際應(yīng)用中,直播行業(yè)對(duì)于內(nèi)容審核依賴(lài)度非常高。華為云已經(jīng)成功幫助某視頻直播業(yè)務(wù)實(shí)現(xiàn)整體內(nèi)容審核的智能化升級(jí),審核效率提升了90%,能夠智能化檢測(cè)“色情內(nèi)容”、“涉政”和“暴力”等內(nèi)容,并且問(wèn)題視頻可以在 3 分鐘之內(nèi)快速處理掉。

整體來(lái)看,華為云的廣告語(yǔ)確實(shí)可以準(zhǔn)確體現(xiàn)出其目前所處的行業(yè)地位:有技術(shù),有未來(lái),值得信賴(lài)!與開(kāi)發(fā)者和行業(yè)伙伴攜手前行, 前方的路依然很長(zhǎng)。

zhangnn

<u id="kbq6z"></u>