盡管監(jiān)管措施不斷推出以及監(jiān)管力量不斷加強(qiáng)，平臺在治理此類有害信息方面做出眾多努力，互聯(lián)網(wǎng)內(nèi)容環(huán)境有了很大改善。10月26日，北京掃黃打非部門對存在大量危害未成年人身心健康的低俗色情互動信息的“互動作業(yè)”APP違法違規(guī)經(jīng)營問題進(jìn)行查處。同一天，全國“掃黃打非”辦公室和國家新聞出版署就微信公眾號傳播淫穢色情和低俗網(wǎng)絡(luò)小說問題約談了騰訊公司，責(zé)令其立即下架違背社會主義核心價值觀的低俗、庸俗、媚俗網(wǎng)絡(luò)小說，堅決清理傳播淫穢色情等有害內(nèi)容的微信公眾號。
但是一些互聯(lián)網(wǎng)應(yīng)用的特性決定了它很容易成為淫穢色情低俗等有害信息傳播的溫床。比如，低門檻的內(nèi)容發(fā)布、尚存漏洞的資質(zhì)審核、監(jiān)管乏力的留言評論區(qū)等。而且面對監(jiān)管，淫穢色情等有害信息的傳播方式變得愈發(fā)隱蔽，審核難度急劇上升。這些問題給監(jiān)管和內(nèi)容平臺的治理都提出了更高的要求。
伴隨著互聯(lián)網(wǎng)上社交媒體、直播、短視頻的發(fā)展，催生了大量的人工鑒黃師，僅憑一雙肉眼鑒別色情內(nèi)容。聽起來像是“福利”，但每天網(wǎng)絡(luò)上光上傳的圖片就超過10億張，發(fā)文數(shù)量超過5億條，色情、暴力、低俗等內(nèi)容充斥其中，單純依靠人工的審核，在效率、成本和準(zhǔn)確性方面都難以得到保障。于是乎，一批人工智能公司應(yīng)時而生，利用AI“快、狠、準(zhǔn)”識別涉黃、暴恐、低俗等有害內(nèi)容。以圖普科技的智能審核機(jī)器人為例，日均處理圖像數(shù)據(jù)達(dá)10億次，準(zhǔn)確度高達(dá) 99.5%，可以幫助節(jié)省90%以上的人力。
色情、低俗、暴力等有害信息就像是互聯(lián)網(wǎng)的一大毒瘤，存在于網(wǎng)絡(luò)的各種平臺中。相關(guān)平臺需要加強(qiáng)平臺治理能力，利用圖像識別等先進(jìn)技術(shù)，通過強(qiáng)化檢查監(jiān)控制度，加強(qiáng)內(nèi)容發(fā)布和資質(zhì)審核門檻等多重舉措，為青少年健康成長營造潔凈的氛圍。
