微信推“珊瑚內(nèi)容安全助手”小程序 可對(duì)內(nèi)容安全進(jìn)行鑒別

　　微信上線一款對(duì)移動(dòng)端內(nèi)容安全鑒別的工具，小程序命名為“珊瑚內(nèi)容安全助手”，公眾號(hào)運(yùn)營者和小程序開發(fā)者可以通過小程序一鍵鑒別內(nèi)容和產(chǎn)品的安全風(fēng)險(xiǎn)。

　　微信團(tuán)隊(duì)表示，將小程序命名為“珊瑚”，是因?yàn)樯汉魇且环N對(duì)生活環(huán)境要求較高的生物，寓意小程序、開發(fā)運(yùn)營者、平臺(tái)與環(huán)境之間是共生共贏的關(guān)系，只有生態(tài)中各方共同努力，維護(hù)健康生態(tài)，產(chǎn)業(yè)環(huán)境才會(huì)越來越好。

　　據(jù)了解，“珊瑚”小程序?qū)檫\(yùn)營者和開發(fā)者提供風(fēng)險(xiǎn)自測、內(nèi)容鑒別、行業(yè)動(dòng)態(tài)等三個(gè)維度的功能，由騰訊云提供技術(shù)支持。開發(fā)運(yùn)營者可通過勾選自己的產(chǎn)品功能、各功能發(fā)布內(nèi)容的情況，由“珊瑚”小程序自動(dòng)計(jì)算給出產(chǎn)品風(fēng)險(xiǎn)評(píng)級(jí)、針對(duì)性的風(fēng)險(xiǎn)提示及相應(yīng)的風(fēng)險(xiǎn)防控建議等，讓開發(fā)運(yùn)營者了解產(chǎn)品的安全風(fēng)險(xiǎn)。

　　在文字鑒別、圖片鑒別模塊，“珊瑚”小程序還可對(duì)用戶上傳內(nèi)容中是否含有違法有害信息給出鑒別結(jié)果，同時(shí)提供能力介紹和接入引導(dǎo)文檔，為開發(fā)運(yùn)營者從“體驗(yàn)”、“理解”到“接入”，提供一站式安全能力服務(wù)。后續(xù)“珊瑚”小程序還將支持音頻、視頻鑒別能力，為用戶提供更完善的內(nèi)容安全服務(wù)。

　　此外，“珊瑚”小程序還包含定期更新的互聯(lián)網(wǎng)行業(yè)內(nèi)容安全動(dòng)態(tài)、相關(guān)法律法規(guī)等內(nèi)容，幫助開發(fā)運(yùn)營者及時(shí)掌握行業(yè)情況。

　　據(jù)了解，2018年5月微信團(tuán)隊(duì)就向開發(fā)者開放了文字檢查、圖片檢查兩個(gè)API接口，輔助開發(fā)者及時(shí)發(fā)現(xiàn)不良內(nèi)容信息。而在今年6月6日，微信上線了小程序內(nèi)容安全的異步檢查接口(mediaCheckAsync)，基于騰訊“云鸮”技術(shù)支持，向開發(fā)者提供更高級(jí)、更強(qiáng)大的內(nèi)容安全能力，包括異步方式檢查圖片、音頻兩種多媒體文件，自動(dòng)識(shí)別色情、暴恐等違法有害高危內(nèi)容，文件大小限制也從原來同步接口的1M提升到10M，滿足常見格式和大小的圖片審核需要。

　　未來，“珊瑚”小程序?qū)⒒隍v訊云圖像分析等AI技術(shù)，為廣大小程序開發(fā)者提供更強(qiáng)、更豐富的內(nèi)容安全能力，并持續(xù)運(yùn)營、定期更新行業(yè)內(nèi)容安全動(dòng)態(tài)信息，幫助開發(fā)運(yùn)營者了解最新的行業(yè)情況，共建健康繁榮的小程序生態(tài)。