2019-02-22 16:43:06
2月20日，今日頭條方面宣布了“靈犬”全面升級的消息。除了反色情低俗，新版“靈犬”還加入了反暴力謾罵和反標(biāo)題黨能力。
至此，“靈犬”的檢測服務(wù)，已覆蓋了主要的低俗低質(zhì)內(nèi)容類型。
據(jù)了解，這是上線近一年后，“靈犬”迎來的首個重大更新版本。數(shù)據(jù)顯示，截至目前，“靈犬”使用人次已經(jīng)突破240萬。這也是國內(nèi)首款反低俗信息小程序。
檢測內(nèi)容健康程度
這款小程序脫胎于今日頭條反低俗算法模型，用于鑒定低俗信息。用戶將文字或者文章鏈接放置到搜索框內(nèi)，即可查詢該條信息的健康程度。
據(jù)了解，“靈犬”這類技術(shù)模型，不僅可以為普通網(wǎng)民所用，用以凈化網(wǎng)絡(luò)空間，同時也有助于平臺內(nèi)容創(chuàng)作者的內(nèi)容改進。
不同于一般平臺對低俗低質(zhì)內(nèi)容通常采取人工投訴、事后刪除的辦法，“靈犬”作為技術(shù)手段，能夠有效幫助平臺將內(nèi)容質(zhì)量檢測的機制前置，幫助創(chuàng)作者自查內(nèi)容是否觸發(fā)色情低俗、暴力謾罵和標(biāo)題黨等因素。
不過，在文字檢測上，“靈犬”團隊規(guī)定，用戶輸入的字?jǐn)?shù)必須超過10個字才能進行檢測。
對此，“靈犬”團隊給出了解釋：用戶給的上下文、語境等信息越充分，機器判斷的準(zhǔn)確度就會越高。
在2018年3月份，刺猬公社曾參與過“靈犬”的內(nèi)測，在“靈犬”上檢測了“你餓不餓我下面給你吃”幾個字，數(shù)據(jù)顯示，該內(nèi)容健康指數(shù)為51%，不及格。
2019年2月20日，刺猬公社再次檢測，該內(nèi)容的健康概率指數(shù)為19%，命中反色情低俗模型，“不應(yīng)獲得算法推薦”。
這是什么意思呢?
“靈犬”就像一個內(nèi)容審核系統(tǒng)，這個系統(tǒng)集納了被評定為色情低俗內(nèi)容的所有關(guān)鍵詞，一旦“你餓不餓我下面給你吃”觸碰到關(guān)鍵詞，該內(nèi)容將會被提取、分詞和語義識別，然后根據(jù)設(shè)定的規(guī)則，輸出對應(yīng)的分?jǐn)?shù)、評級和結(jié)論。
今日頭條的做法是，把低俗的標(biāo)準(zhǔn)分為兩個層次：幾乎所有人看來都會一致同意的標(biāo)準(zhǔn)底線，和因人而異的主觀判斷。有些檢測標(biāo)題，因人而異，仁者見仁智者見智。
不過，今日頭條方面也稱，“靈犬”新版本發(fā)布的背后，伴隨著“靈犬”打擊低俗低質(zhì)能力的提升。反色情低俗、反暴力謾罵模型，整體識別準(zhǔn)確率約為85%，反標(biāo)題黨模型識別準(zhǔn)確率約為90%。這些技術(shù)模型每天仍在持續(xù)優(yōu)化迭代。
