6月1日，新修訂的《中華人民共和國未成年人保護法》正式實施。本次修訂的一大亮點是新增了“網(wǎng)絡(luò)保護”專章，提出網(wǎng)絡(luò)服務(wù)提供者發(fā)現(xiàn)用戶發(fā)布、傳播含有危害未成年人身心健康內(nèi)容的信息的，應(yīng)當(dāng)立即停止傳輸相關(guān)信息，采取刪除、屏蔽、斷開鏈接等處置措施。但面對互聯(lián)網(wǎng)上的海量信息，依靠傳統(tǒng)的內(nèi)容審核手段已經(jīng)難以跟上形勢。作為一家以“愛和科技讓教育更美好”為使命的科技教育公司，近年來好未來積極探索利用AI技術(shù)開展網(wǎng)絡(luò)內(nèi)容審核，全面加強未成年人網(wǎng)絡(luò)保護。
AI審核為未成年人織起網(wǎng)絡(luò)信息安全網(wǎng)
4月27日，由好未來旗下學(xué)而思網(wǎng)校舉辦的萌娃“小講師”口述風(fēng)采展圓滿收官。鏡頭前,來自全國各地的小朋友們,將學(xué)到的知識歸納總結(jié)后,以“講師”的身份講出來；小朋友們還就自己感興趣的知識點和話題侃侃而談,發(fā)表自己的觀點。而屏幕的另一邊,學(xué)而思網(wǎng)校的老師們則做出了專業(yè)點評。
活動順利舉行的背后，是好未來AI審核技術(shù)的保駕護航。
學(xué)而思網(wǎng)校萌娃小講師活動宣傳海報
在此前的活動海選中，所有參與活動的用戶需要提交自己錄好的演說視頻，并在平臺上發(fā)布。視頻提交前，頁面會彈出15秒的內(nèi)容健康承諾，提醒用戶“不提交對未成年人不良的內(nèi)容、不提交違反法律和法規(guī)的內(nèi)容、不提交違背社會公序良俗的內(nèi)容、不提交和本次活動無關(guān)的內(nèi)容、不提交監(jiān)護人沒有檢查的內(nèi)容�！�
視頻提交后，會立即上傳至好未來的內(nèi)容審核系統(tǒng)，好未來AI會立即發(fā)揮它強大的NLP（自然語言處理）、CV（計算機視覺）、ASR（語音識別）等技術(shù)能力，在1分鐘內(nèi)完成對視頻的一次審核判斷，攔截違規(guī)內(nèi)容，并根據(jù)審核規(guī)則要求將內(nèi)容推送至后臺專業(yè)的人工審核團隊進行復(fù)核。
除了類似的活動內(nèi)容審核外，好未來所有在線內(nèi)容場景中，未成年人能看到的信息都裝上了這樣一道“安全網(wǎng)”，覆蓋范圍包括用戶提交的所有對外可見的內(nèi)容，如用戶頭像、昵稱、評論、視頻、彈幕等，所有色情、暴恐、辱罵、政治等各類不合規(guī)信息將被審核系統(tǒng)“層層過濾”。
據(jù)統(tǒng)計，僅在2021年上半年，好未來旗下各業(yè)務(wù)經(jīng)過AI內(nèi)容審核系統(tǒng)的數(shù)據(jù)就達到46億條，發(fā)現(xiàn)并清除的違規(guī)內(nèi)容總量達到了47萬條。
AI技術(shù)為內(nèi)容審核提供核心助力
龐大的審核數(shù)據(jù)背后是好未來長期積累的AI能力在發(fā)揮作用。
2019年的世界人工智能大會上，科技部宣布好未來成為智慧教育國家新一代人工智能開放創(chuàng)新平臺承建單位。AI審核能力是好未來近年重點探索的方向之一。
AI技術(shù)的一個核心特點是“不斷學(xué)習(xí)”。AI程序就像一個不吃不喝拼命學(xué)習(xí)的“學(xué)霸”，只有“學(xué)習(xí)資料”夠多，才能不斷變得更強。大名鼎鼎的圍棋AI程序AlphaGo正是學(xué)習(xí)了3000萬盤圍棋比賽的數(shù)據(jù)之后，成功打敗了人類圍棋世界冠軍李世石，從此其下棋能力再無人類選手可以企及。
AI內(nèi)容審核也是如此，只有數(shù)量足夠且場景匹配的數(shù)據(jù)才能訓(xùn)練出一流的AI內(nèi)容審核能力。
雖然市場上早已經(jīng)有了比較成熟的內(nèi)容審核方案，但對于教育領(lǐng)域并不能直接適用。和其它普通社交、娛樂平臺不同，教育平臺面向的用戶主體是未成年人，審核的標(biāo)準(zhǔn)要更加嚴(yán)格，甚至到了嚴(yán)苛的地步。比如有些動漫畫面看起來挺可愛，但內(nèi)容卻可能涉及兒童邪典。這樣的信息在其它平臺可能被直接放過，在教育平臺則要更加小心，對于AI來說學(xué)習(xí)難度也更大。
難得的是，好未來在數(shù)據(jù)方面有得天獨厚的優(yōu)勢。通過使用大量教育場景數(shù)據(jù)，不斷優(yōu)化訓(xùn)練模型，機審準(zhǔn)確率穩(wěn)定保持在95%以上。
好未來AI內(nèi)容審核系統(tǒng)后臺操作界面
機審保證了海量信息的快速審核。好未來重視內(nèi)容的文化性和多變性，深知清朗的未成年人網(wǎng)絡(luò)環(huán)境需要堅持不懈的努力，有害信息一旦漏過，就可能對孩子們造成傷害。因此，好未來AI的內(nèi)容審核系統(tǒng)中還有一支強大的人工審核隊伍。
對于AI機審中發(fā)現(xiàn)的異常信息，他們會及時介入，在1-3小時內(nèi)完成人工審核，只有審核通過的信息才會被用戶看到。對于被AI機審?fù)ㄟ^的數(shù)據(jù)，人工審核還制定了審核策略進行抽查，一方面確保沒有漏放的違規(guī)內(nèi)容，另一方面根據(jù)復(fù)查結(jié)果迭代策略、提升審核團隊質(zhì)量。
任何審核機制都無法真正做到100%的成功率，而科學(xué)的兜底機制就顯得尤為重要。為此，好未來還建立起UGC內(nèi)容舉報、反饋機制，被舉報的內(nèi)容作為第一優(yōu)先級進行人工審核，自舉報觸達1小時內(nèi)完成調(diào)查和處置，筑好未成年人保護的一道防火墻。
底線思維將未成年人保護上升集團戰(zhàn)略
投入如此多人力物力在AI內(nèi)容審核上，背后體現(xiàn)的是好未來對于未成年人保護的底線思維。
2020年7月，在中國網(wǎng)絡(luò)社會組織聯(lián)合會、中央電化教育館、共青團中央權(quán)益部的倡導(dǎo)下，好未來旗下學(xué)而思網(wǎng)校與阿里巴巴、騰訊、百度等國內(nèi)32家互聯(lián)網(wǎng)企業(yè)共同簽署了《共建未成年人“清朗”網(wǎng)絡(luò)空間承諾書》，為未成年人提供一個綠色、健康、文明、和諧的在線教育和網(wǎng)絡(luò)生活環(huán)境。
學(xué)而思網(wǎng)校參與2021未成年人網(wǎng)絡(luò)保護研討會
今年6月1日，“E路護航•賦能成長”2021未成年人網(wǎng)絡(luò)保護研討會在浙江寧波召開。作為本次會議的協(xié)辦單位，學(xué)而思網(wǎng)校在“未成年人互聯(lián)網(wǎng)使用與保護——行業(yè)責(zé)任及社會參與”主題論壇上,從學(xué)習(xí)理念、素質(zhì)教育和產(chǎn)品保護三方面,闡述了自身如何為學(xué)生營造安全、積極、正能量的網(wǎng)絡(luò)學(xué)習(xí)環(huán)境。此外，好未來基于人工智能技術(shù)的“課堂教學(xué)質(zhì)量監(jiān)測系統(tǒng)”及“人工智能啟蒙兒童成長解決方案”還入選了《人工智能為兒童——面向兒童群體的人工智能應(yīng)用調(diào)研報告》。
如今，未成年人保護已經(jīng)成為了好未來各條業(yè)務(wù)的底線要求�！拔覀兎⻊�(wù)的對象主要是未成年人，他們的心智尚未成熟，缺乏正確辨別互聯(lián)網(wǎng)信息是非利弊的能力，很容易受到不良信息的侵害。作為教育企業(yè)，我們更加有責(zé)任從自身做起，運用各類技術(shù)不斷推進未成年人保護，為未成年人創(chuàng)造更加安全、健康的成長環(huán)境。”好未來相關(guān)負責(zé)人說。
【免責(zé)聲明】本文僅代表合作供稿方觀點，不代表和訊網(wǎng)立場。投資者據(jù)此操作，風(fēng)險請自擔(dān)。
最新評論