曠視與中信所聯(lián)合發(fā)布《企業(yè)負(fù)責(zé)任的人工智能實(shí)踐》報(bào)告

　　人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，為促進(jìn)人工智能健康發(fā)展，我國(guó)相繼發(fā)布《新一代人工智能治理原則》《新一代人工智能倫理規(guī)范》等文件，明確提出發(fā)展負(fù)責(zé)任的人工智能。企業(yè)作為技術(shù)創(chuàng)新應(yīng)用的關(guān)鍵主體，將負(fù)責(zé)任理念融入人工智能基礎(chǔ)研發(fā)到應(yīng)用的全生命周期，既是人工智能企業(yè)樹立“科技向善”理念、實(shí)現(xiàn)可持續(xù)發(fā)展的重要表現(xiàn)，更是構(gòu)建多元共治的人工智能治理體系的需要。

　　今天，曠視聯(lián)合中國(guó)科學(xué)技術(shù)信息研究所（簡(jiǎn)稱：“中信所”）發(fā)布了《企業(yè)負(fù)責(zé)任的人工智能實(shí)踐》報(bào)告。經(jīng)過(guò)近一年的研究，雙方從國(guó)內(nèi)外企業(yè)負(fù)責(zé)任的人工智能實(shí)踐現(xiàn)狀出發(fā)，探索企業(yè)開(kāi)展人工智能治理應(yīng)具備的責(zé)任框架和行動(dòng)路徑，推動(dòng)企業(yè)自覺(jué)踐行負(fù)責(zé)任的人工智能理念，使之成為企業(yè)、行業(yè)和經(jīng)濟(jì)社會(huì)可持續(xù)發(fā)展的內(nèi)生動(dòng)力。

　　企業(yè)負(fù)責(zé)任的人工智能概念和框架構(gòu)建

　　負(fù)責(zé)任的人工智能屬于人工智能倫理治理的重要內(nèi)容，要求人工智能活動(dòng)不僅滿足法律規(guī)范的底線，也要符合社會(huì)的倫理期待。它是一種在管理、研發(fā)、供應(yīng)、使用人工智能時(shí)綜合考慮倫理、法律、文化和社會(huì)經(jīng)濟(jì)等影響的動(dòng)態(tài)治理框架，包含可信、公平、非歧視、決策自主等多種倫理原則，在實(shí)踐中根據(jù)政府、企業(yè)、研究機(jī)構(gòu)等不同主體的目標(biāo)定位而采用不同的實(shí)施機(jī)制。

　　企業(yè)負(fù)責(zé)任的人工智能治理理念與企業(yè)社會(huì)責(zé)任密切相關(guān)。環(huán)境、社會(huì)及公司治理（ESG）不僅能展現(xiàn)企業(yè)履行社會(huì)責(zé)任的情況，也是衡量企業(yè)負(fù)責(zé)任的人工智能實(shí)踐狀況的重要標(biāo)準(zhǔn)。“AI+ESG”使得負(fù)責(zé)任的人工智能由外在要求轉(zhuǎn)化為企業(yè)治理內(nèi)生動(dòng)力。企業(yè)負(fù)責(zé)任的人工智能具有雙重目標(biāo)，一方面以合法合規(guī)經(jīng)營(yíng)為基礎(chǔ)，防范人工智能研發(fā)應(yīng)用風(fēng)險(xiǎn)，促進(jìn)企業(yè)自身發(fā)展；另一方面，推動(dòng)環(huán)境、社會(huì)和經(jīng)濟(jì)的可持續(xù)發(fā)展，增進(jìn)人類福祉。

　　以我國(guó)相關(guān)政策文件、國(guó)際組織發(fā)布的共識(shí)性規(guī)范文件為依托，以實(shí)現(xiàn)企業(yè)自身發(fā)展與增進(jìn)社會(huì)福祉為目標(biāo)，企業(yè)負(fù)責(zé)任的人工智能實(shí)踐框架可從三個(gè)層次進(jìn)行設(shè)計(jì)。一是人工智能全生命周期的ESG理念，在人工智能全生命周期活動(dòng)中融合環(huán)境保護(hù)、社會(huì)責(zé)任及公司治理三大維度協(xié)同增效。二是企業(yè)內(nèi)部多層治理設(shè)計(jì)，包括綠色化的基礎(chǔ)設(shè)施、負(fù)責(zé)任的數(shù)據(jù)使用、負(fù)責(zé)任的模型設(shè)計(jì)、負(fù)責(zé)任的開(kāi)發(fā)部署、負(fù)責(zé)任的倫理審查以及問(wèn)責(zé)制等。三是內(nèi)外雙循環(huán)的治理網(wǎng)絡(luò)，除了企業(yè)內(nèi)部治理多層設(shè)計(jì)之外，還需推動(dòng)形成“政府監(jiān)管—行業(yè)服務(wù)—企業(yè)自律—公眾參與”的協(xié)同治理網(wǎng)絡(luò)。

企業(yè)負(fù)責(zé)任的人工智能實(shí)踐框架

　　實(shí)踐路徑：承擔(dān)共同但有區(qū)別的治理責(zé)任

　　在國(guó)家人工智能治理原則宏觀指導(dǎo)下，企業(yè)踐行負(fù)責(zé)任的人工智能既存在普適性、共識(shí)性的框架，也受企業(yè)具體業(yè)務(wù)類型、規(guī)模大小、治理能力等因素影響，不同企業(yè)踐行負(fù)責(zé)任的人工智能的能力和具體路徑存在一定差異，承擔(dān)“共同但有區(qū)別的治理責(zé)任”。

　　從人工智能產(chǎn)業(yè)鏈環(huán)節(jié)看。基礎(chǔ)層人工智能企業(yè)注重?cái)?shù)據(jù)收集處理、計(jì)算基礎(chǔ)設(shè)施應(yīng)用等方面的倫理治理。技術(shù)層人工智能企業(yè)主要圍繞技術(shù)研發(fā)開(kāi)展，重點(diǎn)關(guān)注研發(fā)端強(qiáng)化負(fù)責(zé)任實(shí)踐。應(yīng)用層人工智能企業(yè)的業(yè)務(wù)開(kāi)展同時(shí)聚焦產(chǎn)品的研發(fā)和市場(chǎng)化兩大階段，除關(guān)注研發(fā)端的治理外，還應(yīng)強(qiáng)化在應(yīng)用端貫徹負(fù)責(zé)任理念。

　　從人工智能全生命周期環(huán)節(jié)看。研發(fā)端企業(yè)關(guān)注重點(diǎn)包括：（1）數(shù)據(jù)處理的脫敏機(jī)制、被遺忘機(jī)制等；（2）算法模型的可解釋性、算法影響評(píng)估、算法安全測(cè)試、算法適用邊界、監(jiān)督審查算法實(shí)現(xiàn)過(guò)程和結(jié)果；（3）建立數(shù)據(jù)集選擇、算法選取等關(guān)鍵決策的記錄和回溯機(jī)制。人工智能產(chǎn)品生產(chǎn)商關(guān)注重點(diǎn)包括：（1）為用戶提供解釋算法結(jié)果的服務(wù)，針對(duì)不同背景知識(shí)和要求的用戶提供常識(shí)性與個(gè)性化定制相結(jié)合的解釋；（2）針對(duì)人工智能產(chǎn)品或服務(wù)的使用建立日常監(jiān)測(cè)機(jī)制。使用人工智能產(chǎn)品和服務(wù)的企業(yè)，主要從以下四方面開(kāi)展治理：（1）堅(jiān)持決策自主可控，不盲目依賴算法決策結(jié)果；（2）堅(jiān)持善意使用相關(guān)產(chǎn)品及服務(wù)，不違規(guī)惡用；（3）主動(dòng)反饋使用人工智能產(chǎn)品與服務(wù)過(guò)程中發(fā)現(xiàn)的技術(shù)安全漏洞、倫理風(fēng)險(xiǎn)等問(wèn)題；（4）積極學(xué)習(xí)人工智能相關(guān)知識(shí)，提高使用能力。

　　從企業(yè)規(guī)模大小和資源能力水平看。人工智能領(lǐng)軍企業(yè)、中小企業(yè)和初創(chuàng)企業(yè)可以采取“規(guī)定動(dòng)作”（在遵守法律法規(guī)、監(jiān)管政策、行業(yè)自律規(guī)范等基礎(chǔ)上，開(kāi)展治理實(shí)踐）與“自選動(dòng)作”（重構(gòu)一套完整的負(fù)責(zé)任治理戰(zhàn)略和組織架構(gòu)，或采用漸進(jìn)式治理模式，以將倫理原則納入商業(yè)倫理制度和日常運(yùn)營(yíng)）相結(jié)合的方式開(kāi)展負(fù)責(zé)任的治理。

企業(yè)踐行負(fù)責(zé)任的人工智能的一般路徑

　　曠視致力于發(fā)展負(fù)責(zé)任的人工智能，堅(jiān)持人工智能向善向上

　　目前，國(guó)內(nèi)外人工智能企業(yè)紛紛圍繞負(fù)責(zé)任的人工智能開(kāi)展治理實(shí)踐。一直以來(lái)，曠視致力于發(fā)展負(fù)責(zé)任的人工智能，以“長(zhǎng)期主義的態(tài)度、理性的關(guān)注、深度的研究、建設(shè)性的討論和堅(jiān)持不懈的行動(dòng)”為指引，務(wù)實(shí)推動(dòng)負(fù)責(zé)任的人工智能治理落地，促進(jìn)企業(yè)及行業(yè)可持續(xù)發(fā)展。一是建立組織管理架構(gòu)。曠視搭建了以人工智能道德委員會(huì)和人工智能治理研究院為核心，研發(fā)學(xué)術(shù)、產(chǎn)品工程、客戶渠道、公司運(yùn)營(yíng)共同參與的組織結(jié)構(gòu)，推動(dòng)人工智能治理在公司落地。二是制定制度規(guī)范。2019年曠視在業(yè)界率先公布基于企業(yè)自身管理標(biāo)準(zhǔn)的《人工智能應(yīng)用準(zhǔn)則》，從正當(dāng)性、人的監(jiān)督、技術(shù)可靠性和安全性、公平和多樣性、問(wèn)責(zé)和及時(shí)修正、數(shù)據(jù)安全與隱私保護(hù)六個(gè)維度，對(duì)人工智能正向有序發(fā)展作出明確規(guī)范。三是注重全流程治理�；�于人工智能治理特點(diǎn)，優(yōu)化產(chǎn)研集成產(chǎn)品開(kāi)發(fā)流程，在多個(gè)關(guān)鍵階段嵌入倫理風(fēng)險(xiǎn)、個(gè)人信息影響評(píng)估，并開(kāi)發(fā)了面向產(chǎn)品人員、技術(shù)人員、客戶等不同角色的治理評(píng)估工具。搭建與客戶充分交流的“Know-Your-Customer”客戶管理流程，在合同簽訂、產(chǎn)品運(yùn)維等過(guò)程中向客戶和合作伙伴積極倡導(dǎo)《正確使用人工智能產(chǎn)品倡議書》《人工智能技術(shù)合規(guī)應(yīng)用指引》等文件。四是開(kāi)展治理技術(shù)研究和落地。曠視自主研發(fā)的前端圖像脫敏方案，是業(yè)內(nèi)率先實(shí)現(xiàn)在采集端完成圖像的不可逆脫敏，且脫敏數(shù)據(jù)仍可用于算法調(diào)優(yōu)升級(jí)的創(chuàng)新技術(shù)方案，從數(shù)據(jù)源頭消除個(gè)人信息泄露風(fēng)險(xiǎn)。五是參與行業(yè)共治。曠視作為主要單位參與《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南——人工智能倫理安全風(fēng)險(xiǎn)防范指引》《生物特征識(shí)別信息保護(hù)基本要求》《機(jī)器學(xué)習(xí)算法安全評(píng)估規(guī)范》等多項(xiàng)國(guó)家和行業(yè)標(biāo)準(zhǔn)規(guī)范的制定。連續(xù)三年在全網(wǎng)發(fā)起“全球十大人工智能治理事件”評(píng)選，共同探討人工智能治理實(shí)踐方向。

曠視負(fù)責(zé)任的人工智能治理實(shí)踐

　　負(fù)責(zé)任的人工智能：企業(yè)發(fā)展的內(nèi)在動(dòng)力和行業(yè)可持續(xù)發(fā)展的共同愿景

　　發(fā)展負(fù)責(zé)任的人工智能作為世界主要人工智能國(guó)家和國(guó)際組織共同的治理愿景，越來(lái)越受到重視。未來(lái)，企業(yè)負(fù)責(zé)任的人工智能將呈現(xiàn)出五大趨勢(shì)：一是負(fù)責(zé)任的人工智能治理將與ESG進(jìn)一步融合。將人工智能系統(tǒng)的透明度、可解釋性等數(shù)據(jù)、算法治理指標(biāo)納入ESG評(píng)價(jià)體系中，能夠建立負(fù)責(zé)任的人工智能客觀衡量標(biāo)準(zhǔn)，更好地建立用戶信任，推動(dòng)企業(yè)可持續(xù)發(fā)展。二是以技治技的源頭治理將進(jìn)一步強(qiáng)化。加強(qiáng)人工智能安全可信、隱私保護(hù)等技術(shù)研發(fā)，做好技術(shù)檢測(cè)與故障應(yīng)對(duì)，是進(jìn)一步強(qiáng)化人工智能倫理治理和風(fēng)險(xiǎn)防范的技術(shù)支撐，實(shí)現(xiàn)源頭治理的重要舉措。三是全生命周期交叉治理將進(jìn)一步完善。隨著技術(shù)的發(fā)展，企業(yè)內(nèi)部和產(chǎn)業(yè)鏈各環(huán)節(jié)之間的聯(lián)系將更加密切，以完備的組織架構(gòu)、人員、流程及工具形成人工智能技術(shù)全生命周期的一體化治理。四是領(lǐng)軍企業(yè)治理將進(jìn)一步帶動(dòng)行業(yè)實(shí)踐。通過(guò)領(lǐng)軍企業(yè)先行探索，帶動(dòng)眾多缺乏治理體系和治理能力的人工智能初創(chuàng)企業(yè)、中小企業(yè)進(jìn)行負(fù)責(zé)任的人工智能治理實(shí)踐，最終實(shí)現(xiàn)整個(gè)行業(yè)的健康發(fā)展。五是負(fù)責(zé)任的人工智能生態(tài)將進(jìn)一步塑造。企業(yè)實(shí)現(xiàn)負(fù)責(zé)任的人工智能目標(biāo)需要多方協(xié)同共治，政府、行業(yè)、智庫(kù)、公眾等多主體將結(jié)合自身發(fā)展，運(yùn)用政策法規(guī)、倫理規(guī)范、技術(shù)標(biāo)準(zhǔn)手段等多種方式，對(duì)人工智能進(jìn)行積極引導(dǎo)、風(fēng)險(xiǎn)控制和源頭治理。

   【免責(zé)聲明】本文僅代表第三方觀點(diǎn)，不代表和訊網(wǎng)立場(chǎng)。投資者據(jù)此操作，風(fēng)險(xiǎn)請(qǐng)自擔(dān)。