《意見(jiàn)稿》指出，算法推薦服務(wù)提供者應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向，優(yōu)化算法推薦服務(wù)機(jī)制，積極傳播正能量，促進(jìn)算法應(yīng)用向上向善。
8月27日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見(jiàn)稿）》（以下簡(jiǎn)稱《意見(jiàn)稿》）并公開(kāi)征求意見(jiàn)。
《意見(jiàn)稿》對(duì)具有輿論屬性或社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者進(jìn)行重點(diǎn)規(guī)則，從內(nèi)容推薦要求堅(jiān)持主流價(jià)值導(dǎo)向，到不得實(shí)施流量造假、控制熱搜等影響網(wǎng)絡(luò)輿論，劍指微博、今日頭條、百度、快手、抖音等資訊信息及短視頻平臺(tái)。
對(duì)于平臺(tái)用工權(quán)益及消費(fèi)者權(quán)利的保障，《意見(jiàn)稿》要求，外賣及網(wǎng)約車平臺(tái)對(duì)勞動(dòng)者、消費(fèi)者的雙重算法需規(guī)范，保證勞動(dòng)者算法的公正透明，抵制算法對(duì)消費(fèi)者“大數(shù)據(jù)殺熟”。
如何平衡平臺(tái)對(duì)算法使用及用戶權(quán)利保障？多位專家向21世紀(jì)經(jīng)濟(jì)報(bào)道記者表示，企業(yè)合規(guī)應(yīng)注意《意見(jiàn)稿》所提出的技術(shù)、管理和內(nèi)容價(jià)值層面的多層次要求。
堅(jiān)持主流價(jià)值導(dǎo)向，算法向上向善
網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理，是我國(guó)近年來(lái)互聯(lián)網(wǎng)治理重點(diǎn)。
2019年12月，國(guó)家網(wǎng)信辦公布《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》，標(biāo)志著我國(guó)建立了完整的網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理框架。今年1月，國(guó)家網(wǎng)信辦就《互聯(lián)網(wǎng)信息服務(wù)管理辦法（修訂草案征求意見(jiàn)稿）》公開(kāi)征求意見(jiàn)，進(jìn)一步規(guī)定信息傳播的各項(xiàng)要求。國(guó)家網(wǎng)信辦、全國(guó)掃黃打非辦等部門也多次對(duì)平臺(tái)內(nèi)容進(jìn)行整頓。
然而，網(wǎng)絡(luò)生態(tài)治理目前仍然存在難題。中國(guó)政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所副所長(zhǎng)商希雪介紹，一方面，淫穢色情、賭博詐騙以及負(fù)能量?jī)?nèi)容充斥網(wǎng)絡(luò)空間；另一方面，在“流量為王”的畸形觀念下，平臺(tái)利用算法模型通過(guò)熱搜、超話、炒作、聚集等信息推送方式投放給用戶“刺激”的話題和“熱點(diǎn)”的信息，大眾在被動(dòng)“吃瓜”時(shí)也會(huì)感到精神的不適。
《意見(jiàn)稿》指出，算法推薦服務(wù)提供者應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向，優(yōu)化算法推薦服務(wù)機(jī)制，積極傳播正能量，促進(jìn)算法應(yīng)用向上向善。
第九條從手段方面規(guī)范內(nèi)容服務(wù)平臺(tái)的信息推送行為，要求加強(qiáng)信息內(nèi)容管理，建立健全用于識(shí)別違法和不良信息的特征庫(kù)，完善入庫(kù)標(biāo)準(zhǔn)、規(guī)則和程序。發(fā)現(xiàn)未作顯著標(biāo)識(shí)的算法生成合成信息的，應(yīng)當(dāng)作出顯著標(biāo)識(shí)后，方可繼續(xù)傳輸。
內(nèi)容本身的治理固然必要，但在海量的內(nèi)容中，良性內(nèi)容常常被埋沒(méi)，低俗吸睛的內(nèi)容卻更容易被“刷”出，陷入了“劣幣驅(qū)逐良幣”的窘境中。
《意見(jiàn)稿》第十一條強(qiáng)調(diào)“建立完善人工干預(yù)和用戶自主選擇機(jī)制”，也即不僅依賴算法進(jìn)行內(nèi)容推薦，還需要增加人工識(shí)別及篩選的過(guò)程，“在首頁(yè)首屏、熱搜、精選、榜單類、彈窗等重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符合主流價(jià)值導(dǎo)向的信息內(nèi)容�！�
“相當(dāng)于在平臺(tái)夯實(shí)主體責(zé)任的過(guò)程中，除對(duì)謠言及其他不法信息的治理外，還多加了一道對(duì)算法決策的抓手。”中國(guó)政法大學(xué)傳播法研究中心副主任朱巍表示，平臺(tái)通過(guò)何種算法和邏輯使用數(shù)據(jù)，是互聯(lián)網(wǎng)監(jiān)管的關(guān)鍵。
對(duì)于未成年人的保護(hù)，《意見(jiàn)稿》第十六條特別提出“通過(guò)開(kāi)發(fā)適合未成年人使用的模式、提供適合未成年人特點(diǎn)的服務(wù)等方式，便利未成年人獲取有益身心健康的信息內(nèi)容。”
《意見(jiàn)稿》公布當(dāng)日，網(wǎng)信辦發(fā)布加強(qiáng)“飯圈”亂象治理的通知，提出“取消明星藝人榜單”“優(yōu)化調(diào)整排行規(guī)則”等10條工作措施。網(wǎng)信辦指出，在音樂(lè)作品、影視作品等排行中，降低簽到、點(diǎn)贊、評(píng)論等指標(biāo)權(quán)重，增加作品導(dǎo)向及專業(yè)性評(píng)價(jià)等指標(biāo)權(quán)重。不得設(shè)置誘導(dǎo)粉絲打榜的相關(guān)功能，引導(dǎo)粉絲更多關(guān)注文化產(chǎn)品質(zhì)量。
不得控制熱搜，影響網(wǎng)絡(luò)輿論
熱搜榜單是注意力經(jīng)濟(jì)最集中的體現(xiàn)，是新媒體時(shí)代議程設(shè)置最典型的樣本。
《意見(jiàn)稿》多項(xiàng)內(nèi)容規(guī)制排序精選類平臺(tái)，如資訊類的今日頭條與百度、短視頻類的快手與抖音、綜合類的微博與知乎等，劍指熱搜榜單這項(xiàng)功能服務(wù)。
關(guān)于熱搜排序、流量造假等問(wèn)題，監(jiān)管部門此前曾多次出手，對(duì)平臺(tái)的監(jiān)管趨嚴(yán)。
2020年6月，國(guó)家網(wǎng)信辦指導(dǎo)北京市互聯(lián)網(wǎng)信息辦公室約談新浪微博負(fù)責(zé)人，針對(duì)微博在蔣某輿論事件中干擾網(wǎng)上傳播秩序，以及傳播違法違規(guī)信息等問(wèn)題，責(zé)令整改，暫停更新微博熱搜榜一周，嚴(yán)肅處理相關(guān)責(zé)任人并從嚴(yán)予以罰款的行政處罰。
《意見(jiàn)稿》對(duì)算法推薦服務(wù)提供者在算法規(guī)則及公示方面進(jìn)行要求。第十二條提到，應(yīng)綜合運(yùn)用內(nèi)容去重、打散干預(yù)等策略，并優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性。第十四條規(guī)定，應(yīng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況，并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖、運(yùn)行機(jī)制等。
今年8月23日，微博曾回應(yīng)“花錢買熱搜”“花錢壓熱搜”等質(zhì)疑，首次公布熱搜產(chǎn)品規(guī)則和管理細(xì)則。微博表示，熱搜根據(jù)微博用戶的真實(shí)行為進(jìn)行計(jì)算，并根據(jù)搜索量、發(fā)博量、互動(dòng)量等數(shù)據(jù)指標(biāo)，形成實(shí)時(shí)榜單。榜單算法中包含了嚴(yán)格的排水軍和反垃圾機(jī)制，以確保公正客觀。
對(duì)于平臺(tái)在影響輿論及社會(huì)動(dòng)員方面的規(guī)制，《意見(jiàn)稿》第十三條要求，不得利用算法虛假注冊(cè)賬號(hào)、非法交易賬號(hào)、操縱用戶賬號(hào)，或者虛假點(diǎn)贊、評(píng)論、轉(zhuǎn)發(fā)、網(wǎng)頁(yè)導(dǎo)航等，實(shí)施流量造假、流量劫持；不得利用算法屏蔽信息、過(guò)度推薦、操縱榜單或者檢索結(jié)果排序、控制熱搜或者精選等干預(yù)信息呈現(xiàn)，實(shí)施自我優(yōu)待、不正當(dāng)競(jìng)爭(zhēng)、影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)管。
同時(shí)，《意見(jiàn)稿》要求賦予用戶選擇權(quán)。第十五條提到，算法推薦服務(wù)提供者應(yīng)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng)，或向用戶提供便捷關(guān)閉算法推薦服務(wù)的選項(xiàng)。用戶選擇關(guān)閉的，應(yīng)立即停止提供相關(guān)服務(wù)。這與8月20日出臺(tái)的《個(gè)人信息保護(hù)法》中，關(guān)于個(gè)人信息權(quán)及撤回同意的相關(guān)內(nèi)容一脈相承。
網(wǎng)約車、外賣平臺(tái)雙重算法受監(jiān)管
近年來(lái)，外賣小哥、網(wǎng)約車司機(jī)等新就業(yè)形態(tài)勞動(dòng)者隊(duì)伍不斷壯大。2019年，餐飲外賣員總數(shù)已突破700萬(wàn)人。全國(guó)網(wǎng)約車監(jiān)管信息交互平臺(tái)統(tǒng)計(jì)顯示，截至2021年7月31日，全國(guó)共有241家平臺(tái)取得網(wǎng)約車經(jīng)營(yíng)許可，各地共發(fā)放網(wǎng)約車駕駛員證351萬(wàn)本。
《意見(jiàn)稿》對(duì)于網(wǎng)約車、外賣等調(diào)度決策類等平臺(tái)的算法也作出規(guī)制，從勞動(dòng)者及消費(fèi)者的雙重算法進(jìn)行約束。
針對(duì)勞動(dòng)者，《意見(jiàn)稿》要求算法公正透明。第十七條提出，算法推薦服務(wù)提供者向勞動(dòng)者提供工作調(diào)度服務(wù)的，應(yīng)當(dāng)建立完善平臺(tái)訂單分配、報(bào)酬構(gòu)成及支付、工作時(shí)間、獎(jiǎng)懲等相關(guān)算法，履行勞動(dòng)者權(quán)益保障義務(wù)。
今年5月，交通部、市場(chǎng)監(jiān)管總局等八部門聯(lián)合約談滴滴出行、曹操出行、高德、貨拉拉等10家平臺(tái)。約談要求，平臺(tái)應(yīng)主動(dòng)公開(kāi)定價(jià)機(jī)制和計(jì)價(jià)規(guī)則，持續(xù)優(yōu)化派單機(jī)制。曹操、滴滴等平臺(tái)已提出推進(jìn)抽成公開(kāi)。曹操出行表示，已通過(guò)司機(jī)端展示等方式對(duì)現(xiàn)行分成比例公開(kāi)。滴滴則在5月宣布將推進(jìn)公開(kāi)訂單抽成，推動(dòng)司機(jī)賬單透明化。
7月，人社部等八部門和市場(chǎng)監(jiān)管總局等七部門先后發(fā)布了《關(guān)于維護(hù)新就業(yè)形態(tài)勞動(dòng)者勞動(dòng)保障權(quán)益的指導(dǎo)意見(jiàn)》和《關(guān)于落實(shí)網(wǎng)絡(luò)餐飲平臺(tái)責(zé)任切實(shí)維護(hù)外賣送餐員權(quán)益的指導(dǎo)意見(jiàn)》，督促企業(yè)合理制定訂單分配、計(jì)件單價(jià)、抽成比例、報(bào)酬構(gòu)成及支付、工作時(shí)間、獎(jiǎng)懲等制度規(guī)則和平臺(tái)算法，提出通過(guò)“算法取中”等方式，替代“最嚴(yán)算法”的考核要求。
針對(duì)消費(fèi)者，算法則需限制“大數(shù)據(jù)殺熟”�！兑庖�(jiàn)稿》第十八條規(guī)定，算法推薦服務(wù)提供者向消費(fèi)者銷售商品或者提供服務(wù)的，應(yīng)當(dāng)保護(hù)消費(fèi)者合法權(quán)益，不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征，利用算法在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇等違法行為。
中國(guó)政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所副所長(zhǎng)商希雪分析，當(dāng)前商業(yè)應(yīng)用場(chǎng)景中自動(dòng)化決策算法愈加頻繁，引發(fā)威脅用戶正當(dāng)權(quán)益的社會(huì)風(fēng)險(xiǎn)。
關(guān)于“大數(shù)據(jù)殺熟”，《網(wǎng)絡(luò)交易監(jiān)督管理辦法》《電子商務(wù)法》《國(guó)務(wù)院反壟斷委員會(huì)關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》，以及將于今年11月1日起施行的《個(gè)人信息保護(hù)法》等多部法律法規(guī)中都有明確規(guī)定，要求不得在交易中對(duì)個(gè)人實(shí)施“差別待遇”。
平衡算法使用與用戶權(quán)利保障
算法規(guī)則的背后是商業(yè)利益，面對(duì)算法推薦技術(shù)的各項(xiàng)要求，企業(yè)應(yīng)如何平衡算法的使用與保障用戶權(quán)利？
北京師范大學(xué)網(wǎng)絡(luò)法治國(guó)際中心執(zhí)行主任吳沈括建議，企業(yè)合規(guī)應(yīng)注意《意見(jiàn)稿》所提出的技術(shù)、管理和內(nèi)容價(jià)值層面的多層次要求。
具體而言，包括三個(gè)方面：在技術(shù)層面，產(chǎn)品自研發(fā)階段就要關(guān)注算法可能帶來(lái)的風(fēng)險(xiǎn)，尤其是歧視、虛假和與正能量不符的內(nèi)容傾向；在組織管理層面，需要構(gòu)建從用戶注冊(cè)、管理到風(fēng)險(xiǎn)評(píng)估等的全生命周期的組織管理制度，全面落實(shí)從制度到人的治理；在算法應(yīng)用過(guò)程中，注意內(nèi)容本身的價(jià)值倫理要求跟社會(huì)主義價(jià)值觀相符合，與正能量傳播要求的相匹配。
“從狹義的用戶權(quán)利保護(hù)角度來(lái)看，數(shù)據(jù)安全、個(gè)人信息保護(hù)，需要在現(xiàn)有的法律頂層設(shè)計(jì)下，做到制度間的交叉匹配，實(shí)現(xiàn)用戶的自主權(quán)利以及其他安全利益的綜合全面保護(hù)。”吳沈括說(shuō)。
自動(dòng)化決策是算法監(jiān)管之重�！捌脚_(tái)根據(jù)用戶的興趣愛(ài)好、消費(fèi)習(xí)慣等特征向其提供商品或者服務(wù)的搜索結(jié)果時(shí)，應(yīng)當(dāng)同時(shí)提供不針對(duì)其個(gè)人特征的選項(xiàng)�！鄙滔Ｑ┍硎�，一方面，在遵守法律規(guī)定的前提下，企業(yè)應(yīng)當(dāng)遵循公開(kāi)、公平、公正的原則設(shè)計(jì)算法模型與制定自動(dòng)化決策規(guī)則，不得對(duì)用戶提供歧視性的差異化待遇；另一方面，在履行“告知-同意”的義務(wù)前提下，企業(yè)應(yīng)當(dāng)保障用戶對(duì)算法設(shè)計(jì)與自動(dòng)化決策的同意權(quán)、規(guī)則解釋權(quán)和選擇權(quán)。
借助外部力量，或許能讓企業(yè)從更客觀的角度解決問(wèn)題。上海大邦律師事務(wù)所高級(jí)合伙人游云庭認(rèn)為，企業(yè)可以通過(guò)組建第三方的算法監(jiān)管委員會(huì)，例如第三方機(jī)構(gòu)、用戶代表、行業(yè)協(xié)會(huì)人員等，均可定期對(duì)企業(yè)內(nèi)部的算法倫理落實(shí)情況，輔助企業(yè)內(nèi)部的自查自糾和審計(jì)，由外部人士提出中肯建議，能有效減少算法風(fēng)險(xiǎn)。
（作者：張雅婷,郭美婷 編輯：張星）
最新評(píng)論