2022年3月1日,國家互聯網信息辦公室、工業(yè)和信息化部、公安部以及國家市場監(jiān)督管理總局聯合發(fā)布的《互聯網信息服務算法推薦管理規(guī)定》(以下簡稱“《規(guī)定》”)正式生效。同日,互聯網信息服務算法備案系統(tǒng)正式上線運行。 下文將簡述算法推薦技術合規(guī)要點以及備案指引。 一、背景 《互聯網信息服務算法推薦管理規(guī)定》發(fā)布以前,國內算法規(guī)制初見端倪,例如,《電子商務法》第18條首次規(guī)定了禁止“大數據殺熟”;《個人信息保護法》第24條參照歐盟GDPR將反自動化決策權納入個人信息保護體系;《國務院反壟斷委員會關于平臺經濟領域的反壟斷指南》首次明確規(guī)制“算法共謀”導致的壟斷行為,具體法條如下: 法律名稱法條《電子商務法》第十八條 電子商務經營者根據消費者的興趣愛好、消費習慣等特征向其提供商品或者服務的搜索結果的,應當同時向該消費者提供不針對其個人特征的選項,尊重和平等保護消費者合法權益?!秱€人信息保護法》第二十四條 個人信息處理者利用個人信息進行自動化決策,應當保證決策的透明度和結果公平、公正,不得對個人在交易價格等交易條件上實行不合理的差別待遇。通過自動化決策方式向個人進行信息推送、商業(yè)營銷,應當同時提供不針對其個人特征的選項,或者向個人提供便捷的拒絕方式。通過自動化決策方式作出對個人權益有重大影響的決定,個人有權要求個人信息處理者予以說明,并有權拒絕個人信息處理者僅通過自動化決策的方式作出決定?!秶鴦赵悍磯艛辔瘑T會關于平臺經濟領域的反壟斷指南》第五條 平臺經濟領域壟斷協(xié)議是指經營者排除、限制競爭的協(xié)議、決定或者其他協(xié)同行為。協(xié)議、決定可以是書面、口頭等形式。其他協(xié)同行為是指經營者雖未明確訂立協(xié)議或者決定,但通過數據、算法、平臺規(guī)則或者其他方式實質上存在協(xié)調一致的行為,有關經營者基于獨立意思表示所作出的價格跟隨等平行行為除外。…… 此外,2021年下半年,《關于落實網絡餐飲平臺責任切實維護外賣送餐員權益的指導意見》發(fā)布,意見明確指出“網絡餐飲平臺要發(fā)揮數據技術優(yōu)勢,進一步完善訂單分派機制,優(yōu)化外賣送餐員往返路線,降低勞動強度”。隨后,美團外賣平臺公開騎手配送時間算法,并積極推進落實“算法取中”。在此背景下,《規(guī)定》應運而生。 二、何為算法推薦技術 根據《規(guī)定》第二條,該規(guī)定適用于在中華人民共和國境內應用算法推薦技術提供互聯網信息服務的行為。 算法推薦技術指生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法技術。 該《規(guī)定》未對算法推薦技術明確定義,僅以枚舉法的方式列舉了哪些算法技術可能構成算法推薦技術。參考《互聯網信息服務深度合成管理規(guī)定(征求意見稿)》第2條,生成合成類算法是利用以深度學習、虛擬現實為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術。綜合“深度合成”定義及《規(guī)定》全文,我們理解的《規(guī)定》規(guī)制的算法推薦技術所具備的共性如下: 1. 基于深度學習,即程序輸出結果與用戶行為緊密結合,算法設計者也無法準確預測程序輸出結果; 2. 對呈現給用戶的信息進行了篩選與選擇; 3. 這些算法行為會影響用戶或他人權益(例如可能帶來錯誤信息,引誘消費等)。 我們結合公開資料,將《規(guī)定》明確提及的算法概念、應用場景及合規(guī)要求總結如下: 算法類型定義場景合規(guī)要求生成合成類指利用以深度學習、虛擬現實為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術自動生成文章、視頻、音樂等內容;VR技術(虛擬人、虛擬場景等) 《網絡信息內容生態(tài)治理規(guī)定》第23條,不得利用深度學習、虛擬現實等新技術新應用從事法律、行政法規(guī)禁止的活動?!毒W絡音視頻信息服務管理規(guī)定》第13條,基于深度學習、虛擬現實等新技術新應用的應進行安全評估、顯著標識非真實視頻、發(fā)現違規(guī)內容及時停止傳輸并上報有關部門,且不得傳播虛假信息?!睹穹ǖ洹返?019及1023條,不得利用信息技術手段偽造等方式侵害他人的肖像權及聲音有關權益?!兑?guī)定》第13條,不得生成合成虛假新聞信息?!痘ヂ摼W信息服務深度合成管理規(guī)定(征求意見稿)》進行全面規(guī)制。個性化推送類利用用戶屬性及行為數據實現個性化分發(fā)的算法短視頻、音樂等網站的內容推送;電商商品定向推送;廣告精準營銷《電子商務法》第18條規(guī)定,提供不針對消費者個人的選項?!禔pp違法違規(guī)收集使用個人信息行為認定方法》規(guī)定,提供非定向推送的選項,且不得僅以定向推送信息為由,強制要求用戶同意收集個人信息?!兑?guī)定》第10條,應加強用戶模型和用戶標簽管理,完善記入用戶模型的興趣點規(guī)則和用戶標簽管理規(guī)則,不得將違法和不良信息關鍵詞記入用戶興趣點或者作為用戶標簽并據以推送信息。《網絡數據安全管理條例(征求意見稿)》第49條,利用個性化推送向用戶提供個人信息時,應取得個人的單獨同意;設置便于用戶訪問、重置、關閉個性化推薦的選項;允許個人刪除定向推送信息收集產生的個人信息。排序精選類以客觀或主觀因素為依據,設置、調整網絡信息內容排列順序的算法社交、新聞、音樂、短視頻等首頁推薦內容(如微博熱搜等);電商平臺熱銷商品榜單等《最高人民法院關于審理侵害信息網絡傳播權民事糾紛案件適用法律若干問題的規(guī)定》第9、10條,《最高人民法院關于審理利用信息網絡侵害人身權益民事糾紛案件適用法律若干問題的規(guī)定》第6條,人民法院依據民法典第一千一百九十七條認定網絡服務提供者是否“知道或者應當知道”,應當綜合考慮下列因素:(一)網絡服務提供者是否以人工或者自動方式對侵權網絡信息以推薦、排名、選擇、編輯、整理、修改等方式作出處理;……即應用排序精選類算法的平臺將無法適用避風港原則。《規(guī)定》第10、14條規(guī)定,應建立完善人工干預和用戶自主選擇機制;不得利用算法屏蔽信息、過度推薦、操縱榜單或者檢索結果排序、控制熱搜或者精選等干預信息呈現,實施影響網絡輿論或者規(guī)避監(jiān)督管理行為。此外,根據《規(guī)定》第24條,該類算法可能需要至算法平臺備案。檢索過濾類包括檢索算法與過濾算法,其中檢索算法是按照輸入條件或匹配需求匹配相應網絡信息內容的算法;過濾算法是指按照給定的條件識別并篩選相應網絡信息內容的算法搜索引擎等使用的去重、垃圾信息過濾及關聯推薦算法《互聯網信息搜索服務管理規(guī)定》第11條規(guī)定, 如涉及付費搜索信息服務,應當依法查驗客戶有關資質,明確付費搜索信息頁面比例上限,顯著區(qū)分付費搜索與自然搜索結果。《規(guī)定》第12條規(guī)定,綜合運用內容去重、打散干預等策略,并優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性,避免對用戶產生不良影響,預防和減少爭議糾紛。調度決策類自動或輔助生成供需匹配、供需調節(jié)、路徑規(guī)劃等決策調度結果,或提供調度決策依據的算法外賣訂單配送、最優(yōu)駕駛路線規(guī)劃、打車平臺自動接單等《個人信息保護法》第24條規(guī)定,保證決策的透明度和結果公平、公正,不得對個人在交易價格等交易條件上實行不合理的差別待遇;通過自動化決策方式作出對個人權益有重大影響的決定,個人有權要求個人信息處理者予以說明,并有權拒絕個人信息處理者僅通過自動化決策的方式作出決定。《國務院反壟斷委員會關于平臺經濟領域的反壟斷指南》規(guī)定,禁止通過算法共謀,實施反壟斷行為?!兑?guī)定》第18-20條規(guī)定,算法決策應保障弱勢群體權益。 三、合規(guī)要點 (一)算法安全責任 算法安全合規(guī)維度注意事項算法機制機理審核l 不得危害國家安全或公共利益,擾亂經濟秩序和社會秩序,侵犯他人合法權益;不得利用算法推薦服務傳播法律、行政法規(guī)禁止的信息;不得侵害弱勢群體利益等l 定期審核、評估、驗證算法機制機理、模型、數據和應用結果科技倫理審查目前對于科技倫理暫無系統(tǒng)性規(guī)定,企業(yè)可參照《關于加強科技倫理治理的指導意見(征求意見稿)》明確的科技倫理治理的基本原則,并結合自身商業(yè)模式制定科技倫理審查規(guī)則,該等基本原則如下:l 增進人類福祉l 尊重生命權利l 堅持公平公正l 合理控制風險l 保持公開透明用戶注冊除滿足現有法律要求的實名注冊外,算法推薦技術還應:l 不得利用算法技術虛假注冊l 不得利用算法技術交易賬戶或操縱賬戶信息發(fā)布審核參考《網絡信息內容生態(tài)治理規(guī)定》等相關規(guī)定,落實內容治理義務。此外,《規(guī)定》還對算法推薦技術的信息發(fā)布審核做出額外要求:l 健全用于識別違法和不良信息的特征庫l 發(fā)現未作顯著標識的算法生成合成信息的,應當作出顯著標識后,方可繼續(xù)傳輸l 發(fā)現違法信息的,應當立即停止傳輸,采取消除等處置措施,防止信息擴散,保存有關記錄,并向網信部門和有關部門報告數據安全和個人信息保護參照《個人信息安全法》、《網絡安全法》、《數據安全法》等相關法律,全面落實數據合規(guī)義務反電信網絡詐騙依法開展涉電信網絡詐騙信息的監(jiān)測、識別和處置安全評估監(jiān)測加強信息安全管理安全事件應急處置l 制定應急處理預案l 進行安全事件應急演練l 如發(fā)生安全事件按照法律規(guī)定及時上報主管部門算法推薦服務規(guī)則l 公示算法推薦服務的基本原理、目的意圖和主要運行機制l 提供便捷關閉算法服務的選項l 提供選擇或刪除用于算法推薦服務的針對個人特征的用戶標簽的功能市場公平競爭機制不得利用“算法共謀”方式形成壟斷,排除市場競爭,遵循反壟斷、反不正當競爭相關法律規(guī)定 (二)用戶權益保障責任 用戶權益保障合規(guī)要點注意事項基本要求l 告知用戶其提供算法推薦服務的情況,并以適當方式公示算法推薦服務的基本原理、目的意圖和主要運行機制等l 供不針對其個人特征的選項,并提供關閉渠道l 不得濫用大數據分析等技術手段,基于用戶消費記錄、偏好等設置不公平的交易條件,侵犯用戶合法權益勞動者權益保護機制l 建立完善平臺訂單分配、報酬構成及支付、工作時間、獎懲等相關算法未成年人權益保護機制結合規(guī)定及《未成年人保護法》、《兒童個人信息網絡保護規(guī)定》,針對未成年保護應注意以下合規(guī)事項l 不得收集以及處理與提供的服務無關的未成年個人信息l 兒童個人信息發(fā)生或者可能發(fā)生泄露、毀損、丟失的,應當立即啟動應急預案,采取補救措施l 不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會公德行為、誘導未成年人不良嗜好等可能影響未成年人身心健康的信息l 不得利用算法推薦服務誘導未成年人沉迷網絡老年人權益保護機制l 應當充分考慮老年人出行、就醫(yī)、消費、辦事等需求,提供智能化適老服務l 依法開展涉電信網絡詐騙信息的監(jiān)測、識別和處置 四、系統(tǒng)備案 根據《規(guī)定》第24條,具有輿論屬性或者社會動員能力的算法推薦技術服務提供者應當履行備案手續(xù)。備案主體應通過互聯網信息服務算法備案系統(tǒng)(官方網址為 https://beian.cac.gov.cn)履行備案手續(xù),填報信息包括三部分,分別是算法主體信息、算法信息、產品及功能信息。 (一)算法主體信息 企業(yè)在進行注冊賬號時,需要特別注意同一個備案主體只需注冊一個賬號。主體信息填報:算法備案填報人員應按照備案主體的實際情況準確填寫主體基本信息、證件信息、法定代表人信息、算法安全責任人信息等,并下載附件模板,嚴格按照模板要求填寫并上傳。 (二)算法信息 算法信息填報分為四個步驟:一是填寫算法基礎屬性信息,值得注意的是,在填寫算法基礎信息時,企業(yè)需上傳算法自評估報告及擬公示內容。二是填寫算法詳細屬性信息,三是填寫產品及功能信息,四是確認提交。 (三)產品及功能信息 產品及功能信息填報:根據實際情況填報產品及功能信息。需完成三個步驟:一是添加產品信息,二是添加產品功能訪問路徑,三是添加路徑下的功能信息。 五、總結與展望 隨著《個人信息保護法》、《數據安全法》等數據保護層面的相關法律初步出臺,我國個人信息與數據保護法律體系初步建成。監(jiān)管部門、企業(yè)等正積極推動數據合法流動。在此背景下,算法治理首次正式納入監(jiān)管范疇,與此前的“數據合規(guī)”相似,企業(yè)(特別是互聯網企業(yè))又需再次摸石過河,積極采取與現行監(jiān)管相匹配的合規(guī)措施。在此過程中,我們也將努力協(xié)助,探索與企業(yè)經營模式相匹配的合規(guī)之路。 參考: 【1】網信中國:《互聯網信息服務算法推薦管理規(guī)定》系列專家解讀(一) 【2】國家互聯網信息辦公室:關于《互聯網信息服務深度合成管理規(guī)定(征求意見稿)》公開征求意見的通知 【3】法治網:算法面臨更強監(jiān)管 禁止“大數據殺熟”立法進程加快反殺“大數據殺熟”面臨認定難舉證難等困境 【4】新華社:聚焦《互聯網信息服務算法推薦管理規(guī)定》五大看點 【5】OECD:《Algorithms and collusion: Competition policy in the digital age》 【6】國務院反壟斷委員會:《國務院反壟斷委員會關于平臺經濟領域的反壟斷指南》 【7】人力資源社會保障部 國家發(fā)展改革委?交通運輸部 應急部 市場監(jiān)管總局?國家醫(yī)保局 最高人民法院 全國總工會:關于維護新就業(yè)形態(tài)勞動者勞動保障權益的指導意見 【8】中國互聯網絡信息中心(CNNIC):第49次《中國互聯網絡發(fā)展狀況統(tǒng)計報告》 【10】國家統(tǒng)計局:《第七次全國人口普查主要數據情況》 |
? 2019-2021 All rights reserved. 北京轉創(chuàng)國際管理咨詢有限公司 京ICP備19055770號-1
Beijing TransVenture International Management Consulting Co., Ltd.
地址:北京市大興區(qū)新源大街25號院恒大未來城7號樓1102室
北京市豐臺區(qū)南四環(huán)西路128號諾德中心2號樓5層
北京市海淀區(qū)西禪寺(華北項目部)
深圳市南山區(qū)高新科技園南區(qū)R2-B棟4樓12室
深圳市福田區(qū)華能大廈
佛山順德區(qū)北滘工業(yè)大道云創(chuàng)空間
汕頭市龍湖區(qū)泰星路9號壹品灣三區(qū)
長沙市芙蓉區(qū)韶山北路139號文化大廈
梅州市豐順縣大潤發(fā)大廈
歡迎來到本網站,請問有什么可以幫您?
稍后再說 現在咨詢 双流县| 昌吉市| 丹寨县| 齐齐哈尔市| 兴海县| 巫山县| 运城市| 高阳县| 喀什市| 苍山县|