? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?加強算法風(fēng)險全流程治理 創(chuàng)設(shè)算法規(guī)范“中國方案”

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?2022-03-01? ?青野云麓??

2022-03-01 來源：央視網(wǎng) 作者：林洹民

2022年3月1日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、市場監(jiān)管總局聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（下文簡稱《規(guī)定》）正式施行。在大數(shù)據(jù)經(jīng)濟(jì)時代，算法是個人信息處理者收集和處理數(shù)據(jù)、推送信息、調(diào)配資源的核心力量。算法一旦失范，將給國家利益、社會公共利益和公民合法權(quán)益帶來嚴(yán)重威脅。因此，《規(guī)定》的施行具有鮮明的時代意義和現(xiàn)實需求。

?

算法是計算機的核心運行邏輯，是一套基于設(shè)計目的的數(shù)據(jù)處理指令的總和，在底層上體現(xiàn)出專業(yè)科技的特點。算法也是一門賦能技術(shù)，應(yīng)用場景為賦能領(lǐng)域，當(dāng)算法應(yīng)用到具體的商業(yè)模式當(dāng)中，就會產(chǎn)生應(yīng)用型風(fēng)險。算法關(guān)系就是這樣一種“方式”與“領(lǐng)域”的疊加關(guān)系或結(jié)合關(guān)系。因此，算法規(guī)范不能不談 “方式”，算法的設(shè)計、測試、評估屬于科技活動，“算法黑箱”、“算法霸權(quán)”部分是因科技活動本身的不規(guī)范所致；算法規(guī)范也不能只談“方式”，因為正是算法層出不窮的應(yīng)用場景，使得算法現(xiàn)實地影響我們的權(quán)益，影響人的自由發(fā)展?！兑?guī)定》充分把握了算法的內(nèi)生性風(fēng)險和應(yīng)用型風(fēng)險，有針對性地設(shè)計風(fēng)險防范規(guī)則。

第一，算法內(nèi)生性風(fēng)險的控制重點在算法的設(shè)計和運行階段。算法的設(shè)計、測試、評估非專業(yè)人士不能為之，這種“排他性”表明算法活動是一項專門技術(shù)。算法黑箱、算法歧視等痼疾的產(chǎn)生，部分也源于科技活動本身的復(fù)雜性。因此，對科技活動的規(guī)范，需要從科技風(fēng)險防范的角度設(shè)計專門規(guī)則?！兑?guī)定》鼓勵使用算法傳播正能量、抵制違法和不良信息，不得設(shè)置誘導(dǎo)用戶沉迷、過度消費等有違倫理道德的算法模型，推動算法向上向善。表明了作為科技活動的算法研發(fā)不能僅有工具理性，必須具有價值理性。

?

在具體規(guī)則層面，《規(guī)定》也側(cè)重于從技術(shù)角度，直接規(guī)范算法設(shè)計和運行。例如，第9條第1款要求算法推薦服務(wù)提供者建立健全用于識別違法和不良信息的特征庫，完善入庫標(biāo)準(zhǔn)、規(guī)則和程序；第10條要求算法推薦服務(wù)提供者加強用戶模型和用戶標(biāo)簽管理；第12條鼓勵算法推薦服務(wù)提供者綜合運用內(nèi)容去重、打散干預(yù)等策略，并優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性等等。

特別值得關(guān)注的是，《規(guī)定》第24條規(guī)定算法備案制度，要求算法推薦服務(wù)提供者提供算法類型、算法自評估報告、擬公示內(nèi)容等信息?？萍蓟顒语L(fēng)險控制首推風(fēng)險評估與實驗數(shù)據(jù)記錄。如果算法活動缺乏風(fēng)險評估，則使得風(fēng)險無法從源頭控制；如果算法設(shè)計和檢驗缺乏記錄，則監(jiān)管機構(gòu)無法進(jìn)行有效地評估、追溯和驗證復(fù)雜算法。備案制度一定意義上倒逼算法推薦服務(wù)提供者積極進(jìn)行風(fēng)險評估和全流程記錄，既能督促運營者在整個算法活動階段考慮算法合規(guī)問題，也有助于幫助執(zhí)法機關(guān)監(jiān)督算法活動。

第二，算法應(yīng)用型風(fēng)險的治理覆蓋了算法運行的全生命周期。算法既是科學(xué)技術(shù)，也是賦能手段，其除了具備科技固有的風(fēng)險之外，也因在商業(yè)和公共事業(yè)領(lǐng)域的嵌入式應(yīng)用，對源于工業(yè)時代立法模式和治理模式不斷沖擊，引發(fā)了諸多治理痛點。在應(yīng)用環(huán)節(jié)，我們也要貫徹程序性控制。但算法應(yīng)用有著不同于算法研發(fā)的特殊性：算法應(yīng)用直接作用于算法相對人。算法應(yīng)用將影響算法相對人的合法權(quán)益——算法針對算法相對人的訴求做出決定。為了解決應(yīng)用型風(fēng)險，《規(guī)定》針對未成年人、老年人、勞動者和大數(shù)據(jù)殺熟等場景，分別配置相應(yīng)的行為規(guī)則（第19條至第21條）。為了實現(xiàn)自下而上的算法治理，《規(guī)定》還通過權(quán)利路徑，賦予個人對抗算法決策的權(quán)利。

《規(guī)定》第17條第1款規(guī)定：“算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對其個人特征的選項，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項。用戶選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)?！毕噍^于《個人信息保護(hù)法》第24條第2款的規(guī)定，本條進(jìn)一步明確規(guī)定了算法應(yīng)用拒絕權(quán)。

?

此外，第17條第2款規(guī)定：“算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供選擇或者刪除用于算法推薦服務(wù)的針對其個人特征的用戶標(biāo)簽的功能?！痹摋l規(guī)定為我國首創(chuàng)，能夠更全面地保護(hù)算法相對人的利益。算法相對人可能并不是要求算法使用人停止推薦服務(wù)，而是禁止推定特定類型的服務(wù)。通過賦予算法相對人刪除標(biāo)簽的權(quán)利，能夠更全面的滿足用戶的要求。

同時，《規(guī)定》第17條第3款還規(guī)定：“算法推薦服務(wù)提供者應(yīng)用算法對用戶權(quán)益造成重大影響的，應(yīng)當(dāng)依法予以說明并承擔(dān)相應(yīng)責(zé)任?！北热纾趧討B(tài)定價當(dāng)中，如果推薦給用戶的價格偏高，可能構(gòu)成對用戶權(quán)益的重大影響。用戶可以要求算法推薦服務(wù)提供者給予說明。如果構(gòu)成侵犯民事權(quán)益的，算法推薦服務(wù)提供者應(yīng)根據(jù)法律規(guī)定承擔(dān)相應(yīng)責(zé)任。

算法風(fēng)險的全流程治理，在“風(fēng)險-規(guī)制”框架下尋找新的平衡點和組合方式。算法在本質(zhì)上是處理數(shù)據(jù)的代碼，是一項應(yīng)用科學(xué)技術(shù)。但技術(shù)并非中立，尤其是當(dāng)算法處理的不是“物”、而是“個人信息”時，算法活動就兼具社會活動屬性，內(nèi)涵倫理和社會風(fēng)險。因此，算法規(guī)范難題部分來源于科技的專業(yè)性和工具性，部分來源于應(yīng)用場景當(dāng)中的價值復(fù)雜性。《規(guī)定》針對科技風(fēng)險與應(yīng)用風(fēng)險設(shè)計規(guī)則，在“風(fēng)險-規(guī)制”框架下創(chuàng)設(shè)了算法規(guī)范的中國方案。

?

算法無處不在 濫用問題不斷

2022-03-01 來源：九派新聞

國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，將于2022年3月1日起正式施行。對于普通用戶而言，算法摸不著也看不懂，卻在廣泛影響著我們通過各種平臺獲取互聯(lián)網(wǎng)信息服務(wù)。

算法無處不在 濫用問題不斷

算法推薦技術(shù)通過抓取用戶日常的使用數(shù)據(jù)，分析得出人們的行為、習(xí)慣和喜好，進(jìn)而精準(zhǔn)化地提供信息、娛樂、消費等各類服務(wù)。提供便利的同時，近年來，“大數(shù)據(jù)殺熟”、流量造假、誘導(dǎo)沉迷等不合理應(yīng)用也給我們的生活帶來煩惱。由北京大學(xué)互聯(lián)網(wǎng)發(fā)展研究中心與互聯(lián)網(wǎng)公司聯(lián)合發(fā)布的《中國大安全感知報告（2021）》顯示，有七成受訪者感到算法能獲取自己的喜好、興趣從而“算計”自己，近五成受訪者表示，在算法束縛下想要逃離網(wǎng)絡(luò)、遠(yuǎn)離手機。

中國信息安全研究院副院長 左曉棟：這些服務(wù)的推送是網(wǎng)絡(luò)服務(wù)提供者給我們定制的，那么定制就容易產(chǎn)生濫用，輕則損害我們個人的權(quán)益，嚴(yán)重的就會危害國家安全，因此算法推薦必須要進(jìn)行規(guī)范。

《規(guī)定》明確，應(yīng)用算法推薦技術(shù)，是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息。各類提供算法推薦服務(wù)的互聯(lián)網(wǎng)公司幾乎都在監(jiān)管范圍內(nèi)，如各類短視頻平臺、電商平臺、社交平臺及餐飲外賣平臺等。

為了打破算法摸不著也看不懂的“黑箱”，《規(guī)定》明確要求保障用戶的算法知情權(quán)和算法選擇權(quán)，應(yīng)當(dāng)向用戶提供不針對其個人特征的選項，或者便捷的關(guān)閉算法推薦服務(wù)的選項。

《規(guī)定》要求算法推薦服務(wù)提供者應(yīng)當(dāng)堅持主流價值導(dǎo)向，積極傳播正能量，建立完善人工干預(yù)和用戶自主選擇機制，不得利用算法實施影響網(wǎng)絡(luò)輿論、規(guī)避監(jiān)督管理以及壟斷和不正當(dāng)競爭行為。

?

不得實施差別待遇 劍指大數(shù)據(jù)“殺熟”

近年來，一些企業(yè)利用個人信息搞大數(shù)據(jù)“殺熟”，對不同群體進(jìn)行差別定價，實行“價格歧視”，讓消費者十分反感。對此，《規(guī)定》又將如何破解呢？

浙江紹興的胡女士通過某商旅平臺定購了一家酒店房間，結(jié)賬時發(fā)現(xiàn)，通過平臺支付的房費比該酒店實際房價高近一倍，而她是該商旅平臺的高級會員，本該享受8.5折優(yōu)惠。胡女士懷疑商旅平臺通過她此前的消費行為，存在“大數(shù)據(jù)殺熟”的行為，將商旅平臺告上法庭。去年7月，法院一審對原告退一賠三的請求予以準(zhǔn)許。這起案件被眾多媒體稱為“大數(shù)據(jù)殺熟”第一案。

同樣的送餐時間、地點、訂單、外賣平臺，會員卻比非會員多付錢；同時同地打同類型車到同一目的地，某打車平臺曾被用戶發(fā)現(xiàn)熟客反而收費更高，類似的消費投訴多有發(fā)生。對此，《規(guī)定》提出，算法推薦服務(wù)提供者向消費者銷售商品或者提供服務(wù)的，應(yīng)當(dāng)保護(hù)消費者公平交易的權(quán)利，不得根據(jù)消費者的偏好、交易習(xí)慣等特征，利用算法在交易價格等交易條件上實施不合理的差別待遇等違法行為。

中國信息安全研究院副院長 左曉棟：有的平臺就會說，這個算法是我的知識產(chǎn)權(quán)，是我的商業(yè)秘密，我不能公開。這些說辭都不能成立了，平臺的算法要保證必要的透明性。

專家強調(diào)，《規(guī)定》還明確保障用戶的選擇權(quán)、刪除權(quán)等權(quán)益。通過向用戶提供不針對其個人特征的選項，或向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項，并提供選擇或刪除針對其個人特征的用戶標(biāo)簽的功能，避免消費者被算法“算計”。

?

保護(hù)勞動者合法權(quán)益 避免被算法所“困”

此外，在《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中要求，算法推薦服務(wù)提供者向勞動者提供工作調(diào)度服務(wù)的，應(yīng)當(dāng)保護(hù)勞動者取得勞動報酬、休息休假等合法權(quán)益，相關(guān)情況，再來了解一下。

2020年9月，一篇名為《外賣騎手，困在系統(tǒng)里》的文章備受關(guān)注。文章描述了在外賣平臺系統(tǒng)的算法與數(shù)據(jù)驅(qū)動下，外賣騎手的配送時間不斷被壓縮，而騎手在強大的系統(tǒng)驅(qū)動下，為避免差評、維持收入，不得不在現(xiàn)實中選擇逆行、闖紅燈等做法。不少外賣騎手表示，幾十層的高層樓宇，電梯一等就是十幾分鐘甚至更長，但這樣的客觀情況，并沒有被“算法系統(tǒng)”考慮進(jìn)去。

清華大學(xué)人工智能國際治理研究院副院長 梁正：由于機器還在發(fā)展階段當(dāng)中，針對一些勞動工作場景，把決定權(quán)力交給機器，有很大的潛藏的公平性、可靠性的風(fēng)險。

互聯(lián)網(wǎng)平臺優(yōu)化算法主要通過大數(shù)據(jù)分析算法模型計算出業(yè)務(wù)經(jīng)營的最佳策略，與此同時，與算法相配合的還有一整套嚴(yán)格的績效考核機制，一旦違背部分算法規(guī)則，則會在考核中失去“優(yōu)勢”，并可能帶來了一些惡性應(yīng)對行為。對此《規(guī)定》專門提出，算法推薦服務(wù)提供者向勞動者提供工作調(diào)度服務(wù)的，應(yīng)當(dāng)保護(hù)勞動者取得勞動報酬、休息休假等合法權(quán)益，建立完善平臺訂單分配、報酬構(gòu)成及支付、工作時間、獎懲等相關(guān)算法。

?

確保算法公開透明 嚴(yán)防刷量控評影響輿論

雇傭網(wǎng)絡(luò)“水軍”實施流量造假，鼓動“飯圈”粉絲互撕，刷量控評，一些算法推薦服務(wù)提供者干預(yù)熱搜，影響網(wǎng)絡(luò)輿論的現(xiàn)象讓人詬病。明天施行的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》將給這類影響網(wǎng)絡(luò)輿論的“黑手”戴上“緊箍咒”。

在娛樂行業(yè)，部分流量明星動輒可以拿到上億甚至十幾億的商業(yè)回報，明星商業(yè)平臺無所不用其極地制作話題、進(jìn)行炒作，任何可以引發(fā)粉絲關(guān)注討論的行為，甚至是粉絲之間的網(wǎng)絡(luò)罵戰(zhàn)，都是商業(yè)團(tuán)隊常規(guī)的策劃內(nèi)容。品牌方也深諳此道，甚至運用手段刻意制造不同粉絲的矛盾，掀起罵戰(zhàn)來博眼球、拉流量。

3月1日正式實施的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，要求算法推薦服務(wù)應(yīng)遵循公開透明的原則，鼓勵算法推薦服務(wù)提供者綜合運用內(nèi)容去重、打散干預(yù)等策略，優(yōu)化規(guī)則透明度和可解釋性。建立健全算法機制機理審核、科技倫理審查、用戶注冊、信息發(fā)布審核等管理制度，不得利用算法操縱榜單、控制熱搜等干預(yù)信息呈現(xiàn)。

中國信息安全研究院副院長 左曉棟：我們看到的內(nèi)容有可能會越來越偏離公正，偏離中立，被人為地或者是背后有算法在引導(dǎo)的情況，那么就需要進(jìn)行必要地干預(yù)。

對外經(jīng)貿(mào)大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任 張欣：原則上告訴我們說這些設(shè)計人員不能去開發(fā)這樣的算法，如果進(jìn)行了這樣相應(yīng)的行為怎么辦？這一次的管理規(guī)定當(dāng)中非常明確提出要去承擔(dān)相應(yīng)的責(zé)任。

?

防止誘導(dǎo)沉迷消費 保護(hù)特殊群體利益

如何防止誘導(dǎo)用戶沉迷、過度消費，保護(hù)未成年人等特殊群體的權(quán)益？針對這些訴求，明天施行的《規(guī)定》也進(jìn)行了精細(xì)化的規(guī)定。多位專家表示，建立健全科學(xué)的監(jiān)管體系，形成算法治理長效機制，將是確?！兑?guī)定》落到實處的核心要義。

《規(guī)定》提出，算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評估、驗證算法機制機理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等，不得設(shè)置誘導(dǎo)用戶沉迷、過度消費等違反法律法規(guī)或者違背倫理道德的算法模型。

針對未成年人，《規(guī)定》提出，算法推薦服務(wù)提供者不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會公德行為、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的信息，不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)?！兑?guī)定》還要求，算法推薦服務(wù)提供者向老年人提供服務(wù)的，應(yīng)當(dāng)保障老年人依法享有的權(quán)益，充分考慮老年人出行、就醫(yī)、消費、辦事等需求，按照國家有關(guān)規(guī)定提供智能化適老服務(wù)。

監(jiān)管如何落地落實？《規(guī)定》明確，事前監(jiān)管，確立算法備案、算法評估等制度；區(qū)分監(jiān)管，確立分級分類的思路；系統(tǒng)監(jiān)管，建立多元共治的局面。專家認(rèn)為，《規(guī)定》著力完善治理體系，實現(xiàn)事前事中事后全流程、全鏈條監(jiān)管。算法推薦服務(wù)提供者如違反相關(guān)規(guī)定，會被處以警告、通報批評、罰款等，必要時還將給予治安管理處罰和追究刑事責(zé)任。

中國信息安全研究院副院長 左曉棟：強調(diào)主體責(zé)任非常重要，因為平臺是算法推薦的使用者，因此只有把平臺的責(zé)任壓實，那么平臺才有自覺性去落實法律法規(guī)的要求。