數(shù)字化時代，消費者拿起智能手機的每一刻，都是在召喚算法。算法可以決定人們在抖音上看到哪些視頻，以及在拼多多上看到哪些商品。

近年來，基于消費者大數(shù)據(jù)的算法技術(shù)的應用，在提升網(wǎng)絡消費體驗、提高經(jīng)營效率、推動平臺高質(zhì)量發(fā)展等方面發(fā)揮著重要作用。但由于“大數(shù)據(jù)殺熟”、算法歧視等產(chǎn)生的不公平現(xiàn)象存在，也侵害了消費者的合法權(quán)益，擾亂了公平競爭的市場秩序。

在這樣的背景下，人工智能倫理倡導者呼吁，應該給消費者決定是否允許自己被算法“操縱”的權(quán)利，因為大多數(shù)時候，消費者并不清楚自己的行為正在被算法“算計”。

算法經(jīng)常會被稱為“黑匣子”，科技公司往往只對他們的算法系統(tǒng)如何工作以及它們的用途做出基本解釋，很多時候開發(fā)這些算法的技術(shù)人員也并不清楚算法為何會得出某些結(jié)論。

11月18日，上海率先在電子商務領域出臺地方性指引，制定發(fā)布《上海市網(wǎng)絡交易平臺網(wǎng)絡營銷活動算法應用指引(試行)》(以下簡稱《指引》)，規(guī)范網(wǎng)絡交易平臺網(wǎng)絡營銷活動算法應用行為，為平臺經(jīng)營者劃出合規(guī)底線。

《指引》明確平臺經(jīng)營者不得利用算法實施不正當價格行為，不得利用算法對消費者實施不合理的差別待遇。此外，平臺經(jīng)營者利用消費者個人信息開展網(wǎng)絡營銷活動算法應用時，應當按照《個人信息保護法》的規(guī)定，保證算法應用結(jié)果的公平、公正，不得對消費者在交易價格、交易機會等交易條件上實行不合理的差別待遇。

《指引》還規(guī)定，平臺經(jīng)營者不得利用算法僅向消費者提供針對其個人特征選項的搜索結(jié)果，不得利用算法對平臺內(nèi)經(jīng)營者進行不合理限制或附加不合理條件，不得利用算法濫用市場支配地位。

今年8月，國家網(wǎng)信辦就已經(jīng)出臺了《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定(征求意見稿)》(下稱“征求意見稿”)，多條內(nèi)容對接《個人信息保護法》。根據(jù)《征求意見稿》要求，算法推薦服務提供者應當定期審核、評估、驗證算法機制機理、模型、數(shù)據(jù)和應用結(jié)果等，不得設置誘導用戶沉迷或者高額消費等違背公序良俗的算法模型。

上海大邦律師事務所高級合伙人游云庭對第一財經(jīng)記者表示：“除了今日頭條和抖音這樣公認的算法驅(qū)動的平臺，新浪微博這樣的用戶生成內(nèi)容的平臺，以及滴滴、美團、餓了么這樣利用算法管理平臺的公司，也都受新規(guī)監(jiān)管。”

在全球反壟斷的大潮下，各國監(jiān)管機構(gòu)近期也加大了對算法不公平的打擊力度。人工智能專家認為，對于創(chuàng)造和使用算法的公司來說，提高透明度至關(guān)重要，對AI的特定用途和應用進行監(jiān)管之前，對于算法透明度的出臺法律是必要的。

在美國，立法者正在重新審視科技公司應該如何改變使用算法的方式。美國眾議院最近提出一項被稱為《過濾氣泡透明度》的立法，要求大型科技公司允許用戶訪問不受算法影響的平臺版本，也就是消費者將有權(quán)利選擇打開或者關(guān)閉被秘密算法操縱的功能。

雖然《過濾氣泡透明度法案》針對的是大型社交平臺，但它也將不可避免地影響其他公司，例如Spotify和Netflix，這些流媒體巨頭也非常依賴于算法驅(qū)動的策略。

立法的變化突顯了人們越來越意識到算法在數(shù)字化時代扮演的核心角色。如果該立法通過，也將從根本上改變完全圍繞算法管理建立的公司的商業(yè)模式。

算法作為數(shù)字世界的運轉(zhuǎn)規(guī)則，目前科技平臺還沒有建立合規(guī)、有效的算法倫理體系與機制。業(yè)內(nèi)人士認為，算法合規(guī)需要企業(yè)自治與協(xié)同監(jiān)管相結(jié)合。

中國數(shù)字經(jīng)濟百人會專家委員會委員柳峰對第一財經(jīng)記者表示：“大多數(shù)用戶是很難對企業(yè)的算法做出判斷，用戶需要能夠?qū)λ惴ǖ闹闄?quán)和選擇權(quán)進行控制，也就是選擇打開或者關(guān)閉算法推薦。”他強調(diào)，應該對算法應用進行綜合性的系統(tǒng)治理。

柳峰對第一財經(jīng)記者表示，從技術(shù)上來看，用戶“一鍵關(guān)閉”算法不難實現(xiàn)，但難的是如何監(jiān)管，法律的規(guī)定如何落在具體的監(jiān)管實施細則中。他認為，這是一個科技巨頭與立法監(jiān)管博弈的過程。“這樣的監(jiān)管政策要推動起來也很困難，大公司肯定會游說反對。”柳峰說道，“當然我們也應該承認，算法并不是任何時候都是不好的。”