新聞中心

從中國到美國，為什么我們需要禁用算法的權利

2021-11-22 09:07 | 瀏覽

近年來，早前縈繞在互聯網企業身上的光環已經開始逐漸褪色，并且隨之而來的，是各國監管機構將其放到了聚光燈之下。就在不久前，國內監管部門連續發布《互聯網信息服務算法推薦管理規定（征求意見稿）》與《關于加強互聯網信息服務算法綜合治理的指導意見》后，海外市場也開始關注互聯網企業使用算法所造成的影響了。

日前有消息顯示，美國眾議院議員提出了一項法案，要求Meta旗下的Facebook和Google等互聯網平臺允許用戶查看非算法選擇的內容，也就是要求這些平臺向用戶顯示算法之外的信息。這些議員在聲明中表示，“消費者應該有權選擇如何使用互聯網平臺，而不必受到由特定用戶數據驅動的秘密算法操縱。”

當大洋兩岸都開始關注互聯網企業用算法來改變乃至塑造潮流的能力，無疑是一種好事。畢竟，算法如今已成為了互聯網世界中幾乎是最為核心的信息推送機制，并成為了大家日常生活中不可分割的一部分，甚至算法機制在某種意義上已經塑造我們的社會意識。

通常，我們所說的“算法”指的是推薦算法，本質上其實是一種信息過濾的手段。早期，互聯網廠商秉承著原教旨的互聯網精神，將所有信息一股腦地推給用戶，但用戶卻并沒有接收海量信息的能力，所以即便是搜索引擎也需要用戶先有一個“關鍵詞”。但問題是互聯網上的信息太多，而人的認知范圍太小，這就導致了在算法出現前，大量有價值的信息被浪費，并沒有被真正需要的人發現。

這時候推薦算法幫助用戶解決了信息過載的問題，是一種信息發現工具。對于互聯網廠商來說，推薦算法實現了挖掘用戶需求并投其所好的作用，它的引入是以內容推送代替了用戶的尋找，其設計初衷是增加用戶尋找目標內容的效率。而討好了用戶、滿足了用戶需求，也就意味著互聯網廠商的商業利益得到了保證。

那么為什么推薦算法走到今天，卻反過來被不少用戶反感，甚至于需要被監管呢？一種通俗的解釋，是推薦算法會讓用戶陷入“信息繭房”或“過濾氣泡”(Filter Bubble)。因為算法會基于用戶的個人興趣、社交關系、地理位置等數據，推薦與用戶偏好高度匹配的個性化內容，但長期處于單一信息來源的環境下則會形成回音室效應，將自己桎梏于像蠶繭一般的“信息繭房”中，容易一葉障目不見泰山。

不過在學界關于"算法是否會將用戶囚禁在信息繭房中”的問題，其實是有一定爭議的。傳播學中的“選擇性接觸理論”揭示了這樣一個事實，就是人通常更傾向于接觸與自己既有立場、觀點、態度一致或接近的媒介和內容，而有意無意地去回避那些與自己既有傾向相左的媒介或內容。從這一理論出發，就可以解釋為什么人們更愿意向與自己價值觀、立場、態度等相似的人靠近，以此獲得抱團取暖、相互支持的可能，并最終形成一個個小圈子的原因。

換句話來說，基于興趣或價值觀進行信息消費其實是人的天性，陷入“信息繭房”也是某種從人性出發的必然，所以算法并不是“罪魁禍首”。而推薦算法真正的問題，其實在于倫理和道德領域，以及它在互聯網時代重新建構了人與社會的關系。

事實上，推薦算法是在以機器學習為代表的第三次人工智能浪潮興起的背景下出現，機器學習算法通過基于大數據的自我訓練、自我學習過程，完成參數調整與模型構建，并實現自我強化。英國物理化學家、哲學家邁克爾·波蘭尼曾指出，“人類知道的遠比其能表達出來的更多”，這就是經典的“波蘭尼悖論”。

在機器學習之前，傳統算法局限于人類對于自身的表達，需要設計者明確計算機在給定條件下的給定動作，而現在的算法則突破了人類表達的局限性。固然這帶來了效率上的飛躍，但算法可以模仿人的思維方式，卻無法模仿人的倫理自主性，在算法實現的過程中排擠了人們對于倫理邏輯與價值理性的追求。

這也是為什么會出現谷歌圖片軟件自動將黑人標記為“大猩猩”、亞馬遜的招聘軟件在招聘員工時讀取到帶有女性、女子相關詞匯時，會降低簡歷權重的現象。又或者說，在去年秋季引起轟動的《外賣騎手,困在系統里》一文中，描述了算法給出的“合理”配送時間，是需要通過危險駕駛、交通違章才能實現的現象。

當然，現階段算法的倫理問題其實是與互聯網廠商的商業道德密切相關的。曾經有觀點認為，算法只是一個工具，它公平地對待平臺內的所有內容，并表示“算法沒有價值觀”。但遺憾的是，這種說法其實是不科學的。負面情緒的激發在用戶點擊和觀看上有著更為直接且更為有效的作用，并且這已經被科學研究證實，在算法的作用下，負面信息在內容分發上被給予了遠超其在傳統媒體中內容分發的權重。而Facebook為了提高用戶參與度，發現最好的參與方式便是向用戶灌輸恐懼和憎恨，就其實是最好的例子。

對于互聯網平臺而言，如果單純以商業利益為導向，其所采用的推薦算法是必然會對負面信息的分發推波助瀾。再配搭“過濾氣泡”的作用，就會在某一群體內促成自我強化的偏見（Self-reinforcing Bias），并最終導致群體極化。