李正風：算法治理正在向更綜合多元的理念和治理網絡發展

2021-12-21 16:35:20來源：中新經緯

中新經緯12月21日電 (薛宇飛)近日，清華大學社會科學學院社會學系、中國科學院學部-清華大學科學與社會協同發展研究中心主辦了“倫理立場、算法設計與企業社會責任”研討會，并在會上發布了《倫理立場、算法設計與企業社會責任》研究報告(下稱報告)。清華大學社會學系教授李正風在分享報告時指出，算法治理正在向更加綜合的治理網絡發展，強調政府、專業機構、團體、企業及公眾共同參與的協同治理。

構建融合百家之長的算法倫理體系

清華大學社會學系教授李正風。主辦方供圖

李正風指出，算法具有可塑性，這一方面意味著算法設計是開放的，具有創造和建構的空間，但另一方面也意味著算法可能在倫理上產生道德真空。他說：“算法可能再現社會當中已有的倫理問題，尤其是掌握了大量數據并且對數據進行深度挖掘后，隱含在社會當中的倫理問題會更清晰地展現出來。比如，現在人們討論比較多的公平性問題，還有算法偏見、算法歧視、隱私保護，這些都是社會當中已存在的倫理問題，只不過是通過算法更為顯性地展現出來。”

除此以外，他稱，大數據時代下的算法技術，還可能帶來新的倫理問題，如主體性的喪失。人工智能技術的發展，使得人類在處理一些社會事務或者自然與機器之間的關系時，會讓渡一部分權利，影響思維和決策的自主性。這種權利讓渡可能會是在無意識情況下發生的。

對于出現算法倫理問題的原因，他總結為三個主要原因。一是技術本身的特點或不完備、不成熟，會導致不透明、不可解釋及難以問責等技術難題，進而引發倫理問題。

二是利益驅使，無論是數據還是算法產品，都伴隨著對市場的重新界定與分割，因此它背后隱含著巨大的利益，很多中小企業主體并不重視倫理問題，這也是誘發倫理問題的重要成因。

三是倫理意識和責任缺失，部分算法設計者、審查者自身的價值無意識與價值偏好會直接導致算法倫理問題。這也引導我們思考算法設計中的倫理立場問題。

他進一步分析稱，算法設計具有邏輯可塑性和價值選擇性。在算法的設計過程中，可以看到兩種狀態的倫理意識，一是倫理無意識，這種情況會帶來價值真空或道德真空；二是有特定的倫理立場，從倫理學上看，倫理立場大體可以分為功利論、義務論、契約論、德性論，這四種倫理立場在社會中是共存的，各自都有存在的根據，也有各自的擁護者與支持者。“現實世界對于什么是好的、什么是善的、什么是對的，是有分化、有層次的，這也是比較復雜的社會系統的反映。”

“這幾種不同的倫理立場是并存的，最普遍的是功利論立場，即從后果的‘善’來判斷行為的好壞。另一種常見的倫理立場是契約論，如生產者與消費者之間建立某種使用APP的契約。追求更廣泛的‘善’和更恰當的契約，會導致企業不斷改變自身形象。但影響社會公眾和公共利益的事件也會不斷發生，并成為重要的社會問題，需要監管機構對一些個體或企業的行為進行公共規制，這就涉及到義務論的倫理立場。”李正風還說，從算法治理角度看，新規則的生成是某種約束和引導，包括政府部門出臺的規制手段。更為重要的是要讓相關的行動者都能夠具有較高的倫理意識和倫理影響，就是要提高算法設計者、企業的“德性”，這就上升到德性論的倫理立場。如今，企業越來越注重社會形象和社會責任，這是非常值得肯定的。

他稱，在調研中發現，中國企業在算法倫理“知行合一”方面邁出了步伐。例如，字節跳動人工智能實驗室已經在對機器學習公平性和“負責任的人工智能”的其他方面(包括但不限于可解釋性、可控性、多樣性、真實性、隱私性和魯棒性)進行技術基礎研究，以確保字節跳動基于機器學習的智能系統惠及所有用戶。

建立協同性綜合治理網絡

李正風指出，算法既受到人類社會價值判斷的影響，也具有價值塑造的作用。由于人的倫理價值立場具有多樣性，包括傷風敗俗、入鄉隨俗、公序良俗、移風易俗四個層次，且在入鄉隨俗層次上的人群分布最多，所以無意識、樸素的價值觀念和倫理立場往往會占據主導，而算法可能默認其為應當普遍遵守的社會行為準則。

他指出，無意識、樸素的價值觀念和倫理立場占據主導后，會出現倫理責任缺失，反映到技術和社會之間的關系時，會導致技術的“助紂為虐”。因此，不能完全地隨波逐流，好的企業具有比較值得肯定的價值立場，會成為維護公序良俗的中流砥柱。同時，也希望算法治理能發揮更重要的作用，源清流凈，開風氣之先。

因此，算法設計需要突破傳統思維結構和社會觀念，用向善的價值立場推動社會發展，促進公序良俗和新社會倫理發展。“企業對于算法的依賴也好，對算法向善的強調也好，也是清醒地意識到算法不僅是一個簡單的技術，促進經濟增長，同時也可以輔助人類實現更高效地治理社會，引導社會向著更加美好的方向發展。”李正風稱，倡導算法向善，是希望算法能負責任地賦能社會，在多元主體之間重建共同追求美好生活的信任機制。

具體到算法治理，則有不同模式，特別值得注意的是，算法治理正在向更加綜合的治理網絡發展。李正風介紹道，最開始是“技治主義”，強調技術維度的重要性，依靠專業機構、人員在治理中扮演重要角色，也比較強調自治。但受技術發展不成熟和利益因素的影響，單純依靠技術維度的治理是存在一定困難的，所以，后來又發展到監管主義，強調監管機構的作用。

他談道，如今，人們逐漸發現，無論是專業團體還是政府部門，單獨扮演監管角色都非常困難，因此，現在更加強調“治理網絡”，強調多元主體參與的治理網絡，政府、專業機構、團體、企業及公眾共同參與的協同治理。

李正風認為，建立算法向善的倫理規約，最后會落實到算法治理和企業責任上。算法產品的生產者主要是企業和政府，企業既在治理網絡中扮演重要角色，也是自治自律的實踐者。算法產品的特殊性，在于接受了消費者讓渡的部分決策權，它深刻改變了企業與消費者之間的關系，使得企業倫理責任更加重要，需要建立新型的企業-公眾的倫理治理共同體。“如果企業沒有很好的倫理責任，那它提供的服務就不會被消費者所接受，這是算法產品本身的特殊性決定的。這個過程中要以人為本，更加尊重自主原則。”

針對企業的算法倫理治理策略，報告建議，要構建企業算法倫理治理體系，包括建立企業算法倫理委員會，建立審查責任制和應急反應機制，結合企業特點制定企業算法倫理規范，同時要提升德性，加強企業員工倫理素養培訓，加強國家相關法律法規宣講教育，對違反倫理規范的后果進行警示教育。(中新經緯APP)

關鍵詞：李正風：算法治理正在向更綜合多元的理念和治理網絡發展

責任編輯：hnmd003