保障算法技術創(chuàng)新與應用健康、有序、繁榮發(fā)展

隨著數(shù)字化的深入發(fā)展，智能算法已經(jīng)成為基礎性、通用性的技術，持續(xù)在經(jīng)濟社會的各個領域應用發(fā)展。從互聯(lián)網(wǎng)領域中的推薦算法、AI生成內(nèi)容（AIGC），到產(chǎn)業(yè)領域中的自動駕駛汽車、醫(yī)療AI、工業(yè)質(zhì)檢AI，再到社會公共服務中的便民應用，可見算法為數(shù)字經(jīng)濟和社會的高質(zhì)量發(fā)展“提質(zhì)增效”。

與此同時，算法的廣泛應用也帶來一些負面問題，諸如信息繭房、隱私侵犯、大數(shù)據(jù)殺熟、算法濫用等。為此，國內(nèi)外開始探索建立算法治理的新路徑新舉措，更好地保障可信的、負責任的、以人為本的算法技術創(chuàng)新與應用。

在這些背景下，騰訊研究院法律研究中心研究推出了《人工智能時代的算法治理報告2022——構(gòu)建法律、倫理、技術協(xié)同的算法治理格局》。報告立足于算法的技術趨勢和行業(yè)應用現(xiàn)狀，從法律監(jiān)管、倫理治理、技術治理三個層面梳理總結(jié)國內(nèi)外在算法治理方面的實踐做法，以期通過多元參與、敏捷靈活、精準有效的算法治理，保障算法技術創(chuàng)新與應用健康、有序、繁榮發(fā)展。

以下為報告核心內(nèi)容摘要。后臺回復關鍵詞“AI治理2022”即可查看/下載完整報告

技術趨勢：算法創(chuàng)新推動經(jīng)濟社會智能化發(fā)展

當前，在算法技術創(chuàng)新中，主要有大模型、合成數(shù)據(jù)和生成性AI三個趨勢。其中，大模型無疑是最為重要的發(fā)展趨勢之一。相較于過去功能較為單一的算法模型而言，大模型具有更強的通用性。因此，大模型也意味著“AI工業(yè)化”的到來。AI工業(yè)化是指，AI具備了標準化、模塊化、自動化的特征，能夠大規(guī)模地在產(chǎn)業(yè)中落地應用。大模型正體現(xiàn)了AI標準化、模塊化、自動化的實現(xiàn)路徑，并且大模型形成的成本邊際效應，極大地節(jié)約了AI應用成本。

利用生成對抗性網(wǎng)絡（GAN）等AI深度合成技術生產(chǎn)的合成數(shù)據(jù)，為算法技術創(chuàng)新及其在各領域的創(chuàng)新應用提供了必需的數(shù)據(jù)源。尤其是在大模型時代，使用合成數(shù)據(jù)訓練的算法模型具有更高的準確性、魯棒性和通用性。此外，生成性AI也是最新的發(fā)展方向，大多生成性AI基于大模型，可以自主生成文本、圖像、音頻、視頻、虛擬場景等多種類型的數(shù)字內(nèi)容，將帶來一場零邊際成本的內(nèi)容生產(chǎn)變革，進而給數(shù)字內(nèi)容業(yè)態(tài)帶來巨大影響。

算法技術創(chuàng)新推動算法在經(jīng)濟社會各領域的廣泛應用，不斷帶來創(chuàng)新性應用。例如，算法為產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型“增智提效”，不僅提升了農(nóng)業(yè)、工業(yè)制造等傳統(tǒng)產(chǎn)業(yè)的效率和自動化水平，也為自動駕駛等新興產(chǎn)業(yè)的發(fā)展賦能。同時，算法也逐漸成為數(shù)字文化產(chǎn)業(yè)創(chuàng)新的基礎設施，不斷促進數(shù)字文化產(chǎn)業(yè)繁榮。此外，在推動社會治理現(xiàn)代化方面，算法極大地優(yōu)化了社會公共服務效率，進一步推動智慧政務“服務下沉”，促使政務信息化、數(shù)字化、智慧化成為各級政府改革的剛需。

監(jiān)管層面：國內(nèi)外推進，算法立法和監(jiān)管，積極規(guī)范算法應用

目前，國內(nèi)外都在對算法應用進行不同程度的立法和監(jiān)管。國內(nèi)重點針對互聯(lián)網(wǎng)信息服務算法推薦、分享經(jīng)濟平臺算法勞動管理、算法應用中數(shù)據(jù)競爭、算法推薦的版權(quán)治理、深度合成等問題積極探索立法和監(jiān)管舉措。國外則側(cè)重人工智能監(jiān)管、公共服務中算法應用監(jiān)管、算法應用中的個人數(shù)據(jù)保護、算法自動化決策、數(shù)字零工經(jīng)濟中的勞動者權(quán)益保障等問題。

值得一提的是，在整體的監(jiān)管路徑上，各國存在差異。例如，歐盟正在制定人工智能法案，嘗試基于風險等級分類，對所有人工智能應用建立一個統(tǒng)一的、通用的監(jiān)管框架，但效果和影響還有待觀察。很多專家預測，正像之前的數(shù)據(jù)隱私立法GPDR對全球科技行業(yè)的影響那樣，歐盟人工智能法案將“布魯塞爾效應”延伸到AI領域，而這正是歐盟所希望的，即通過監(jiān)管為全球樹立AI治理標準。美英則更加強調(diào)監(jiān)管和行業(yè)自律的結(jié)合。

例如，美國白宮最近發(fā)布的《AI權(quán)利法案藍圖》(Blueprint for AI Bill of Rights)，明確提出行業(yè)主管部門牽頭、應用場景導向的分散化監(jiān)管思路，同時提出5項自愿性的原則。今年7月，英國發(fā)布政策文件“建立促進創(chuàng)新的AI監(jiān)管路徑”（Establishing a pro-innovation approach to regulating AI），提出以原則為指導，對AI應用采取促進創(chuàng)新的監(jiān)管，聚焦具體應用場景，基于風險大小，確保監(jiān)管的相稱性和適應性。可見，美國和英國更加強調(diào)行業(yè)主管部門牽頭、聚焦具體應用場景的分散化監(jiān)管思路。

倫理治理：從原則走向?qū)嵺`，更好保障負責任創(chuàng)新

目前，全球各國、社會組織、行業(yè)在算法倫理治理上進行了長期探索，從過去積極探索算法治理的倫理原則，到現(xiàn)在逐步開展倫理治理的落地實踐并取得階段性成效。

從全球AI倫理治理來看，已經(jīng)從原則共識走向治理實踐。2021年11月25日，教科文組織第41屆大會正式通過的首份人工智能倫理問題全球性協(xié)議--《人工智能倫理問題建議書》標志著全球已經(jīng)就算法倫理治理達成了倫理共識，正在走向倫理治理實踐。它不僅制定了首個規(guī)范性全球框架，同時賦予各國在相應層面應用該框架的責任，也為規(guī)范人工智能發(fā)展和應用提供了實踐指導和工具基礎。

我國也在不斷通過政策和立法提出算法倫理治理的要求，倫理治理呈現(xiàn)制度化、法律化的趨勢。例如，我國已經(jīng)組建國家科技倫理委員會，負責指導和統(tǒng)籌協(xié)調(diào)推進全國科技倫理治理體系建設工作?！蛾P于加強科技倫理治理的意見》則對落實科技倫理治理做出了頂層設計和全面部署，涉及總體要求、科技倫理原則、科技倫理治理體制、科技倫理治理制度保障、科技倫理審查和監(jiān)管，以及科技倫理教育和宣傳等六大方面。《數(shù)據(jù)安全法》《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》《關于加強互聯(lián)網(wǎng)信息服務算法綜合治理的指導意見》等法律法規(guī)和規(guī)范性文件，則對數(shù)據(jù)和算法活動提出了科技倫理治理的要求和措施。

業(yè)界在算法倫理治理方面做出了較多的探索。首先，國內(nèi)外科技企業(yè)積極建立AI倫理委員會等科技倫理治理機構(gòu)，為企業(yè)的倫理制度建設、倫理評估與審查、倫理教育與文化建設等提供組織保障，踐行負責任的研究與創(chuàng)新理念；其次，業(yè)界在AI風險管理機制和AI倫理標準認證方面進行了前沿探索，旨在幫助AI的設計者、開發(fā)者、使用者以及評估者更好地管理AI生命周期中可能出現(xiàn)的風險，同時也為對符合倫理標準的人工智能產(chǎn)品、服務或系統(tǒng)進行鑒定認證；最后，針對頻發(fā)的算法歧視等問題，業(yè)界效仿“網(wǎng)絡安全Bug賞金挑戰(zhàn)賽”的眾包模式，開創(chuàng)了算法倫理賞金機制，不僅能快速識別算法問題并改進其產(chǎn)品和服務，也可以提高客戶信任度。

技術治理：以可信AI為抓手，打造安全可靠、負責任的算法應用

在算法的技術治理方面，可信AI正逐步成為行業(yè)規(guī)范化、技術商業(yè)化的關鍵助推器，其核心是讓AI應用滿足公平、安全、可解釋、隱私保護等條件，因此也是落實算法治理的重要技術實踐。以中國、美國、歐盟為代表的AI領頭羊均把可信AI放在AI倫理和治理的核心位置，發(fā)展可信AI也正在成為全球的共識。AI企業(yè)作為人工智能技術產(chǎn)品化的主體，在可信AI的發(fā)展實踐中正發(fā)揮著日益積極的作用。

第一，可解釋性。2021年，學界、產(chǎn)業(yè)界都在積極探索算法可解釋性的技術路徑和實踐路徑，促進算法技術透明。騰訊研究院等發(fā)布的國內(nèi)首份《可解釋AI發(fā)展報告2022》對此進行了全面梳理，比如，建立“模型說明書”標準，促進算法模型本身的透明度和可理解性，增加相關主體對模型的理解和信任；抑或是打造可解釋性工具，推動構(gòu)建可解釋的AI模型（XAI）。

第二，安全性。AI內(nèi)生安全能力與AI檢測工具保障技術安全應用與發(fā)展。算法安全主要集中在兩個層面。一是，對算法系統(tǒng)本身的保護，保護人工智能訓練數(shù)據(jù)、訓練管道和機器學習模型，即AI內(nèi)生安全。對于AI內(nèi)生安全，企業(yè)和科研團隊都給予高度關注。例如，騰訊朱雀實驗室不斷探索高階的算法模型攻擊模式，如“AI供應鏈攻擊”、“重構(gòu)模型后門攻擊”、“數(shù)據(jù)木馬隱藏攻擊”等。二是，研發(fā)檢測識別工具來促進生成性AI算法和AI生成/合成內(nèi)容的安全可控應用，應對深度偽造、AI換臉、AI欺詐等算法惡意使用的行為。

第三，公平性。目前可信AI在促進算法公平性上有很多的創(chuàng)新和實踐，主流的是從數(shù)據(jù)和算法兩個方面入手，如使用族群、性別等屬性均衡的數(shù)據(jù)集，在算法模型中增加約束或正則項消除偏差等。與此同時，公平性檢測也是促進算法公平的重要實踐方式。業(yè)界不僅推出了基于不同緯度和視角的公平性測試的數(shù)據(jù)基準，而且陸續(xù)也在推出公平性測試的算法、工具等。

第四，隱私保護。業(yè)界分別從數(shù)據(jù)、算法兩個方面進行可信AI隱私保護的技術創(chuàng)新和部署：在數(shù)據(jù)方面，主要包括差分隱私、合成數(shù)據(jù)、同態(tài)加密（HE）、匿名化等技術手段；在算法方面，以隱私計算為主要領域，主要包括了安全多方計算、零知識證明、聯(lián)邦學習等。

第五，可信AI的發(fā)展過程中，算法倫理服務市場也在同步興起。未來國內(nèi)外大型科技企業(yè)不僅會提出更加完善的AI倫理解決方案來服務于企業(yè)內(nèi)部的技術研發(fā)和產(chǎn)品業(yè)務穩(wěn)定發(fā)展，它們也會將這些AI倫理解決方案和經(jīng)驗包裝成可復制、可推廣的服務產(chǎn)品，去賦能更多的人工智能科技企業(yè)和產(chǎn)品。同時，也會有更多的創(chuàng)業(yè)者涌入這個領域，圍繞AI倫理服務進行創(chuàng)業(yè)。

展望：走向法律、倫理、技術協(xié)作互動的算法治理實踐

面向未來，靈活有效的算法治理離不開法律、倫理、技術等多種治理手段的協(xié)同作用，也需要監(jiān)管部門、行業(yè)和企業(yè)、研究機構(gòu)、社會組織以及社會公眾等多元主體的共同參與。仍需堅持以人為本、科技向善等理念，實現(xiàn)算法創(chuàng)新應用和安全之間的平衡發(fā)展。

在法律治理方面，需要采取分場景分行業(yè)的分級分類監(jiān)管思路，劃定算法應用的底線，形成敏捷的、精準的長效監(jiān)管和治理機制，探索政策指南、監(jiān)管沙盒、安全港、試點、標準認證、事后追責等多元化的監(jiān)管措施，確保算法技術創(chuàng)新與應用發(fā)展既生機勃勃又井然有序。

在倫理治理方面，隨著算法技術與人類社會的深入融合、未來數(shù)字科技逐漸走進“深水區(qū)”，以算法倫理治理防范算法風險、推動負責任創(chuàng)新，已經(jīng)成為各國政府、科技企業(yè)的共識。未來，算法倫理治理的制度建設會逐步完善，內(nèi)部建設主要以機構(gòu)內(nèi)的科技倫理委員會為載體，外部建設有第三方倫理認證等探索性嘗試。

在技術治理方面，以技術創(chuàng)新解決技術應用帶來的問題是算法治理實踐的關鍵一環(huán)，能夠打通抽象的治理原則和具體的技術實踐之間的鴻溝。圍繞可信AI及應用，未來會有更多倫理性的技術工具、技術解決方案。倫理設計的理念和實踐正在與技術治理、技術創(chuàng)新緊密融合。越來越多的倫理考量將進入到技術的研發(fā)設計過程中。

本文僅代表作者觀點，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請在文中注明來源及作者名字。

免責聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com