隨著人工智能的不斷發(fā)展，應(yīng)用場景的多元化突破了人類的想象。無論是能夠?qū)崿F(xiàn)自我繁衍的首批生物機(jī)器人Xenobot，還是自主編程的機(jī)器人系統(tǒng)Alpha Code，都體現(xiàn)了人工智能創(chuàng)新發(fā)展的巨大進(jìn)步。全社會也都成了人工智能技術(shù)開發(fā)及應(yīng)用的運動員，商業(yè)文娛、家居照護(hù)、行業(yè)創(chuàng)新、城市治理、公共服務(wù)，乃至宏觀調(diào)控中都可看到技術(shù)賦能的力量。當(dāng)人類感嘆科技無所不能的同時，也會擔(dān)憂技術(shù)發(fā)展軌跡的不可掌控性和出現(xiàn)無法逆轉(zhuǎn)的社會影響。人工智能為人類的未來帶來的高度不確定性和風(fēng)險，讓其治理問題成為利益相關(guān)者共同關(guān)心的話題。
回顧中國人工智能治理的發(fā)展歷程，歷經(jīng)回應(yīng)式治理、集中治理，正在邁入敏捷治理時代。2020年之前的主旋律是鼓勵創(chuàng)新發(fā)展，拓展行業(yè)應(yīng)用，并圍繞出現(xiàn)的相關(guān)問題有針對性地進(jìn)行治理。2020年之后，為應(yīng)對各類應(yīng)用風(fēng)險與社會影響，國家逐步完善了針對數(shù)據(jù)、算法、平臺等的相關(guān)法律法規(guī)，進(jìn)入多部門集中治理階段。在《新一代人工智能治理原則》《關(guān)于加強(qiáng)科技倫理治理的意見》相繼提出敏捷治理原則后，探索適宜的人工智能治理模式開始備受關(guān)注，政府與企業(yè)在提高應(yīng)對技術(shù)不確定性與風(fēng)險的敏捷性方面分別做出了不少努力。
政府從政策制定與工具選擇方面開啟了敏捷思維。一方面，理順了治理關(guān)系。過去兩年，相關(guān)監(jiān)管部門深入行業(yè)調(diào)研學(xué)習(xí)，從企業(yè)的反饋中獲得對技術(shù)應(yīng)用風(fēng)險的評估知識，政企監(jiān)管交流模式在實踐中開始浮現(xiàn)；依靠各類科研單位的技術(shù)力量輔助監(jiān)管實踐，增強(qiáng)政府監(jiān)管力量與信息獲取能力，成功識別了一些潛在的風(fēng)險。另一方面，優(yōu)化治理工具使用。監(jiān)管部門與地方政府積極推動制定算法備案管理制度，開啟了數(shù)據(jù)分類分級管理模式。這些更具有彈性和包容性的政策工具的使用，在構(gòu)建政企互信的制度基礎(chǔ)和應(yīng)對復(fù)雜問題的規(guī)則制定方面不斷優(yōu)化著政府的敏捷監(jiān)管能力。
企業(yè)在監(jiān)管規(guī)則重塑過程中逐步顯現(xiàn)出敏捷行動。迅猛的人工智能技術(shù)迭代與集中治理的高昂成本推動了企業(yè)在貢獻(xiàn)負(fù)責(zé)任人工智能方面的積極行動。數(shù)字巨頭企業(yè)通過建立科技倫理、風(fēng)險管理、技術(shù)治理委員會，建設(shè)技術(shù)敏捷開發(fā)體系，進(jìn)行人員倫理與風(fēng)險培訓(xùn)等形式來強(qiáng)化內(nèi)部審查。在外部行動方面，企業(yè)積極與主管部門溝通，出臺行業(yè)標(biāo)準(zhǔn)與倡議，以構(gòu)建面向政府監(jiān)管的回應(yīng)體系；與學(xué)界合作推動聯(lián)合報告發(fā)布、解讀與可視化業(yè)務(wù)呈現(xiàn)，以促進(jìn)社會理解技術(shù)。隨著企業(yè)逐步意識到濫用技術(shù)的合規(guī)成本，在技術(shù)使用的節(jié)制與考量、內(nèi)部自控產(chǎn)品研發(fā)方面的行為調(diào)整都令人欣慰。
當(dāng)前，以協(xié)調(diào)創(chuàng)新發(fā)展和治理為導(dǎo)向，由政府主導(dǎo)規(guī)則制定、多元主體參與協(xié)同互動的敏捷治理“雛形”正在浮現(xiàn)，尤其是政府敏捷思維和企業(yè)敏捷行為都在孕育中。但是我們也要意識到，在敏捷治理的概念與指導(dǎo)原則獲得社會各界認(rèn)可的基礎(chǔ)上，治理機(jī)制的具體實現(xiàn)過程中仍將面臨多重挑戰(zhàn)，特別是在引導(dǎo)治理機(jī)制形成的一些關(guān)鍵維度上。
企業(yè)的敏捷行動與社會期待尚有差距，缺乏來自行業(yè)的共識行動。監(jiān)管重拳下，企業(yè)的敏捷行為還停留在技術(shù)思維慣性上，治理思維的培育尚需時日。多數(shù)企業(yè)在監(jiān)管之劍下指哪兒打哪兒，希望以技術(shù)解決方案來實現(xiàn)風(fēng)險管理，減少算法與產(chǎn)品漏洞。但倘若企業(yè)未能站在多方共治的角度上采取更廣泛、前瞻的行動，人工智能的風(fēng)險問題依然無法有效化解或提前研判。理想敏捷治理模式中的企業(yè)，應(yīng)更為主動地與監(jiān)管互動，貢獻(xiàn)關(guān)鍵知識信息，與業(yè)內(nèi)同行交流，明確合作大于競爭。不僅企業(yè)之間需要就一些好的做法達(dá)成行業(yè)共識，并就此推進(jìn)關(guān)鍵行業(yè)標(biāo)準(zhǔn)的制定，促進(jìn)共同學(xué)習(xí)與同行評議機(jī)制形成；而且頭部企業(yè)也應(yīng)更積極地向行業(yè)貢獻(xiàn)治理實踐經(jīng)驗，引領(lǐng)科技倫理理念傳播，貢獻(xiàn)全行業(yè)監(jiān)管智慧。因此，從企業(yè)內(nèi)部的敏捷規(guī)范，走向與行業(yè)規(guī)范體系、政府治理體系的密切銜接，依賴實踐智慧動員全行業(yè)進(jìn)行敏捷聯(lián)動，是企業(yè)下一步的改進(jìn)方向。
政府的監(jiān)管制定要在討價還價中剛?cè)岵?jì)與把握節(jié)奏。政府監(jiān)管規(guī)則的制定與實施，正在從“一刀切”的模式進(jìn)入“討價還價”階段。這也意味著，若不想因監(jiān)管雙方的討價還價而損失創(chuàng)新發(fā)展的效率，雙方就要快速互動以獲得及時反饋迭代。否則，市場將因缺乏指引不敢創(chuàng)新，政府也易回歸到簡單粗暴式規(guī)制。在當(dāng)下，把握治理節(jié)奏仍然是監(jiān)管部門的一個課題，政府面臨必須依賴目標(biāo)與工具的靈活選擇以不斷調(diào)整監(jiān)管方向的困難。首先面對的是如何將抽象的治理原則落實為具體的法律法規(guī)。例如，效率、公平、安全、自由在抽象情景下都可被納入治理目標(biāo)，卻在不同場景落實中目標(biāo)優(yōu)先級存異。多元目標(biāo)的排序和取舍需建立在快速的多方共識上。其次，如何在治理工具的選擇與使用中形成重拳與點剎的剛?cè)岵?jì)之道。例如，高風(fēng)險、明確的違規(guī)行為需要明確適用的法律法規(guī)，而尚不清晰、存有危險跡象的商業(yè)行為，則要用柔性方法處理。培育政府持續(xù)行業(yè)理解與追蹤研判能力，加強(qiáng)各類智庫機(jī)構(gòu)研究支撐與溝通平臺構(gòu)建，重視實證范式下政策評估工作的快速跟進(jìn)，是構(gòu)建政府監(jiān)管敏捷學(xué)習(xí)的關(guān)鍵所在。
在“共同無知”下，信任關(guān)系構(gòu)建是敏捷治理的關(guān)鍵。面對技術(shù)發(fā)展高度不確定性導(dǎo)致企業(yè)、政府、學(xué)界的“共同無知”難題，構(gòu)建多方的交流與信任是敏捷治理形成的核心。人工智能技術(shù)簡單應(yīng)用條件下，企業(yè)較為清楚技術(shù)的風(fēng)險邊界，并可以在監(jiān)管框架下不斷規(guī)范商業(yè)模式。但隨著數(shù)據(jù)與算法的快速更新迭代，在某種意義上會出現(xiàn)企業(yè)方與監(jiān)管方的“共同無知”情形。創(chuàng)新與風(fēng)險的巨大不確定性使得搭建多方信任橋梁，暢通交流機(jī)制異常重要。同時，多元共治體系的真正落實還不能忽略社會維度的參與和引導(dǎo)。例如，平衡社會輿情與技術(shù)發(fā)展之間的關(guān)系，著手社會風(fēng)險預(yù)案準(zhǔn)備與應(yīng)急管理思維培育等，都是個中關(guān)鍵。此外，在人工智能倫理與治理的討論中，既要意識到科研機(jī)構(gòu)作為信任中間人的關(guān)鍵角色，也要意識到相關(guān)討論不只是專家學(xué)者的“特權(quán)”，全社會都有可能、也有責(zé)任對人工智能的治理問題有不同看法，提供多元治理思想的倡導(dǎo)。
在人工智能領(lǐng)域，我們特別希望實現(xiàn)邁向多主體合作的敏捷治理模式，通過行業(yè)聯(lián)動、政府學(xué)習(xí)、信任構(gòu)建的努力，形成堅固的信任治理關(guān)系，從“共同無知”到聯(lián)手應(yīng)對復(fù)雜的治理需求，從“討價還價”變?yōu)榛バ呕又袛y手前行。
（作者單位：清華大學(xué)公共管理學(xué)院）
編輯：李華山
