“中國互聯(lián)網(wǎng)產(chǎn)業(yè)和人工智能領(lǐng)域發(fā)展非常迅速，是中國經(jīng)濟(jì)發(fā)展的一大亮點(diǎn)，對中國未來高質(zhì)量發(fā)展有非常重要的引領(lǐng)作用，我們要特別珍惜當(dāng)前的大好局面。”7月8日，清華大學(xué)蘇世民書院院長薛瀾在上海舉行的世界人工智能大會(huì)治理論壇上說。
薛瀾現(xiàn)任清華大學(xué)蘇世民書院院長，同時(shí)兼任清華大學(xué)工程科技戰(zhàn)略研究院副院長，清華大學(xué)中國科技政策研究中心主任，清華大學(xué)可持續(xù)發(fā)展研究院聯(lián)席院長，研究領(lǐng)域包括公共政策與公共管理，科技創(chuàng)新政策，危機(jī)管理及全球治理，他在這些領(lǐng)域中多有著述。
薛瀾認(rèn)為，人工智能帶來福利的同時(shí)也有各種風(fēng)險(xiǎn)，這些風(fēng)險(xiǎn)要分成兩大類。
“一類是即時(shí)性的，像隱私泄露或信息安全等。還有一種風(fēng)險(xiǎn)是積累的，短時(shí)間不一定意識到，需要大量積累最后對社會(huì)產(chǎn)生影響，比如機(jī)器人對就業(yè)的長期影響。”薛瀾說。
如何應(yīng)對可能發(fā)生的各類風(fēng)險(xiǎn)？薛瀾表示，人工智能治理模式分為三個(gè)階段，社會(huì)治理應(yīng)該盡快進(jìn)入人工智能敏捷治理的階段。
薛瀾認(rèn)為，第一個(gè)階段是從2017年到2020年的發(fā)展導(dǎo)向下回應(yīng)式治理模式，第二個(gè)階段是從去年開始進(jìn)入的集中治理的模式。薛瀾表示，集中治理是指在人工智能治理多方面問題積累到一定程度后后政府多部門采取措施集中解決的模式。
薛瀾認(rèn)為，人工智能社會(huì)治理的第三個(gè)模式是敏捷治理模式。敏捷治理的價(jià)值觀以創(chuàng)新和治理協(xié)調(diào)發(fā)展為導(dǎo)向；其治理主體是由政府主導(dǎo)，但多元參與協(xié)同互動(dòng)；治理對象自下而上分層治理；治理工具應(yīng)靈活運(yùn)用，剛?cè)岵?jì)。
“從最開始回應(yīng)性治理到現(xiàn)在集中式治理，我們希望盡快進(jìn)入敏捷治理的階段，這樣可以為人工智能的發(fā)展提供穩(wěn)定合理的預(yù)期。”薛瀾說。
在論壇的間隙，清華大學(xué)蘇世民書院院長薛瀾教授接受了澎湃新聞?dòng)浾叩膶ＴL，就人工智能和城市治理、新冠疫情下的政府危機(jī)管理，校企合作壁壘等熱點(diǎn)話題展開對話。
以下是采訪實(shí)錄：
澎湃新聞：您曾經(jīng)表示，AI技術(shù)跟其他技術(shù)不一樣，不完全受控于人。如果AI不能做到完全可控，它可能會(huì)給我們的社會(huì)治理帶來什么危機(jī)？
薛瀾：社會(huì)大眾已經(jīng)在發(fā)揮想象力去擔(dān)心這方面的問題，比如，科幻電影里會(huì)出現(xiàn)有些人工智能系統(tǒng)真的開始有了自己的思維，有了自己對問題的想法或者邏輯，這可能是大家最擔(dān)心的。但從業(yè)內(nèi)科學(xué)家們覺得，至少目前來看，這是非常不可能的事情。
另外一方面，因?yàn)閼?yīng)用場景復(fù)雜，算法的不透明，AI推斷出來的東西可能跟我們?nèi)祟愊胂蟮牟惶粯印Ｔ贏I系統(tǒng)日常運(yùn)營當(dāng)中，系統(tǒng)用深度學(xué)習(xí)的方式做出選擇可能和人類傳統(tǒng)的邏輯推理做出的選擇存在差異。關(guān)鍵的問題是，系統(tǒng)是如何做出這樣的推斷的？很多情況下，我們并不清楚。只要存在這類不可解釋的東西、無法用常理說清楚，大家還是有擔(dān)心。
澎湃新聞：“十四五”時(shí)期，國家將繼續(xù)推動(dòng)新型智慧城市高質(zhì)量發(fā)展，打造區(qū)域協(xié)同智慧城市群帶。都市圈和城市群一體化的發(fā)展趨勢，有可能會(huì)給政府的智慧化治理帶來什么樣的挑戰(zhàn)？
薛瀾：城市的人口增加、范圍擴(kuò)大以后，治理的問題不是簡單成比例的增長，很有可能會(huì)成指數(shù)型增長，因?yàn)槌鞘兄卫淼膯栴}疊加以后，復(fù)雜性也大大增加。當(dāng)然，從另外一個(gè)角度講，城市范圍擴(kuò)大、經(jīng)濟(jì)社會(huì)發(fā)展也增加了更多新的機(jī)會(huì)。
城市范圍擴(kuò)大以后面臨的最大的問題是，我們傳統(tǒng)的治理體系，往往是比較滯后的。我舉個(gè)很典型的例子，比如說，深圳的流動(dòng)人口很多，如果說在一個(gè)社區(qū)內(nèi)90%都是流動(dòng)人口，這個(gè)社區(qū)的發(fā)展誰來做決策？要增加建設(shè)公共設(shè)施，可能只有10%的有戶口的當(dāng)?shù)鼐用裼X得要建，可能短期居住在這個(gè)社區(qū)的人就會(huì)否定掉。這個(gè)小例子背后隱藏的邏輯是：在這樣的新情況下，這個(gè)城市原本的決策機(jī)制和治理模式需要發(fā)生改變，而智慧化治理就需要為這種改變提供支撐，而不是簡單地優(yōu)化原有的治理模式。
澎湃新聞：您曾提到，危機(jī)永遠(yuǎn)走在人類發(fā)展進(jìn)步社會(huì)發(fā)展進(jìn)步的前面。政府面對大范圍的公共衛(wèi)生事件的時(shí)候，從危機(jī)治理的角度來看，政府應(yīng)該如何更好地“化危為機(jī)”，綜合治理？
薛瀾：我講危機(jī)走在人類社會(huì)發(fā)展進(jìn)步前面，因?yàn)椋覀円呀?jīng)進(jìn)入到現(xiàn)代的風(fēng)險(xiǎn)社會(huì)。實(shí)際上，很多專家一直在預(yù)測人類將面臨一些新冠類似的重大公共衛(wèi)生風(fēng)險(xiǎn)。新冠疫情控制住并不等于我們的任務(wù)就結(jié)束了，我們需要對這次應(yīng)對整個(gè)過程有一個(gè)反思和總結(jié)。這樣我們就能更清楚地明白我們怎么樣才能今后更有力地來應(yīng)對各類危機(jī)。我們每一個(gè)城市的領(lǐng)導(dǎo)者都要問一下自己，我們在面臨類似武漢那樣的挑戰(zhàn)或是更大的衛(wèi)生突發(fā)事件，你怎么去應(yīng)對？有沒有做好準(zhǔn)備？
同時(shí)，當(dāng)我們應(yīng)對其他各類重大公共突發(fā)事件，包括自然災(zāi)害、生產(chǎn)安全事故的問題，它背后的問題性質(zhì)是一樣的，都是各種風(fēng)險(xiǎn)治理的缺失使得這些風(fēng)險(xiǎn)因素轉(zhuǎn)化成為了突發(fā)事件。所以，我們在控制風(fēng)險(xiǎn)這方面需要能夠舉一反三，去充分總結(jié)經(jīng)驗(yàn)教訓(xùn)。
我覺得目前，最需要改善的、最關(guān)鍵的還是要提高我們?nèi)鐣?huì)風(fēng)險(xiǎn)意識。對不同的風(fēng)險(xiǎn)因素我們應(yīng)該采取更果斷的措施來解決。
澎湃新聞：您曾表示，應(yīng)該突破高校和產(chǎn)業(yè)間難以流動(dòng)的機(jī)制。目前，這些校企之間的壁壘，主要存在于哪些方面？
薛瀾：校企之間的壁壘涉及兩類問題，一類是我們社會(huì)意識里等級觀念還特別強(qiáng)，全社會(huì)有意識無意識地要在各行各業(yè)之間劃等級，各類高校本身也會(huì)被劃等級。所有社會(huì)的成員都說：我都想從下往上走，從而導(dǎo)致社會(huì)流動(dòng)的方向是單一的。
第二大類問題是，不同類型的社會(huì)機(jī)構(gòu)的內(nèi)在運(yùn)行體制比較僵化。比方說，我們高校的一個(gè)教師，如果說他要到企業(yè)去工作一段，問題不大；但反過來，他想再回到高校，那就不行了，因?yàn)楦咝Ｓ泻車?yán)格的學(xué)科管理體系，我們沒有靈活的機(jī)制讓企業(yè)的人來。現(xiàn)在有一些高校做工科人才培養(yǎng)，如果有產(chǎn)業(yè)經(jīng)驗(yàn)的人來到高校給他們上課，很有必要恒宇好處。但是，我們目前的體系下，這些來自企業(yè)的老師可能連上課的機(jī)會(huì)也沒有。因?yàn)樯险n都要有一些批準(zhǔn)的。雖然大家都鼓勵(lì)校企合作，但真正到落實(shí)的時(shí)候落實(shí)不了。
以下是演講實(shí)錄：
薛瀾：非常高興今天參加世界人工智能大會(huì)治理論壇，從上午的各個(gè)報(bào)告包括剛才各位發(fā)言中學(xué)到很多，看到了上海在人工智能領(lǐng)域發(fā)展欣欣向榮的景象。
人工智能治理是發(fā)展過程中非常重要的內(nèi)容，治理論壇是作為一個(gè)生態(tài)板塊的內(nèi)容。的確，它可能是相當(dāng)于一個(gè)大生態(tài)。另外一點(diǎn)，原來我們認(rèn)為可以推動(dòng)人工智能的發(fā)展，碰到一些具體問題時(shí)采取措施應(yīng)對。但是今天已經(jīng)發(fā)生了重大的變化。前段時(shí)間我們做了調(diào)研，一個(gè)比較普遍的感覺是，如果治理跟不上，發(fā)展就會(huì)受到制約，這是以前我們沒有注意到的。
一、AI技術(shù)的發(fā)展及應(yīng)用不斷拓展
大家都非常了解AI的應(yīng)用，今天上午的主題發(fā)言提到了很多應(yīng)用造福于人類的各種場景。最近應(yīng)對新冠疫情已經(jīng)有很多很好的應(yīng)用。不僅僅給日常生活的各種應(yīng)用，Alpha Fold科研領(lǐng)域的蛋白質(zhì)折疊是過去50年來生物學(xué)的挑戰(zhàn)，最新版的Alpha Fold被兩年一度蛋白質(zhì)結(jié)構(gòu)預(yù)測關(guān)鍵評估組織者認(rèn)為是應(yīng)對重大挑戰(zhàn)重要的解決方案。換句話說，它已經(jīng)突破了對日常生活的各種益處，要發(fā)揮想象力對人類認(rèn)識世界可能要起到重大的幫助。
很多年前我在卡耐基梅隆大學(xué)讀書時(shí)，碰到過人工智能領(lǐng)域的先驅(qū)者之一西蒙教授。當(dāng)時(shí)他們用了另外一套路徑，建立了一套模仿人類認(rèn)知推理的模型，并用那套模型證明開普勒定理，當(dāng)然，最后發(fā)現(xiàn)那套路徑遇到了不少的困難。現(xiàn)在通過深度學(xué)習(xí)提出了新的路徑，未來在科技領(lǐng)域是不是還有很多新的可以期待的東西？
二、AI技術(shù)應(yīng)用的風(fēng)險(xiǎn)--自動(dòng)駕駛（即時(shí)性風(fēng)險(xiǎn)）
人工智能帶來福利的同時(shí)也有各種風(fēng)險(xiǎn)，有時(shí)候這些風(fēng)險(xiǎn)要分成兩大類：有一類是即時(shí)性的，像自動(dòng)駕駛出現(xiàn)的問題。還有一種風(fēng)險(xiǎn)是積累的，短時(shí)間不一定意識到，需要大量積累最后對社會(huì)產(chǎn)生影響，比如就業(yè)。對某個(gè)公司來講，如果用人工智能替代生產(chǎn)過程，對企業(yè)產(chǎn)生很多效益，提高了生產(chǎn)效率，造福于企業(yè)、造福于社會(huì)。
當(dāng)全社會(huì)大規(guī)模不斷在長時(shí)間的積累下來做，很有可能影響就不是我們想象的那樣。最近有很多報(bào)告，前兩天看到有一個(gè)研究說過去30年信息技術(shù)在美國的應(yīng)用和我們想象的不同，在座有很多是搞科技創(chuàng)新的都是講科技創(chuàng)新一方面消滅了一些就業(yè)機(jī)會(huì)但是創(chuàng)造了更新的機(jī)會(huì)，但是它的研究發(fā)現(xiàn)實(shí)際上對就業(yè)影響總體來看是負(fù)面的，這個(gè)報(bào)告也替代了就業(yè)量相當(dāng)可觀，這也是比較樂觀的，產(chǎn)生比替代的更多，但是替代和產(chǎn)生的已經(jīng)相當(dāng)接近了。
三、中國人工智能治理模式的演變
應(yīng)對這種情況，我們需要采取一些措施。最近人工智能治理發(fā)生了一些變化，我準(zhǔn)備講座時(shí)也回顧了最近這些年的演變。
第一個(gè)模式，從治理角度是不是叫做回應(yīng)式治理模式？從2017年到2020年，這個(gè)階段主導(dǎo)政策是推動(dòng)人工智能技術(shù)發(fā)展，形成非常有利的大氣候，已經(jīng)非常有利于創(chuàng)新的環(huán)境。為什么選擇2017年？就是國家新一代人工智能發(fā)展規(guī)劃出臺(tái)的大背景。
在這個(gè)過程當(dāng)中出現(xiàn)了大大小小的問題，總體來講采取包容審慎的態(tài)度，針對國內(nèi)出現(xiàn)的問題出臺(tái)了一些軟性規(guī)則，在科技部推動(dòng)下成立了新一代人工智能治理專家委員會(huì)，出臺(tái)了新的人工智能治理的準(zhǔn)則包括去年出臺(tái)了國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)的指南，網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南特別是人工智能倫理安全風(fēng)險(xiǎn)防范的指引。這些主要是引導(dǎo)性、規(guī)范性的措施。
第二個(gè)模式，從去年開始，我們進(jìn)入了集中治理的模式。這些問題的應(yīng)對不夠集中、不夠及時(shí)，觸發(fā)了集中治理，很多部門采取措施進(jìn)行整治，當(dāng)然起點(diǎn)是去年螞蟻金服上市被叫停，最近滴滴出行還有市場監(jiān)管總局對互聯(lián)網(wǎng)經(jīng)營者的處罰，這些事情的發(fā)生是過去一段時(shí)間之內(nèi)，但是現(xiàn)在進(jìn)入了相對比較集中的治理模式。
與此同時(shí)，相關(guān)法律法規(guī)出臺(tái)在加快步伐。今年9月1號《數(shù)據(jù)安全法》正式實(shí)施，現(xiàn)在《個(gè)人信息保護(hù)法》二審已經(jīng)完了，預(yù)計(jì)8月份三審，地方出臺(tái)相關(guān)數(shù)據(jù)條例。上午李強(qiáng)書記談到上海也在采取措施。現(xiàn)在我們進(jìn)入了相對比較集中的治理模式。這個(gè)治理模式明確了國家加強(qiáng)行業(yè)監(jiān)管，促進(jìn)制度落地的決心，對暴露出來的各種問題采取比較堅(jiān)決的措施落實(shí)監(jiān)管規(guī)則，同時(shí)接觸了一些可能需要進(jìn)一步研究的問題，首先回應(yīng)了社會(huì)對互聯(lián)網(wǎng)人工智能發(fā)展的擔(dān)心包括個(gè)人隱私、數(shù)據(jù)保護(hù)方面的擔(dān)心，也改變了未來產(chǎn)業(yè)發(fā)展的文化。我們一方面發(fā)展得非常快，另外一方面也是野蠻生長的階段，會(huì)加快推進(jìn)行業(yè)的合規(guī)。
集中治理模式也會(huì)帶來一定成本，短期內(nèi)不排除資本對行業(yè)的關(guān)注會(huì)偏離。尤其新生企業(yè)原來都要打上“人工智能”標(biāo)簽，現(xiàn)在要盡量偏離，資本開始要避開了。的確在全球競爭的環(huán)境下，很多人工智能企業(yè)面臨雙重挑戰(zhàn)，這是我們在加強(qiáng)監(jiān)管同時(shí)必須要考慮的問題。
第三個(gè)模式，敏捷治理模式。
人工智能治理規(guī)則里面專門有一條規(guī)則就是敏捷治理，特別高興看到李強(qiáng)書記提到推進(jìn)敏捷治理。如果深入剖析敏捷治理的基本框架，有幾個(gè)核心要素：
一是基本治理理念，研究公共政策的推動(dòng)后面有不同的價(jià)值理念，效率、公平、安全、自由等等。
二是治理對象的識別，治理對象有數(shù)據(jù)、算法、平臺(tái)、企業(yè)。
三是誰來治理？就是治理主體，當(dāng)然是政府。但是實(shí)際上政策制定中可能還需要各方多元主體參與政策的討論和制定。
四是各種治理工具。基本框架需要有這幾個(gè)核心要素。
敏捷治理的運(yùn)行機(jī)制，首先對治理的問題要有深入的了解。新經(jīng)濟(jì)的確帶來新的趨勢，包括內(nèi)在的運(yùn)行模式和傳統(tǒng)經(jīng)濟(jì)是不同的，如果用傳統(tǒng)的治理模式照搬過來會(huì)有問題。另外技術(shù)發(fā)展也是非常迅速的，需要及時(shí)跟蹤技術(shù)和市場，同時(shí)要加強(qiáng)監(jiān)管和市場的溝通，傳統(tǒng)的監(jiān)管和市場主體的關(guān)系我們開玩笑是“貓和老鼠”的關(guān)系，但是實(shí)際上企業(yè)發(fā)展是更快的，所以要加快溝通，靈活運(yùn)用各種工具。
敏捷治理的實(shí)施，如何在治理實(shí)踐中落實(shí)？
首先治理價(jià)值：創(chuàng)新導(dǎo)向風(fēng)險(xiǎn)規(guī)制。前段時(shí)間有專家說我們剛剛發(fā)展你們就談治理，其實(shí)任何時(shí)候創(chuàng)新和治理是兩個(gè)輪子，一定是要協(xié)調(diào)的推動(dòng)。如果沒有很好的規(guī)制治理，很難創(chuàng)新、很難很好的發(fā)展。另外如果今天沒有，明天一下子暴風(fēng)驟雨的來了，對創(chuàng)新可能有很大的影響。創(chuàng)新有很大的不確定性，規(guī)制本身的不確定性對于創(chuàng)新的影響也是很大的。
二是治理主體：多元參與協(xié)同互動(dòng)。監(jiān)管規(guī)制主體當(dāng)然是政府，公共政策制定最后執(zhí)行要靠政府監(jiān)管部門，另外不同政府部門關(guān)注的特點(diǎn)不一樣，在很多治理過程當(dāng)中公眾參與包括學(xué)術(shù)界、社會(huì)各方面的利益都需要充分吸納。我記得當(dāng)時(shí)制定治理準(zhǔn)則時(shí)，科技部特地在網(wǎng)站上公布了征集社會(huì)各方面的方案，草案出來時(shí)也在網(wǎng)上征求社會(huì)各方的意見，還有很多對人工智能高度感興趣的市民。這方面的工作不能忽視。
三是治理對象：自下而上分層治理。包括數(shù)據(jù)算法、應(yīng)用場景、企業(yè)和平臺(tái)，也要考慮。
四是治理工具：靈活運(yùn)用，剛?cè)岵?jì)。這是敏捷治理非常重要的一點(diǎn)，從法律法規(guī)是非常剛性的，到企業(yè)自我規(guī)制，這之間什么場景選用什么規(guī)則，還需要我們進(jìn)一步考慮。最新版本還有技術(shù)，很多技術(shù)工具在治理領(lǐng)域可以起到有效的治理。
從最開始回應(yīng)性治理到現(xiàn)在集中式治理，我們希望盡快進(jìn)入敏捷治理的階段，對于人工智能的發(fā)展可以提供穩(wěn)定合理的預(yù)期。
四、結(jié)語
中國互聯(lián)網(wǎng)產(chǎn)業(yè)和人工智能領(lǐng)域發(fā)展非常迅速，是中國經(jīng)濟(jì)發(fā)展的一大亮點(diǎn)，對中國未來高質(zhì)量發(fā)展有非常重要的引領(lǐng)作用，我們要特別珍惜當(dāng)前的大好局面。前期發(fā)展過程中，的確積累了一些問題和風(fēng)險(xiǎn)，對于這些問題和風(fēng)險(xiǎn)也要認(rèn)真分析、客觀研判，采取各種措施予以應(yīng)對。同時(shí)選擇制定各種政策時(shí)要對影響進(jìn)行更加系統(tǒng)的分析和評估，保證政策工具應(yīng)用，政策工具的力度與實(shí)際希望達(dá)到的目標(biāo)一致。我們更加希望進(jìn)一步深入研究，建立穩(wěn)定可預(yù)期的敏捷治理框架，有效促進(jìn)技術(shù)創(chuàng)新，規(guī)制潛在的風(fēng)險(xiǎn)，引導(dǎo)行業(yè)的健康發(fā)展。
我的發(fā)言到這里，謝謝大家。
編輯：李華山
