作為引領(lǐng)第四次科技革命的戰(zhàn)略性技術(shù)，人工智能給社會建設(shè)和經(jīng)濟(jì)發(fā)展帶來了重大而深遠(yuǎn)的影響，但數(shù)據(jù)隱私、算法偏見、技術(shù)濫用等安全問題也正給社會公共治理與產(chǎn)業(yè)智能化轉(zhuǎn)型帶來嚴(yán)峻挑戰(zhàn)。未來人工智能如何兼顧創(chuàng)新發(fā)展與安全可控？6月3日，北京智源大會期間，圍繞這一話題展開的“AI安全與產(chǎn)業(yè)治理”論壇成功召開。
現(xiàn)階段，人工智能產(chǎn)業(yè)正經(jīng)歷從高速增長向高質(zhì)量發(fā)展的轉(zhuǎn)變，產(chǎn)業(yè)期待的提升讓金融、醫(yī)療等更復(fù)雜的高價(jià)值場景的應(yīng)用需求不斷增加，安全性的重視程度也不斷提升，人工智能如何長久高質(zhì)量發(fā)展成為亟待解決的問題。
會上，中國科學(xué)院院士、清華大學(xué)人工智能研究院院長張鈸在致辭中表示，未來人工智能產(chǎn)業(yè)發(fā)展在擴(kuò)大應(yīng)用場景的同時(shí)，必須實(shí)現(xiàn)數(shù)據(jù)、算法與應(yīng)用層的安全可控。同時(shí)，他表示人工智能的安全可控問題要同步從技術(shù)層面來解決。在具體的實(shí)現(xiàn)路徑上，他提出要發(fā)展“第三代人工智能”，即融合了第一代的知識驅(qū)動(dòng)和第二代的數(shù)據(jù)驅(qū)動(dòng)的人工智能，利用知識、數(shù)據(jù)、算法和算力四個(gè)要素，建立新的可解釋和魯棒的AI理論與方法，發(fā)展安全、可信、可靠和可擴(kuò)展的AI技術(shù)。
北京市經(jīng)濟(jì)和信息化局郭家義在講話中對發(fā)展第三代人工智能表達(dá)了充分的期待。他認(rèn)為，隨著人工智能的快速發(fā)展，各種安全問題也接踵而至。第三代人工智能的提出恰逢其時(shí)，將助力我國實(shí)現(xiàn)人工智能在安全可信領(lǐng)域的突破，也必將對北京進(jìn)一步落實(shí)國際科技創(chuàng)新中心定位、構(gòu)建首都高精尖經(jīng)濟(jì)結(jié)構(gòu)產(chǎn)生積極的影響。
中國信息通信研究院安全所信息安全研究部主任魏薇表示，人工智能與數(shù)據(jù)產(chǎn)業(yè)互促發(fā)展的同時(shí)安全問題也交織影響，一方面人工智能對數(shù)據(jù)強(qiáng)依賴的發(fā)展特性導(dǎo)致其面臨的自身數(shù)據(jù)安全風(fēng)險(xiǎn)、應(yīng)用導(dǎo)致的數(shù)據(jù)安全風(fēng)險(xiǎn)以及應(yīng)用加劇的數(shù)據(jù)治理挑戰(zhàn)日益凸顯，另一方面，人工智能也為數(shù)據(jù)治理工作提供自動(dòng)化、智能化、高效化、精準(zhǔn)化的智慧支撐。
數(shù)據(jù)的不安全和算法的不安全是制約當(dāng)前人工智能產(chǎn)業(yè)發(fā)展的主要因素，也是發(fā)展安全可控人工智能需要解決的核心問題。什么樣的人工智能才是“安全可控”的？作為第三代人工智能的踐行者，瑞萊智慧CEO田天在會上介紹說，“安全”是指打造數(shù)據(jù)安全與算法安全兩大核心能力，解決數(shù)據(jù)強(qiáng)依賴帶來的隱私泄漏與數(shù)據(jù)投毒等隱患，同時(shí)提升算法的魯棒性與可靠性。“可控”既指應(yīng)用層面的合規(guī)可控，更指核心技術(shù)的自主可控，以自主可控為根基，通過理論創(chuàng)新、技術(shù)突破形成核心競爭力。他強(qiáng)調(diào)，安全可控是發(fā)展第三代人工智能的核心基準(zhǔn)，也是加快人工智能高質(zhì)量發(fā)展的有力支撐。
針對算法治理路徑的探索，清華大學(xué)人工智能治理研究院副院長梁正提出，首先需進(jìn)行分領(lǐng)域、分級治理，并確定治理優(yōu)先級，目前聚焦于利用個(gè)人信息進(jìn)行的自動(dòng)化決策系統(tǒng)，未來聚焦于涉及人身安全的高風(fēng)險(xiǎn)領(lǐng)域，同時(shí)在算法治理中識別和區(qū)分規(guī)則問題和技術(shù)問題，采取針對性的措施，以及堅(jiān)持安全、公平、透明和隱私等基本原則，實(shí)現(xiàn)負(fù)責(zé)任的人工智能。
編輯：李華山
