清華新聞網(wǎng)5月23日電 近日，交叉信息院助理教授于洋課題組與北京大學(xué)助理研究員王劍曉合作完成的論文《通過儲能設(shè)施防御對抗性攻擊》（Defending Against Adversarial Attacks by Energy Storage Facility）獲得能源領(lǐng)域知名會議——國際電氣與電子工程師協(xié)會電力與能源協(xié)會年會（IEEE Power & Energy Society General Meeting,，IEEE PESGM）2022年最佳論文獎,。
圖1 對智能電網(wǎng)中AI算法的攻擊方法以及對電力系統(tǒng)運(yùn)行的威脅
論文研究了智能電網(wǎng)中的人工智能算法攻擊帶來的經(jīng)濟(jì)風(fēng)險和對策。研究指出,，算法攻擊已經(jīng)能夠威脅實體經(jīng)濟(jì)的新型風(fēng)險,，這類風(fēng)險隱蔽性強(qiáng)，因此難以被察覺和究責(zé),，但卻會給經(jīng)濟(jì)帶來重大損失,。然而，和計算機(jī)領(lǐng)域“用算法對抗迎擊算法攻擊”的思路不同的是,，實體經(jīng)濟(jì)中存在著能夠?qū)顾惴ü舻奈锢碓O(shè)備,。因此，人工智能時代,，實體經(jīng)濟(jì)有必要投建“對抗算法攻擊的新基建”,。
智能電網(wǎng)是一個依賴數(shù)據(jù)和學(xué)習(xí)模式的信息物理系統(tǒng)，人工智能算法（AI）構(gòu)成了智能電網(wǎng)的“思考和感知系統(tǒng)”,。然而,，智能電網(wǎng)面臨一種新型威脅，即通過設(shè)計噪聲誤導(dǎo)數(shù)據(jù)驅(qū)動的AI模型,，誘使AI基于錯誤感知學(xué)會錯誤知識,、最后做出錯誤決策。
論文指出AI的錯誤決策會給物理電網(wǎng)帶來巨大經(jīng)濟(jì)損失,。在德克薩斯州,，5%的對抗性攻擊可以使一個季度的總發(fā)電成本增加17%，約有二千萬美元,。研究發(fā)現(xiàn),，在低碳化后，這種隱蔽的供給會帶來更大損失：當(dāng)風(fēng)能滲透率增加到40%以上時,，5%的對抗性攻擊會使發(fā)電成本增加23%,。需要指出的是，算法攻擊和傳統(tǒng)對電網(wǎng)的攻擊完全不同,。傳統(tǒng)電網(wǎng)攻擊是通過造成設(shè)備損壞和大面積停電來實現(xiàn),，而算法攻擊的目的不是一次性癱瘓電網(wǎng)，而是以“潤物細(xì)無聲”的方式,，讓電力系統(tǒng)在不知不覺中遭受“聚沙成塔”的巨大經(jīng)濟(jì)損失,。
圖2 不同可再生比例下的成本損失率
該研究還提出了利用物理資產(chǎn)防御對抗性算法攻擊的新方法：投資于儲能系統(tǒng)。目前所有的文獻(xiàn)都集中在開發(fā)防御對抗性攻擊的算法上,。研究發(fā)現(xiàn),，當(dāng)智能電網(wǎng)中有足夠多的儲能資產(chǎn)時,，即便我們察覺不到算法攻擊、算法攻擊也成功的誤導(dǎo)了AI,，儲能也能阻隔AI的錯誤衍生為經(jīng)濟(jì)損失,。實際上，AI被誤導(dǎo)會改變價格信號,，從而觸發(fā)儲能的響應(yīng),，這種儲能的逐利行為卻避免了整個系統(tǒng)的經(jīng)濟(jì)損失。
交叉信息院2020級在讀博士生李佳蔚為本文第一作者,，交叉信息院2022級預(yù)研博士生陳琳為本文通訊作者，其他作者包括交叉信息院助理教授于洋以及北京大學(xué)助理教授王劍曉,。本工作獲得了上海期智研究院的資金支持,。
國際電氣與電子工程師協(xié)會電力與能源協(xié)會年會是全球最具影響力的電力行業(yè)旗艦會議，每年在北美地區(qū)召開一次,，是全球電力和能源學(xué)者,、工程師最主要的學(xué)術(shù)會議。每年在會議上獲得該榮譽(yù)的論文比例不到投稿總數(shù)的2%,。
供稿：交叉信息研究院
編輯：覃霞
審核：周襄楠
