4月29日,，科技部官網(wǎng)公布《虛擬現(xiàn)實技術(shù)研發(fā)倫理指引》（以下簡稱《指引》）,，意在著力構(gòu)建虛擬現(xiàn)實技術(shù)研發(fā)的倫理框架,，規(guī)范相關(guān)技術(shù)創(chuàng)新路徑，防控潛在倫理風(fēng)險,。
這份由國家科技倫理委員會人工智能倫理分委員會制定的文件明確,，從事虛擬現(xiàn)實技術(shù)的主體應(yīng)主動開展倫理評估（審查），設(shè)置相應(yīng)審查機(jī)構(gòu)（機(jī)制）,，產(chǎn)品或技術(shù)應(yīng)按照國家有關(guān)規(guī)定獲得倫理審查通過后方能上市,。
“虛擬現(xiàn)實技術(shù)正成為全球科技競爭的一個戰(zhàn)略制高點，其核心價值不僅在于拓展人類感知維度與認(rèn)知邊界,，更承載著推動產(chǎn)業(yè)升級,、重構(gòu)社會形態(tài)的巨大潛能?！鼻迦A大學(xué)蘇世民書院院長薛瀾在接受科技日報記者采訪時說,，但虛擬現(xiàn)實技術(shù)的深度應(yīng)用伴生多維倫理挑戰(zhàn)。
由于沉浸式體驗,、角色扮演,、感官剝奪和技術(shù)依賴，虛擬現(xiàn)實技術(shù)使得行為主體容易出現(xiàn)道德意識虛化,、自我意識弱化,、價值認(rèn)同偏移等價值異化的倫理問題；虛擬現(xiàn)實技術(shù)因其虛擬環(huán)境的設(shè)計,、交互機(jī)制和技術(shù)手段,，存在行為操控、行為依賴等倫理風(fēng)險,；虛擬現(xiàn)實技術(shù)的誤用,、濫用,，將加劇社會安全、社會責(zé)任等問題,。
為此,，《指引》明確了虛擬現(xiàn)實技術(shù)研發(fā)的基本原則、倫理要求,、倫理問題,、倫理評估（審查）等，提出了虛擬現(xiàn)實技術(shù)研究與應(yīng)用的一般要求：合法合規(guī),、知情同意,、隱私保護(hù)和個人信息保護(hù)、風(fēng)險防控,、責(zé)任明晰、群體保護(hù),、警示標(biāo)識,。
在薛瀾看來，《指引》的特點為體現(xiàn)共識度,、注重覆蓋面,、力求操作性?！拔募采w虛擬現(xiàn)實技術(shù)從研發(fā),、產(chǎn)品化到場景落地的主要類型與重要環(huán)節(jié)，特別強(qiáng)化對社交娛樂,、教育培訓(xùn)等高頻率民生場景的規(guī)范要求,，以及對兒童等特殊群體的專項保護(hù)?！彼f,。
針對虛擬現(xiàn)實技術(shù)研發(fā)，《指引》構(gòu)建了覆蓋虛擬現(xiàn)實技術(shù)全生命周期的倫理評估（審查）機(jī)構(gòu)（機(jī)制）,。具體而言,，虛擬現(xiàn)實技術(shù)倫理評估（審查）需進(jìn)行全流程閉環(huán)管理，重點針對虛擬場景中的身份混淆,、行為成癮,、價值觀偏移等特有風(fēng)險進(jìn)行預(yù)判。與此同時,，需采用多維度手段對虛擬現(xiàn)實產(chǎn)品或技術(shù)進(jìn)行審查,，檢測虛擬環(huán)境對認(rèn)知決策的潛在影響；需對虛擬現(xiàn)實產(chǎn)品或技術(shù)采取動態(tài)化評估方法,，建立用戶年齡分級,、使用時長預(yù)警等適配性審查標(biāo)準(zhǔn)等,。
當(dāng)前，以生成式人工智能,、多模態(tài)交互為代表的人工智能技術(shù)深度融入虛擬現(xiàn)實領(lǐng)域,，為虛擬現(xiàn)實技術(shù)研究和應(yīng)用帶來新機(jī)遇。然而,，技術(shù)融合也帶來認(rèn)知滲透,、社會關(guān)系重構(gòu)等新型倫理挑戰(zhàn)：生成式人工智能和虛擬現(xiàn)實的結(jié)合可能模糊虛實邊界，導(dǎo)致用戶產(chǎn)生持續(xù)性認(rèn)知偏差,；算法推薦機(jī)制在虛擬環(huán)境中形成的“信息繭房”,，可能加劇價值觀極化；虛擬身份的多重映射特性,，更易引發(fā)網(wǎng)絡(luò)欺詐,、數(shù)據(jù)濫用等社會問題……
薛瀾表示，為此,，《指引》依據(jù)“合理控制風(fēng)險”與“維護(hù)個人權(quán)益”原則,，從“風(fēng)險防控”與“警示標(biāo)識”兩大維度作出針對性部署：要求實現(xiàn)可審核、可監(jiān)督,、可追溯,、可信賴，提升安全評估和管控能力,，確保人始終能可靠控制虛擬現(xiàn)實技術(shù),，采取有效措施避免和預(yù)防虛擬現(xiàn)實技術(shù)的誤用、濫用,、惡用,。
《指引》還要求虛擬現(xiàn)實產(chǎn)品在設(shè)備、界面,、交互場景及說明書中以文字,、語音、音頻或者通用符號等顯性標(biāo)識形式醒目提示潛在風(fēng)險,，明確說明技術(shù)應(yīng)用可能誘發(fā)的健康風(fēng)險,、行為異化、自我意識干擾等問題,，并注重警示標(biāo)識的動態(tài)性,、可識別性。
編輯：李華山
