自動駕駛汽車的發(fā)展給社會和個人帶來諸多益處，其中比較吸引人的是能夠降低車禍發(fā)生率，減少傷亡。但這并不必然使自動駕駛獲得人們的充分信任，因為無論自動駕駛能夠多大程度上降低車禍發(fā)生率，都不可能保證絕對安全，意味著我們總有可能遇到危險。一旦遇到危險，自動駕駛系統(tǒng)依據(jù)何種道德算法作出決策，將成為至關(guān)重要的問題。
自動駕駛系統(tǒng)作出怎樣的決策，取決于人們?yōu)槠渚帉懥嗽鯓拥牡赖滤惴ǎ@也意味著我們?yōu)樽詣玉{駛內(nèi)嵌了怎樣的社會價值。不同文化對生命和事物價值以及緊急情況下的權(quán)衡分配有不同的道德態(tài)度，這決定了自動駕駛在不同社會運行的過程中或依據(jù)不同的道德準則設(shè)定自身算法。問題的關(guān)鍵是：都有誰參與共同協(xié)商自動駕駛汽車依據(jù)的道德算法？誰來決定該采用哪種方式作為自動駕駛汽車運行依據(jù)的道德算法？是采取集體決定的方式制定統(tǒng)一規(guī)則，還是充分尊重個人選擇？
對于自動駕駛汽車在面臨緊急情況時應(yīng)遵循的邏輯規(guī)則和依據(jù)的倫理規(guī)范，學界一般有兩種處理方式。一是認為應(yīng)采取強制的倫理設(shè)定。這是集體協(xié)商的結(jié)果，遵循著共同商討的原則。軟件工程師根據(jù)各方協(xié)商的結(jié)果給事物賦予一個可以量化的價值，根據(jù)商定的規(guī)則提前將運行方式嵌入到軟件中，以便在遇到危險時能夠按照提前設(shè)定的程序作出決策。二是認為應(yīng)采取個人的倫理設(shè)定。這是指每一個乘客都有權(quán)利對所乘坐的自動駕駛汽車進行倫理設(shè)定。
伯尼法（Jean-Fran ois Bonnefon）等人認為，自動駕駛的道德問題必須由集體討論決定，使道德算法與人類價值觀相一致，是公民愿意接受的道德算法，也是車主愿意接受的道德算法。伯格曼（Lasse Bergmann）等人也贊同由公眾作出選擇，認為應(yīng)該讓公眾協(xié)商抉擇出自動駕駛汽車最可接受的道德原則。公眾深受不同社會價值觀的影響，其選擇體現(xiàn)了所在社會系統(tǒng)的倫理規(guī)范，因此嵌入公眾選擇的價值倫理是符合公眾利益的。總之，很多人都贊同將集體協(xié)商的道德準則和倫理規(guī)范作為自動駕駛汽車緊急情況下依據(jù)的行動指導。
并且，實驗表明，個體在面臨生死決策時，往往會作出對自己最有利的決定。在緊急時刻，個體都并非是依靠理性進行判斷之后采取決定，更多往往是遵循內(nèi)心的求生本能，依據(jù)直覺作出決定。當然這個直覺也包含理性思考層面，但由于情況的緊急性，這種理性思考往往并沒有那么“理性”。所以，學界一般認為，自動駕駛汽車應(yīng)采取強制統(tǒng)一的倫理標準，這才能體現(xiàn)自動駕駛汽車運行的優(yōu)勢，在最大程度上減少傷亡。
本文認為，強制的倫理設(shè)定和個人的倫理設(shè)定并不沖突，二者不是非此即彼的關(guān)系。相反，二者是可以相互融合與補充的。我們確實是需要提前將協(xié)商一致的道德算法嵌入到自動駕駛汽車中，讓其能夠根據(jù)算法在緊急時刻作出決策，但這個統(tǒng)一的倫理標準是以情境性為基礎(chǔ)的。
首先，依據(jù)地方性的不同特征，通過多方協(xié)商討論出符合絕大多數(shù)人利益的倫理規(guī)范，將商討的倫理規(guī)范提前嵌入到自動駕駛系統(tǒng)中。其次，在“最小化總體傷害”的原則下，將情境個人選擇納入考慮范圍中，依據(jù)自動駕駛汽車遇到的實際情況作出道德決策。自動駕駛系統(tǒng)應(yīng)依據(jù)不同情境對價值進行賦值，充分考量發(fā)生事故的可能性與發(fā)生事故的后果；并在作出決策時綜合考慮各方面因素，以便在不同的場景中作出最大程度減少傷亡的合理決策。統(tǒng)一的倫理標準應(yīng)為汽車制造商、法律制定者、行人、乘客、倫理學家等各方協(xié)商的結(jié)果，要符合法律的規(guī)范。
（作者單位：清華大學科學史系）
編輯：李華山
