01 自動(dòng)駕駛汽車

社會(huì)科學(xué)家把下列這些對(duì)我們的環(huán)境和生活方式的巨大改變都?xì)w功或歸罪于汽車：郊區(qū)、污染、自由、家庭度假、結(jié)束生命、挽救生命。

自動(dòng)駕駛汽車也會(huì)產(chǎn)生類似的廣泛影響嗎?下面我們簡(jiǎn)要討論一些可能的結(jié)果，以及一些道德、法律和社會(huì)問(wèn)題。我們的目的不僅在于幫助大家了解自動(dòng)駕駛汽車，而且還要針對(duì)我們?cè)谡緯?shū)中對(duì)技術(shù)潛在后果的思考進(jìn)行“熱身”。

也許自動(dòng)駕駛汽車的最大好處是它們會(huì)拯救生命。目前，美國(guó)每年大約有35 000人死于車禍。人為錯(cuò)誤是大約95%車禍?zhǔn)鹿实脑蚧蛟蛑弧?/strong>毋庸置疑的是，由于意外情況、軟件缺陷或設(shè)計(jì)錯(cuò)誤，自動(dòng)駕駛汽車也將會(huì)導(dǎo)致一些致命的車禍?zhǔn)鹿?，但總?shù)可能遠(yuǎn)遠(yuǎn)低于人類駕駛者。

在很多情況下，人們可能會(huì)在需要時(shí)從汽車服務(wù)商那里叫車，這樣的服務(wù)很可能是由汽車制造商和汽車共享APP組成的合資企業(yè)來(lái)提供的。自動(dòng)駕駛汽車提供的服務(wù)應(yīng)該比帶司機(jī)的汽車服務(wù)更為便宜。

另外，還可以通過(guò)捎帶附近的其他乘客來(lái)提供更加低廉的汽車共享服務(wù)，特別是在早晚高峰時(shí)段。軟件可以快速地確定附近有哪些客戶將要去相近的目的地，并且當(dāng)需要與陌生人共享汽車時(shí)，汽車共享服務(wù)還可以對(duì)會(huì)員進(jìn)行篩查，以保證乘客的安全。那么，自動(dòng)駕駛汽車服務(wù)會(huì)對(duì)公共交通產(chǎn)生什么影響呢?

隨著方便、低廉的叫車服務(wù)的出現(xiàn)，更多家庭可能會(huì)選擇擁有比現(xiàn)在更少數(shù)量的汽車。目前，一輛汽車平均大約有95%的時(shí)間都處于停車狀態(tài)。根據(jù)定價(jià)的情況，很多人可能根本不會(huì)考慮自己買(mǎi)車。

駕駛滿載工具和材料的皮卡車的建筑工人可能會(huì)想要繼續(xù)擁有這樣一輛卡車，無(wú)論它是否是自動(dòng)駕駛的，但除此之外，還有誰(shuí)還可能想擁有自己的汽車呢?

總的來(lái)說(shuō)，我們會(huì)需要更少的汽車。未來(lái)的房屋建筑商是否在建造大多數(shù)房子的時(shí)候只保留一輛車的車庫(kù)或根本不要車庫(kù)?

盲人、老年人和患有無(wú)法駕車的疾病的人將有一個(gè)更廉價(jià)也更方便的選擇，使他們有更多的自主權(quán)。需要去上駕校和考駕照的青少年也會(huì)越來(lái)越少。

城市、郊區(qū)和道路的設(shè)計(jì)可能會(huì)發(fā)生顯著變化。在擁擠的地區(qū)我們需要更少的停車空間。當(dāng)我們到達(dá)目的地的時(shí)候，共享汽車會(huì)離開(kāi)去拉其他人，而在晚些時(shí)候，我們會(huì)重新叫一輛車回家或去其他地方。如果我們擁有這輛車的話，它也可以去一個(gè)不太擁擠的地方停車，然后在我們需要的時(shí)候再開(kāi)回來(lái)。

會(huì)因?yàn)槠嚳罩ソ映丝投鴮?dǎo)致交通量增加，還是會(huì)因?yàn)槲覀儾挥迷倩〞r(shí)間尋找停車位而且人們會(huì)共享出行而導(dǎo)致交通量減少呢?交通會(huì)不會(huì)因?yàn)檐浖热祟惖鸟{車技能更高而變得更通暢呢?

自動(dòng)駕駛汽車可以調(diào)整速度和路線，以減少紅綠燈的等待時(shí)間，或者在某些地區(qū)甚至可以完全消除對(duì)紅綠燈的需求。一些城市規(guī)劃人員預(yù)計(jì)交通流量會(huì)改善很多，因此有更多的人愿意住在距離工作地點(diǎn)更遠(yuǎn)的地方，從而進(jìn)一步擴(kuò)大郊區(qū)的范圍。

我們是否需要專門(mén)配備傳感器和標(biāo)記的新道路來(lái)輔助全自動(dòng)駕駛汽車呢?建造這樣的道路是否會(huì)造成太大的開(kāi)銷或負(fù)擔(dān)?這與我們?cè)?0世紀(jì)從為馬匹走的土路到為汽車鋪設(shè)的柏油路的過(guò)渡很相像嗎?

有人駕駛的汽車是否會(huì)被禁止出入高速公路和主要道路?這是否會(huì)造成對(duì)我們的自由的不合理限制，還是一種合理的過(guò)渡?就好像馬匹或自行車禁止在公路上行駛一樣。那么，喜歡以開(kāi)車為樂(lè)的人是否必須去專門(mén)的場(chǎng)地?就像現(xiàn)在騎馬的人一樣?

控制自動(dòng)駕駛汽車的軟件必須做出一些重要的倫理決策，例如在碰撞不可避免時(shí)應(yīng)該選擇撞誰(shuí)。例如，假設(shè)有一個(gè)小孩跑到了路上，汽車知道無(wú)法及時(shí)停下來(lái)以避免撞到他，那么唯一的選擇是轉(zhuǎn)去撞墻壁或其他車輛。

對(duì)大多數(shù)人來(lái)講，在選擇要買(mǎi)“Tyft”或“Goober”家的汽車時(shí)，是否要詢問(wèn)汽車軟件在遇到這些情形之時(shí)所采用的標(biāo)準(zhǔn)?那么，到底該采用什么標(biāo)準(zhǔn)?如果事故死亡人數(shù)總體可以下降90%，那么與讓軟件安全駕駛的所有其他方面相比，這個(gè)問(wèn)題有多重要?

如果我們想要讓車停到路邊拍照，該怎么辦?自動(dòng)駕駛汽車會(huì)不會(huì)拒絕停放在非正規(guī)的停車位上?汽車軟件還需要實(shí)現(xiàn)哪些其他法律和規(guī)定?我們能否選擇不遵守這些規(guī)定?

你還能想到什么其他問(wèn)題和影響嗎?

02 人工智能

人工智能(Artificial Intelligence，AI)是計(jì)算機(jī)科學(xué)的一個(gè)分支，它使計(jì)算機(jī)能夠執(zhí)行通常(或者習(xí)慣上)我們認(rèn)為需要人類智慧的任務(wù)。

這包括玩復(fù)雜的策略游戲，例如國(guó)際象棋和圍棋(相對(duì)國(guó)際象棋來(lái)說(shuō)要難很多)、語(yǔ)言翻譯、基于大量數(shù)據(jù)做出決策(例如批準(zhǔn)貸款申請(qǐng))，以及理解語(yǔ)音(在這里可能會(huì)用響應(yīng)是否及時(shí)作為“理解”的度量手段)。

人工智能還包括由人腦和神經(jīng)系統(tǒng)自動(dòng)執(zhí)行的任務(wù)，例如視覺(jué)(通過(guò)相機(jī)和軟件來(lái)捕獲圖像并加以解釋)。

學(xué)習(xí)能力是許多人工智能程序的特點(diǎn)，也就是說(shuō)，程序的輸出會(huì)隨著時(shí)間加以改進(jìn)，因?yàn)樗鼤?huì)根據(jù)對(duì)遇到的輸入所做的決策結(jié)果進(jìn)行評(píng)估來(lái)“學(xué)習(xí)”。

許多人工智能應(yīng)用都會(huì)涉及模式識(shí)別，即識(shí)別不同物體之間的相似性。這類應(yīng)用包括閱讀手寫(xiě)體(例如，自動(dòng)整理平板計(jì)算機(jī)上的郵件和輸入)，指紋匹配，以及在照片中識(shí)別人臉。

在人工智能發(fā)展的早期，研究人員認(rèn)為針對(duì)計(jì)算機(jī)的難題也是需要人類更高智慧和復(fù)雜訓(xùn)練的任務(wù)，例如贏得國(guó)際象棋比賽和完成復(fù)雜的數(shù)學(xué)證明。

在1997年，IBM公司的國(guó)際象棋計(jì)算機(jī)“深藍(lán)”(Deep Blue)在一次比賽中打敗了俄羅斯的著名國(guó)際象棋世界冠軍加里·卡斯帕羅夫(Garry Kasparov)。

人工智能研究人員意識(shí)到知識(shí)面較窄的專門(mén)技術(shù)對(duì)于計(jì)算機(jī)來(lái)說(shuō)比對(duì)于五歲小孩來(lái)說(shuō)要容易，這包括識(shí)別人、與人交談、智能地適應(yīng)環(huán)境等。

在2011年，也是IBM公司研發(fā)的另一臺(tái)專門(mén)的計(jì)算機(jī)系統(tǒng)Watson打敗了人類的“Jeopardy!”游戲冠軍。Watson計(jì)算機(jī)可以處理語(yǔ)言(包括雙關(guān)語(yǔ)、比喻等復(fù)雜的語(yǔ)言結(jié)構(gòu))和一般知識(shí)。它可以在三秒鐘之內(nèi)搜索和分析兩億個(gè)頁(yè)面的信息。

對(duì)于Watson計(jì)算機(jī)技術(shù)的實(shí)際應(yīng)用包括醫(yī)療診斷，在數(shù)百萬(wàn)個(gè)文檔中查找與某個(gè)案件有關(guān)的信息，以及各種不同的商業(yè)決策應(yīng)用。

在2016年，由谷歌母公司Alphabet開(kāi)發(fā)的一個(gè)稱作AlphaGo的程序，在比賽中打敗了圍棋世界冠軍李世石。

我們下面會(huì)簡(jiǎn)要介紹一些人工智能應(yīng)用的例子。這些例子在不久之前還是令人震驚的研究進(jìn)展，但是現(xiàn)在人們已經(jīng)對(duì)它們習(xí)以為常，并且將其應(yīng)用到了許多企業(yè)、政府和消費(fèi)者中。

在德國(guó)，有一個(gè)人在游泳池中突然心臟病發(fā)作，救生員卻沒(méi)有看到他沉入了游泳池底。而水下監(jiān)控系統(tǒng)通過(guò)攝像頭和復(fù)雜的軟件發(fā)現(xiàn)了他，并且提醒救生員，從而拯救了他的生命。軟件可以從正常游泳、陰影和倒影中識(shí)別出遇險(xiǎn)的游泳者。這種系統(tǒng)目前已經(jīng)安裝在歐洲和美國(guó)的許多大型泳池中。

正如人工智能軟件可以區(qū)分有麻煩的游泳者和其他游泳者一樣，它也可以通過(guò)視頻監(jiān)控系統(tǒng)來(lái)區(qū)分商店中的顧客是否存在可疑行為，從而表明他可能正在進(jìn)行偷竊或者其他犯罪行為。

在一些國(guó)家名勝古跡景點(diǎn)(例如自由女神像)部署的類似系統(tǒng)還可以發(fā)現(xiàn)是否有人留下了無(wú)人看管的包裹—這有可能就是個(gè)炸彈，并提醒保安人員。因此，即使沒(méi)有持續(xù)的人工監(jiān)測(cè)，擁有人工智能技術(shù)的視頻系統(tǒng)也可以幫助防止犯罪，而不只是在事后查明肇事者。

搜索引擎使用人工智能技術(shù)來(lái)選擇搜索結(jié)果，并且即使在人敲錯(cuò)詞語(yǔ)的時(shí)候，也能夠確定用戶的真實(shí)意圖。它們使用上下文來(lái)確定多義詞的確切含義。(例如，“juno”指的到底是航天器、電影、女神、共享出行服務(wù)，還是互聯(lián)網(wǎng)服務(wù)提供商?)

語(yǔ)音識(shí)別已經(jīng)成為數(shù)百個(gè)應(yīng)用程序中的常用工具。我們與我們的智能手機(jī)對(duì)話，手機(jī)可以通過(guò)人工智能來(lái)弄清楚一個(gè)問(wèn)題是什么意思，并找到問(wèn)題的答案。

手機(jī)還可以采用人工智能技術(shù)來(lái)知道它的主人是否感到無(wú)聊。(例如，反復(fù)的檢查郵件或社交網(wǎng)站就可以作為反映無(wú)聊的一個(gè)線索。)

教外語(yǔ)的計(jì)算機(jī)程序如果不能識(shí)別用戶在說(shuō)什么，就會(huì)以正確的發(fā)音來(lái)發(fā)出指令。

空中交通管制員在模擬指揮塔中進(jìn)行訓(xùn)練，指揮塔的每個(gè)“窗口”實(shí)際上都是電腦屏幕。當(dāng)受訓(xùn)學(xué)員跟模擬的飛行員講話時(shí)，計(jì)算機(jī)系統(tǒng)會(huì)做出響應(yīng)。這種模擬可以在一個(gè)安全的環(huán)境中進(jìn)行更加深入的培訓(xùn)。即使學(xué)員錯(cuò)誤地指示兩架飛機(jī)同時(shí)降落在同一條跑道上，也沒(méi)有人會(huì)因此受到傷害。

人們還會(huì)繼續(xù)辯論人工智能的哲學(xué)本質(zhì)和社會(huì)影響。計(jì)算機(jī)系統(tǒng)擁有智能到底意味著什么?

著名計(jì)算機(jī)科學(xué)家阿蘭·圖靈(Alan Turing)曾經(jīng)在計(jì)算機(jī)還沒(méi)有出現(xiàn)之前就建立了計(jì)算機(jī)科學(xué)背后的基本概念。他曾經(jīng)提出一個(gè)用于檢測(cè)計(jì)算機(jī)是否擁有人類智力水平的測(cè)試，現(xiàn)在被稱為圖靈測(cè)試(Turing Test)。

在這個(gè)測(cè)試中，讓一個(gè)人(通過(guò)網(wǎng)絡(luò))與系統(tǒng)進(jìn)行交談，談話的內(nèi)容可以是人選擇的任何主題。如果計(jì)算機(jī)能夠說(shuō)服對(duì)面的人，讓他以為它是人類的話，那么該計(jì)算機(jī)就通過(guò)了測(cè)試。

這樣是否足夠呢?許多技術(shù)專家都是這樣認(rèn)為的(前提是實(shí)際采用的是經(jīng)過(guò)了精心設(shè)計(jì)的測(cè)試)。但是這是否就意味著計(jì)算機(jī)擁有智能了呢?

哲學(xué)家約翰·塞爾(John Searle)認(rèn)為，計(jì)算機(jī)不是而且也不可能是智能的。

它們不會(huì)思考;它們只會(huì)操縱符號(hào)，而且操縱符號(hào)的速度可以非?？臁Ｋ鼈兛梢源鎯?chǔ)(或訪問(wèn))和操縱超大量的數(shù)據(jù)，但是它們沒(méi)有意識(shí)。它們不會(huì)理解，它們只會(huì)模擬理解的過(guò)程。

塞爾使用下面的例子來(lái)說(shuō)明其中的區(qū)別：

假設(shè)你不會(huì)漢語(yǔ)，把你放到一個(gè)放滿了裝有漢字符號(hào)的盒子的屋子里，再給你一本用英語(yǔ)寫(xiě)的很厚的手冊(cè)。人們會(huì)給你提交漢字符號(hào)的序列。手冊(cè)會(huì)告訴你如何操縱給你的符號(hào)與盒子里的符號(hào)，以生成一個(gè)新的符號(hào)序列，并返回給外面的人。要求你足夠細(xì)心，不會(huì)覺(jué)得無(wú)聊，而且能夠完全遵循手冊(cè)中的指示。

你并不知道收到的符號(hào)序列是漢語(yǔ)寫(xiě)的問(wèn)題。而你通過(guò)查手冊(cè)(就像執(zhí)行程序指令的計(jì)算機(jī)一樣)返回給外面人的則是正確的漢語(yǔ)答案。屋子外的人都會(huì)以為你的漢語(yǔ)水平很高!

用賽爾的話來(lái)講，他可能會(huì)說(shuō)，雖然Watson計(jì)算機(jī)的確贏了“Jeopardy!”，但是Watson自己可能都不知道它贏了。

無(wú)論我們認(rèn)為機(jī)器是智能的，或者是用比喻的方式使用智能這個(gè)詞，再或者說(shuō)機(jī)器是在模擬智能，事實(shí)是研究人員和各種組織正在以更快的速度推進(jìn)人工智能來(lái)模擬人類智能。

當(dāng)谷歌的自動(dòng)駕駛汽車一開(kāi)始上路的時(shí)候，它們是異常小心的，經(jīng)常會(huì)踩剎車，而且即使因?yàn)槁愤呁Ａ藘膳跑嚢崖范律?，它們也不?huì)選擇跨越黃線逆行。后來(lái)，谷歌公司重新進(jìn)行了編程，使得汽車駕駛起來(lái)更像人類，在有必要的時(shí)候也會(huì)選擇打破規(guī)則。

17世紀(jì)和18世紀(jì)的計(jì)算器的目標(biāo)并不雄偉：只是為了自動(dòng)化完成基本的算術(shù)運(yùn)算?？吹揭慌_(tái)沒(méi)有思想的機(jī)器可以執(zhí)行與人類智力有關(guān)的任務(wù)，會(huì)讓許多人感到不安。

幾個(gè)世紀(jì)后，加里·卡斯帕羅夫輸給了一個(gè)計(jì)算機(jī)國(guó)際象棋程序，這使得人們?cè)诤芏辔恼轮袑?duì)人類智慧的價(jià)值(或者價(jià)值的喪失)表示擔(dān)憂。

Watson帶來(lái)了更多的恐慌。到目前為止，似乎每個(gè)新的人工智能突破都會(huì)在起初引起疑慮和恐懼。但是用不了幾年，人們就會(huì)習(xí)以為常。

當(dāng)“Jeopardy!”變得如此簡(jiǎn)單，每個(gè)人都可以做得很好的時(shí)候，我們會(huì)作何反應(yīng)呢?當(dāng)走進(jìn)一家醫(yī)院，所有手術(shù)都是完全由機(jī)器來(lái)完成的時(shí)候，我們會(huì)作何反應(yīng)呢?這難道會(huì)比坐在第一架自動(dòng)電梯或者飛機(jī)中更加令人恐懼嗎?當(dāng)我們可以在網(wǎng)絡(luò)上發(fā)起關(guān)于任何話題的對(duì)話，而不用知道與我們交談的到底是人還是機(jī)器的時(shí)候，我們會(huì)作何反應(yīng)呢?當(dāng)大腦中植入的芯片可以把我們的記憶提高到數(shù)十億字節(jié)的數(shù)據(jù)量，并且擁有搜索引擎的功能時(shí)，我們又會(huì)作何反應(yīng)呢?這時(shí)候我們還算是人類嗎?

03 機(jī)器人

機(jī)器人是一種機(jī)械設(shè)備，用來(lái)執(zhí)行傳統(tǒng)上由人類完成的體力活，或者我們認(rèn)為像是人類活動(dòng)的任務(wù)。機(jī)器人系統(tǒng)在工廠里負(fù)責(zé)組裝產(chǎn)品已經(jīng)有幾十年的歷史了。與人相比，它們的工作速度更快且更加準(zhǔn)確。

如今，絕大多數(shù)機(jī)器人設(shè)備都是由擁有人工智能的計(jì)算機(jī)軟件來(lái)控制的。

在牛奶廠里，機(jī)器人擠奶設(shè)備可以為成千上萬(wàn)的奶牛擠奶，而奶農(nóng)們則可以去睡覺(jué)或者干別的雜事。

快餐食品店使用機(jī)器人食品準(zhǔn)備系統(tǒng)，以降低成本和加快服務(wù)速度。

一個(gè)連接到病人數(shù)據(jù)庫(kù)上的機(jī)器人藥劑師設(shè)備，可以通過(guò)讀取條形碼從藥房貨架上選取適當(dāng)?shù)乃幤罚瑱z查藥品之間的相互作用，并處理賬單。

這種機(jī)器人的主要目標(biāo)之一是減少人為錯(cuò)誤。在醫(yī)院里，機(jī)器人會(huì)負(fù)責(zé)配送藥品，它們能繞過(guò)障礙，并且會(huì)通過(guò)無(wú)線信號(hào)來(lái)“按”電梯按鈕。利用3D顯示器和操縱桿來(lái)控制機(jī)器人設(shè)備，醫(yī)生就可以從控制臺(tái)完成復(fù)雜和精細(xì)的手術(shù);同時(shí)軟件可以過(guò)濾掉醫(yī)生不穩(wěn)定的動(dòng)作。

機(jī)器人可以在對(duì)人類來(lái)說(shuō)有危險(xiǎn)的環(huán)境中工作，例如：

檢查海底建筑物或通信電纜。在由于爆炸或地震倒塌的建筑物中尋找幸存者。探索火山或其他星球。處理核廢物或其他有害廢物。

曾經(jīng)有幾年的時(shí)間里，索尼公司出售一種機(jī)器寵物狗“愛(ài)波”(Aibo)。它會(huì)(通過(guò)提供視覺(jué)的攝像系統(tǒng))走路，能夠響應(yīng)命令，而且會(huì)學(xué)習(xí)。還有幾家公司制造了有點(diǎn)接近人的形狀的機(jī)器人，它們會(huì)上下樓梯、跳舞，并且能通過(guò)面部表情來(lái)傳達(dá)情感。

然而，正如通用智能對(duì)人工智能來(lái)說(shuō)是一個(gè)難題一樣，通用動(dòng)作和功能對(duì)于機(jī)器人來(lái)說(shuō)也是一個(gè)難題。絕大多數(shù)機(jī)器人設(shè)備都是只擁有一組有限操作的專用設(shè)備，不同的公司和研究人員正在開(kāi)發(fā)可以做出智能行動(dòng)并且執(zhí)行各種不同操作的機(jī)器人。

機(jī)器人(不管長(zhǎng)得像狗還是像人)可以作為老年人和無(wú)子女伴侶的同伴和助手。與機(jī)器建立感情連接到底是非人性化的，還是對(duì)單獨(dú)生活或者是生活在養(yǎng)老院里但工作人員無(wú)法提供經(jīng)常陪伴的人們的生活質(zhì)量的一種提升呢?

如果知道了奶奶有一個(gè)機(jī)器人伴侶，是否會(huì)減輕家庭成員的罪惡感，并導(dǎo)致他們不經(jīng)常去看望老人呢?我們會(huì)慢慢把機(jī)器人同伴作為寵物一樣熱情地對(duì)待嗎?

可能對(duì)于機(jī)器人和人工智能系統(tǒng)最大的擔(dān)心還是來(lái)自它們可能會(huì)消滅大量的工作崗位，從而導(dǎo)致很多人失業(yè)和貧窮。另外，還有人擔(dān)心隨著人工智能的進(jìn)步，機(jī)器人變得更加聰明之后，它們會(huì)反過(guò)來(lái)消滅人類。

關(guān)于作者：

Sara Baase，圣地亞哥州立大學(xué)計(jì)算機(jī)科學(xué)系榮譽(yù)教授，在計(jì)算機(jī)科學(xué)專業(yè)擁有近30年的從教經(jīng)驗(yàn)。她曾三次獲得圣地亞哥州立大學(xué)校友會(huì)頒發(fā)的杰出教師獎(jiǎng)，編寫(xiě)過(guò)多部算法、匯編語(yǔ)言、計(jì)算機(jī)倫理方面的教材。

Timothy M.Henry，現(xiàn)任新英格蘭理工學(xué)院IT研究生主任，在計(jì)算機(jī)倫理、程序設(shè)計(jì)、網(wǎng)絡(luò)安全和項(xiàng)目管理等方面有超過(guò)15年的教學(xué)經(jīng)驗(yàn)。

本文摘編自《IT之火：計(jì)算機(jī)技術(shù)與社會(huì)、法律和倫理》（原書(shū)第5版），經(jīng)出版方授權(quán)發(fā)布。