我聽說未來的計算機(jī)人工智能會變得比我們還要聰明得多，它們將奪走我們所有的工作和資源，而人類將會滅絕。這是真的嗎？
這是我每次談?wù)撊斯ぶ悄軙r最常碰見的問題。提問者是認(rèn)真的；他們的擔(dān)心部分源自于一些會問自己同樣問題的專家。這些人都是當(dāng)今世上中最聰明的一部分群體，比如史蒂芬·霍金、埃隆·馬斯克、馬克思?泰格馬克（譯注：Max Tegmark，MIT 物理學(xué)家，著有《平行世界，平行生命》）、薩姆·哈里斯（譯注：Sam Harris，《自由意志》一書作者、神經(jīng)科學(xué)家、哲學(xué)家）和比爾·蓋茨，而他們認(rèn)為這種情況很可能是真的。最近，在一個有關(guān)人工智能問題的討論會上，一組由九位最知名的人工智能大師組成的專家小組一致認(rèn)為，這種超人類智能是不可避免的并且離我們并不遙遠(yuǎn)，可在這里查看他們的討論：
然而，超人類人工智能接管人類的情況是有五個假設(shè)作為前提的，如果一一對其進(jìn)行檢查的話會發(fā)現(xiàn)它們并不基于任何證據(jù)。這些說法在未來可能是真的，但到目前為止還沒有證據(jù)作為依托。即將成真的超人類智能背后的這些假設(shè)是：
如果對一個超人類人工智能接管人類的預(yù)期是建立在五個沒有證據(jù)基礎(chǔ)的關(guān)鍵假設(shè)之上，那么這個想法更類似于一個宗教信仰——一個神話（myth）。在下面的段落中，我分別擴(kuò)展了對這五個反假設(shè)的證據(jù)，并舉例說明，事實上一個超人類人工智能就是一種神話。
一
關(guān)于人工智能最常見的誤解始于對自然智能的普遍誤解。這種誤解認(rèn)為智能是單一維度的。大多數(shù)技術(shù)人員往往以 Nick Bostrom 在他的書《超級智能（Superintelligence）》中所使用的方法——作為表示幅度增加的一個逐字的單維線性圖——來描繪智能。其中一端是低智能，比如某種小動物；另一端是高智能，比如一個天才——就好像智能是一個以分貝來表示的聲音大小等級。當(dāng)然，之后就很容易進(jìn)行延伸想象，智能的響度繼續(xù)增長，最終超過我們自己的高智能，成為一個超越人類的超級響亮的智能方式——一聲咆哮！——甚至可能越出圖表的范圍。
這種模型的拓?fù)浣Y(jié)構(gòu)相當(dāng)于一個梯子，因而智能的每一個梯級就是一層層地遞增。劣等動物位于我們下面的較低層，而更高級別的智能（也即人工智能）將不可避免地超越我們而登上更高的階梯。這種情況發(fā)生的時間尺度并不重要；重要的是排名——這是智能增加的指標(biāo)。
這個模型的問題在于其本身是虛構(gòu)的，就像進(jìn)化的階梯。在達(dá)爾文之前人們假定自然世界有一架生物存在（being）階梯，其中低等動物居于人類下面的階梯上。即使在達(dá)爾文之后，一個非常普遍的概念是進(jìn)化階梯，其中魚類進(jìn)化成爬行動物，然后進(jìn)入哺乳動物階段，繼而進(jìn)化為靈長類動物，最后進(jìn)入人類階段，每一次進(jìn)化都比之前更加高級（當(dāng)然也更加聰明）。所以智能的階梯與存在的階梯是平行的。但這兩種模式都提供了一個完全不科學(xué)的觀點。
一張更精確的物種自然進(jìn)化圖是一個向外輻射的圓盤，就像由德克薩斯大學(xué)的 David Hillis 首次設(shè)計的這張圖（上圖）那樣，它是基于 DNA 的。這個深度宗譜曼陀羅以最原始的生命形式從中間開始，然后在一段時間之后向外分支。時間向外移動，使得居于該星球上最近期的生命物種構(gòu)成了此圈圓周的周長。這幅畫著重強(qiáng)調(diào)了一個難以理解的進(jìn)化方面的基本事實：現(xiàn)世存在的每一個物種的進(jìn)化程度都是相等的。人類與蟑螂、蛤、蕨類植物、狐貍和細(xì)菌一起存在于這個外環(huán)上。其中的每一個物種都經(jīng)歷了一個跨度三十億年的成功繁殖的完整鏈條，這意味著現(xiàn)在的細(xì)菌和蟑螂與人類的進(jìn)化程度是同等高級的。并不存在階梯。
