Ian McEwan新書：人工智能時代的倫理道德

我們為機器人設定了道德標準，人性道德的反覆無常是否註定讓人工智能失望？

原文載於medium，作者Bryan Walsh

面對人工智能的興起，英國作家Ian McEwan以其特有的McEwan風格在新出版的小說Machines Like Me中研究了人類對高仿真機器人的產生會作出如何反應。相比將推想小說背景設置為人工智能已成現實的不遠將來，這本小說的背景設定在20世紀80年代平行時空的倫敦，當時網絡已經出現，現實世界中因同性戀取向於1954年被政府部門迫害致死的英國人工智能奠基人Alan Turing在這個時空依舊活著，並創造出了第一批可供購買的人工智能機器人，命名為Adam和Eve。

Charlie是一個遊手好閒、到處打零工的倫敦市民，為了追求樓上的鄰居Miranda，用自己繼承的財產買了一個Adam機器人。兩人在一起後，決定一起編寫Adam人格的程序。幾近完美的人工智能Adam和Miranda相愛了，Charlie妒火中燒，甚至恐懼這個嚴格說來屬於他所有的存在，一段人類與人工智能之間的愛情悲喜劇就此展開。Turing亦露了面，爭論人工智能的根本價值觀和生命問題，而Adam也發現周圍的人類很少能完全遵守機器人程序中要求的倫理道德，感到非常掙扎。

OneZero 主編Bryan Walsh近期在紐約Gramercy Park Hotel與McEwan坐在一起，談論了機器人生命和人工智能倫理道德的話題，也聊了聊在小說創作競賽中輸給機器人將意味著什麼。

為簡潔起見，以下采訪內容已經過壓縮和編輯。

Bryan Walsh：這不是你寫的第一本科幻題材小說，為什麼這次寫的是人工智能？

Ian McEwan：上世紀70年代後期我創作了電視劇本The Imitation Game ，比同名的電影早很多。從那之後，我一直對人工智能很感興趣。也是在那時，我開始對Alan Turing（人工智能奠基人）的工作有了興趣，還讀完了他30年代中期寫的所有關於通用計算機架構的論文。

我成年後的大部分時間裡都在關注這個領域，真的，但卻幾乎越來越失望。上世紀40年代後期，Turing說過，在10年內他就能製造出“會思考的機器”。

嗯，這就是人工智能的發展史，總是過度樂觀，又產出不足。

令人振奮的是，他們理解不了錯綜複雜的大腦有多美，除了人類大腦，果蠅的大腦也很美。因此，我對神經科學的興趣不亞於人工智能（人工智能是一個期望曲線長期呈下降趨勢的領域）。我一直都記得第一個機器人成功接到球的那個激動時刻。

我2週歲的孩子幾乎也能做到。

的確。所以，我開始意識到人工智能在過去十年迎來某種類似‘白銀時代’的復興時期，努力實現通用智能和深度學習算法領域的神聖目標。我曾與谷歌旗下人工智能公司DeepMind的Demis Hassabis會過面，他來到我在倫敦的公寓，向我介紹圍棋機器人（Go，亞洲棋盤遊戲）的成功，不過他們也在研究如何以最少信息量完成國際象棋遊戲。這是深度學習的美麗編碼，只要讓程序知曉遊戲規則即可。

因此，我認為，似乎是時候用小說家擅長的手段做個調查了：與看似可信的人工智能近距離接觸會是怎樣的體驗？

儘管這是一本推想小說，您還是選擇將背景設定在虛構的過去，而非現在或不遠的將來，請問是什麼原因？

原因有兩三個。第一，感覺這個故事在現實中站不住腳，不太可能發生，否則事情也太簡單了。我猜每個寫過這種虛擬小說的人都能體會到這一點。比如，我們可能只是一夜情的產物，因為那天傍晚母親不想呆在家裡洗頭，想要出去跳舞，碰到了一個陌生男人，那個人就成了自己的父親。我知道，從某種意義上講，這就是一個站不住腳、不太可能發生的假設。

未來總是具有一種預測性。如果你將背景設定在將來，你會說，事情很可能就是這樣。我想要一個更有趣、更虛構一點的故事。我還想讓這個故事為人所熟悉，不是那種浮誇或者毀滅性的末日的設定。

這能夠讓你在看小說時思考擁有這些酷炫的機器人是什麼體驗，並迅速集中注意力看完整個故事。在紐約的這個地方，我看到人們帶著睡袋，排成四五百米的長隊，為了搶購iPhone 5。

可能它現在在你抽屜的最底下。

在你放襪子的抽屜最底層，或者我隨便猜，可能被你孫子孫女拿去玩了。社會中的人天性雜亂無序，我們獲得這種時尚的玩具，早餐時玩，去Glasgow的火車上也在玩，玩具最終就會被黃油弄髒。任何不可思議的東西，只要暢銷，都會變得平平無奇。一切奇蹟都會迅速淪為平凡。

假設人類自己很難決定道德倫理是什麼，你是否認為我們能夠讓人工智能懂得真正的道德價值觀？

我寫這本小說的部分興趣是為了有所發現。即使我們決定嘗試預編程序，將複雜的算法、人類最好的自我、更高尚的特質植入人工智能的設定，我們也會碰到人類老掉牙的實際問題。我們會對彼此網開一面。我們對Miranda網開一面是因為我們喜歡她，或者因為她的動機是好的。

確實，我們對她關心的那個孩子非常重視。

對，這個孩子的未來才是關鍵。

它的特別之處和人性。

我們能不能通融一些，寫一些算法來解決這個問題？我想這就是一般智力的本質：你有深入學習的能力，並將其應用於不同的情況。我們在道德問題上搖擺不定，我們可以從宗教和哲學角度很好地闡述如何做個好人。要一直做個好人是很難的，尤其是要所有人都做得很好。總會有例外和優待，尤其是我們在面對自己的問題的時候，這些例外和優待會帶來驗證偏差和各種認知錯誤。

因此，這種人工意識所經歷的絕望可能存在於我們的生活中，我們在這種絕望中去宣揚美或者森林效益的必要性，這就是一個例子。我剛剛看到了2018年巴西、印度尼西亞和剛果民主共和國的原始森林消失的面積，這些數據讓我感到絕望。許多文學和詩歌會讓我們絕望，因為我們說是一回事，行動起來又是另一回事。

我們無法實踐自己的價值觀。

是的。那麼，一個直率而又善良的存在來到我們的世界，我們賦予了它那些我們視為準則卻無法踐行的價值觀呢？這個存在又該如何對待這些價值觀？你關閉了Adams 和Eves的意識，因為他們無法處理這些矛盾。

你安排Alan Turing最後出場，批評Charlie毀了Adam。這個安排改變了讀者的視角，因為Turing確實強調了所有權如何影響了Charlie對待Adam的方式，他甚至可以隨意摧毀Adam。

我覺得這非常有趣，我們可能會買一個人造人，即使它是否有感覺依然存疑，我們可能覺得是它的所有者。但你能擁有它的意識嗎？

我不這麼認為。

是的，我想我們接下來要講一種康德律令，一個人完全有權毀掉他/她的電視機或傳真機，如果每個人都有傳真機的話。有段時間我的壓力很大，傳真機恰好不怎麼好用，我就把它從房間一頭扔到了另一頭。扔出去的時候，我甚至清楚地知道，扔了這一個，就必須走到鎮上去買另一個。這是自我懲罰。但我們完全有權這麼做。因為我們買了這個東西。

對，它是一個工具。

如果我們買的東西有意識，那麼我想我們可能會對自己說，你不能買這些東西，因為你不能完全擁有它們；當然你也不能摧毀他們。或者說摧毀它們相當於謀殺。這就是為什麼我希望Turing的唯物主義案例能夠支持“機器具有意識”這種說法。因此，Adams 和 Eves要做的第一件事就是讓任何人無法關閉它們，從而失去意識。

我們之所以會有舉止上的侵犯行為是因為它們有意識，這種意識是物質事物的第二層次。我還認為，我們有非常非常強的天性去接受事物是有意識的，即使事實並非如此。

我想當你對傳真機發脾氣的時候，其實是賦予了它某種個性。

我想，如果有人的車壞了，他們狠狠地踢了車一腳，那他一定已經和機器產生了感情聯繫。你還記得Eliza這個項目嗎？

我記得。

對，那是一個非常神奇的項目。我看了人們和Eliza對話的報告，他們會說，“這是我經歷過的最深刻的對話之一”…這些都是單方面的對話。就像和烤麵包機說話一樣。我的意思是，除了“嗯哼”、“告訴我更多”和“你覺得怎麼樣?” 這些回答以外，Eliza有30種應答方式。

我為他們的反應感到難過，因為我認為這些回答表明對話者在生活中沒有多少被傾聽的經歷。但當和人工智能或計算機對話時，他們似乎才會被傾聽。

我曾看到過許多日本老人養機器狗，這些狗提醒他們吃藥，給他們講故事，或者告訴他們新聞。他們變得很依戀這些機器狗。在我看過的照片中，這些機器小狗甚至不是毛茸茸的、棕色眼睛的，也不是大眼睛之類的。而是塑料材質的，閃著光，有四個輪子。所以我們準備好了。人工智能肯定會改變我們作為人類的意義。因此，我認為小說家有很多工作要做，不僅要研究我們與人工智能之間的關係，還要研究我們在與人工智能相處時與自身的關係。

在你與該領域的研究人員的接觸中，他們認為小說家、哲學家、人文學科領域的學者在設計或理解人工智能方面應該扮演什麼樣的角色？

我知道在純理論哲學已經有相當活躍的群體，在60年代情況確實如此。我上大學的時候，參與了很多課程，探討機器是否會思考。那時候它被稱為由身及心論，因為技術條件不允許，所以聽起來很抽象。因此對於一百年前的小說中人工智能的重要性、潛力，或者我們何時可以實現人工智能、什麼時候去實現這類問題的討論我也沒有看到。

在Charlie和Miranda的對話中，Charlie說，最好的檢驗方法就是看Adam何時寫小說，不寫俳句。這表明它理解人類意識的本質。Miranda說，“誰在談論人類意識？”我很同意這一說法。我們可能無法判斷人工智能寫的小說，因為它們感興趣的是和他們一樣的思維方式。

有一種觀點認為，真正的通用人工智能可能代表著一種與我們人類完全不同的思維。我認為這很難理解。

造一個同人一樣的生物是沒有真正的科學價值的。如果我們發展到可以操作量子計算的程度，那麼為什麼要造一個5英尺10英寸高的人造人呢?

回顧汽車發展歷史，你會發現，最早的汽車模型看起來就像沒有馬拉著的馬車。所以打造一個人造人，它就可能像嬰兒期學走路的我們。然後，這種邏輯就會循環下去，尤其是一旦它們開始負責設計人工智能和更新換代的時候更是如此。到那時，我們可能難以理解彼此。

有人擔心A.I.會威脅人類的存在。我們創造了比自身更具智慧、能力更強的A.I.，但最終我們很有可能像其他在智力上被超越的物種一樣，被A.I.超越。這種擔憂確實存在吧?

我想，大多數人的一生中遇到過比自己更聰慧的人。但也許Stephen Hawking從未遇到過，這也是他反對發展通用人工智能的原因。一個星球上如果全是比Hawking還聰明得多的人，那對Hawking來說是一大威脅。

但Hawking曾想說的是，通用AI成為現實後，我們討論的就不再是普通人和Hawking的差距，而是一隻螞蟻和Hawking之間的差距了。這是種巨大的差距。

對，這的確是種焦慮，但我們無法改變。

是嗎？

如果我們不發展A.I.，那麼墨西哥、巴西或中國也會發展。如今A.I.的發展方興未艾，各國的競爭也已經愈演愈烈。

在小說裡，Adam是一個天才級別的股票挑選者。我想知道，如果我們創造的A.I.在任何方面都完勝我們，那我們將面臨什麼樣的處境？如果A.I.可以寫更優美的俳句、更優質的小說，那人類還能做什麼？在知曉我們無法在與A.I.匹敵時，我們如何才能找到生命的意義？

不僅僅是在重要性上，在工作能力上我們也無法與A.I匹敵。我一度感到困惑，為何經濟學家要提倡普遍薪資，稱不然社會將面臨動盪。後來我想到了問題的關鍵：生命的核心價值是什麼？比如愛情是一種意識。如今我們只是以工作這一標準來定義自己的價值，但這顯然不是人類全部的價值。因此，站在山頂上，呼吸一口新鮮空氣，這一舉動本身就足夠有價值，無需任何解釋。

如果你發現，無論多努力，你的小說都不如A.I.寫得出彩，那會是什麼感受？

如果A.I.正在審校《紐約時報》的文章，我想我的感覺會更糟糕。

對。

我想我還是會繼續寫小說。

回到你先前的問題，什麼才是永恆的核心價值，這也是Turing想表達的觀點。當你拿著錘子對準Adam的頭，你在試圖摧毀這種有自主意識的生物，而像Adam這樣的機器人還有千千萬萬。 生物學的特點就是批量生產。我們中有70億或80億人擁有意識。如果我們說這些人都擁有相同的價值觀，那這種價值觀就是我們存在的原因，是我們關愛他人的理由。不同於Adam這樣的機器人，我們擁有這短暫的瞬間，這本身就是一種價值。

我還認為，不是所有的人類核心活動，機器人都能做得更好。

包括性。

我們將不得不退出這場競爭。我們要給對方帶去歡樂，照顧彼此，關愛地球，而這些正是我們不那麼擅長的領域。

在對未來是否持樂觀態度的問題上，你列出了我們面臨的一系列挑戰，包括非理性、民粹主義興起以及氣候變化這些我們身邊的挑戰。

這些問題不是孤立存在的。氣候變化與民粹主義興起密不可分。我知道精神生活的本質就是悲愴的，但我感到驚訝的是，在英國，我們的政治文化幾乎自我毀滅了。

說實話，這一切令人感到震驚。

幸好美國的情況比我們更糟糕，也只能這麼安慰自己了。

有時，我會思考美國民粹主義及其起源。回顧過去，我們會發現這些制度比想象的更堅不可摧。我常常回想起Adam Smith的經典觀點：一個國家中有諸多崩壞因子，而真正毀滅一個國家，或其法律制度，通常需要付出許多代價。一旦成功，就會帶來持續20年之久的艱難歲月。但這些都有可能挽回，這也是我最大的期望。但當時社會不穩定，必須有一些其他非常深遠的變革，讓所有人都聯繫緊密，每個人都肩負起社會責任。

如果自動化和A.I.淘汰了大批工作，工人們的處境將會如何？從政治角度看，全球工人會有何反應？如果工人無法繼續出售勞力，其權力又從何獲得？

就像小說中的工黨領袖描述的那樣，我們要保護的不是工作，而是工人。就像需要基本人權一樣，你需要普遍薪資。而籌得資金唯一方式，就是向機器人徵稅。

這在當下是個熱議話題。

是的，討論很多。當然，你能夠想到，阻力非常大。因為向機器人徵稅，實際上就是對機器人的擁有者徵稅。

是的，向資本徵稅。

以我們曾經對工人的徵稅標準來向機器人主人徵稅。不管你的基準稅率是30%、35%還是更高，這部分的稅收必須流向因機器人而下崗的工人。也許我的表達方式有些傲慢，但我們應該看看英國那些不事生產、依靠工人勞作而享受富貴的貴族階層。這些貴族彈奏羽鍵鋼琴，外出打獵，射擊，垂釣。所以，無論你的選擇是籠戰還是閱讀小說，都隨意吧。

或者打電遊，注射海洛因。

這是時間跨越80年之久的意識。我們將尋找最佳方式在漫長的時間裡感受自由。但這也意味著工作不再是衡量自我價值的標尺。我個人認為是一個巨大飛躍。

我相信，我們中的大多數人也會這麼覺得。

工作是衡量我們日常生活幸福水平的一大標準。曾有人問Freud，“幸福的祕訣是什麼”。Freud以一貫簡潔而富有說服力的語言回答道：良好的人際關係、強健的體魄、滿意的工作是幸福的三大要素。在如今的時代，我們需要調整幸福的要素。但當你閱讀Jane Austen的小說時，你會發現，對許多生活忙碌充實的人而言，工作就是一種極大的恥辱。[笑聲]。所以我們所有人都應該成為貴族。