4月27日，2017全球移動互聯網大會（GMIC）在北京國家會議基地舉辦。聞名物理學家斯蒂芬·霍金通過視頻發表了題為《讓人工智能造福人類及其賴以生存的家鄉》的主題講演。他表明，人工智能的興起或許是人類文明的完結。
這現已不是霍金首次提出“人工智能要挾論”。在本年3月，霍金向英國《獨立報》表明，人類有必要樹立有用機制儘早辨認要挾地點，防止新科技（人工智能）對人類帶來的要挾進一步上升。
霍金在會上表明，人工智能的要挾分短期和長時刻兩種。短期要挾包括自動駕馭、智能性自立兵器，以及隱私疑問；長時刻憂慮主要是人工智能系統失控帶來的風險，如人工智能系統或許不聽人類指揮。
他還以為，生物大腦和計算機在本質上是沒有區別的。這與英國物理學家羅傑·彭羅斯的觀念恰恰相反，後者以為作為一種算法斷定性的系統，當時的電子計算機無法發生智能。
不過，霍金也表明，儘管他對人工智能有各種憂慮，但他對人工智能技能本身仍是抱有達觀的情緒。他以為人工智能帶來的收益是無窮的，人類或許憑藉這一強壯的東西，能夠減少工業化對天然的損傷。“但咱們不斷定咱們是會被智能無限地協助，仍是被無限地邊緣化，甚至消除。”他彌補道。
霍金在講演的最終說道：“這是一個漂亮但充溢不斷定的國際，而你們是先行者。”
以下為霍金講演全文（中文版）：
在我的一生中，我見證了社會深化的改動。其間最深化的，一起也是對人類影響日積月累的改動，是人工智能的興起。簡略來說，我以為強壯的人工智能的興起，要麼是人類歷史上最佳的事，要麼是最糟的。我不得不說，是好是壞咱們仍不斷定。但咱們應當竭盡所能，保證其將來開展對咱們和咱們的環境有利。咱們別無挑選。我以為人工智能的開展，本身是一種存在著疑問的趨勢，而這些疑問有必要在如今和將來得到處理。
人工智能的研討與開發正在敏捷推進。或許咱們所有人都應當暫停片刻，把咱們的研討重複從提高人工智能才能轉移到最大化人工智能的社會效益上面。根據這麼的思考，美國人工智能協會（AAAI）於2008至2009年，建立了人工智能長時刻將來總籌論壇，他們近期在目的導向的中性技能上投入了很多的重視。但咱們的人工智能系統需求依照咱們的毅力作業。跨學科研討是一種或許的前進路途：從經濟、法令、哲學延伸至計算機安全、方式化辦法，當然還有人工智能本身的各個分支。
文明所提發生的全部都是人類智能的產品，我信任生物大腦能夠到達的和計算機能夠到達的，沒有本質區別。因而，它遵從了“計算機在理論上能夠仿照人類智能，然後逾越”這一準則。但咱們並不斷定，所以咱們無法知道咱們將無限地得到人工智能的協助，仍是被輕視並被邊緣化，或許很或許被它消除。確實，咱們憂慮聰明的機器將能夠替代人類正在從事的作業，並敏捷地消除數以百萬計的作業崗位。
在人工智能從初始形態不斷開展，並被證明非常有用的一起，我也在憂慮發明一個能夠同等或逾越人類的事物所致使的成果：人工智能一旦脫離捆綁，以不斷加快的狀況重新規劃本身。人類由於遭到綿長的生物進化的限制，無法與之競賽，將被替代。這將給咱們的經濟帶來極大的損壞。將來，人工智能能夠開展出自我毅力，一個與咱們牴觸的毅力。儘管我對人類一貫持有達觀的情緒，但其他人以為，人類能夠在相當長的時刻裡操控技能的開展，這麼咱們就能看到人工智能能夠處理國際上大多數疑問的潛力。但我並不斷定。
2015年1月份，我和科技企業家埃隆·馬斯克，以及很多其他的人工智能專家簽署了一份對於人工智能的公開信，目的是發起就人工智能對社會所構成的影響做仔細的調研。在這之前，埃隆·馬斯克就正告過大家：超人類人工智能或許帶來不可估量的利益，可是假如部署不妥，則或許給人類帶來相反的效果。我和他同在“生命將來研討所”的科學顧問委員會，這是一個為了減輕人類所面臨的存在風險的組織，而且之前說到的公開信也是由這個組織起草的。這個公開信召喚打開能夠阻撓潛在疑問的直接研討，一起也收成人工智能帶給咱們的潛在利益，一起致力於讓人工智能的研製人員更重視人工智能安全。此外，對於決策者和一般群眾來說，這封公開信內容翔實，並非駭人聽聞。人人都知道人工智能研討人員們在仔細思索這些憂慮和道德疑問，咱們以為這一點非常主要。比方，人工智能是有剷除疾患和貧窮的潛力的，可是研討人員有必要能夠發明出可控的人工智能。那封只要四段文字，標題為《應優先研討強壯而有益的人工智能》的公開信，在其順便的十二頁文件中對研討的優先次第作了詳細的組織。
在曩昔的20年裡，人工智能一向專心於環繞建設智能代理所發生的疑問，也就是在特定環境下能夠感知並舉動的各種系統。在這種狀況下，智能是一個與統計學和經濟學有關的理性概念。通俗地講，這是一種做出好的決議、方案和推論的才能。根據這些作業，很多的整合和穿插孕育被應用在人工智能、機器學習、統計學、操控論、神經科學、以及其它範疇。同享理論框架的樹立，聯繫數據的供應和處理才能，在各種細分的範疇獲得了明顯的成功。例如語音辨認、圖畫分類、自動駕馭、機器翻譯、步態運動和問答系統。
跟著這些範疇的開展，從實驗室研討到有經濟價值的技能構成良性循環。哪怕很小的功用改善，都會帶來無窮的經濟效益，進而鼓舞更長時刻、更巨大的投入和研討。如今大家廣泛認同，人工智能的研討正在穩步開展，而它對社會的影響很或許擴展，潛在的優點是無窮的，既然文明所發生的全部，都是人類智能的產品；咱們無法猜測咱們或許獲得啥效果，當這種智能是被人工智能東西放大過的。可是，正如我說過的，剷除疾病和貧窮並不是完全不或許，由於人工智能的無窮潛力，研討怎麼（從人工智能）獲益並規避風險是非常主要的。
如今，對於人工智能的研討正在敏捷開展。這一研討能夠從短期和長時刻來評論。一些短期的憂慮在無人駕馭方面，從民用無人機到自立駕馭汽車。比方說，在緊急狀況下，一輛無人駕馭汽車不得不在小風險的大事端和大概率的小事端之間進行挑選。另一個憂慮在致命性智能自立兵器。他們是不是該被制止？假如是，那麼“自立”該怎麼精斷界說。假如不是，任何運用不妥和故障的過失應當怎麼問責。還有別的一些憂慮，由人工智能逐步能夠解讀很多監控數據致使的隱私和憂慮，以及怎麼辦理因人工智能替代作業崗位帶來的經濟影響。
長時刻憂慮主要是人工智能系統失控的潛在風險，跟著不遵從人類意願行事的超級智能的興起，那個強壯的系統要挾到人類。這麼錯位的成果是不是有或許？假如是，這些狀況是怎麼呈現的？咱們應當投入啥樣的研討，以便非常好的瞭解和處理風險的超級智能興起的或許性，或智能爆發的呈現？
當時操控人工智能技能的東西，例如強化學習，簡略有用的功用，還不足以處理這個疑問。因而，咱們需求進一步研討來找到和供認一個可靠的處理辦法來掌控這一疑問。
近來的里程碑，比方說之前說到的自立駕馭汽車，以及人工智能贏得圍棋比賽，都是將來趨勢的痕跡。無窮的投入傾注到這項科技。咱們如今所獲得的成果，和將來幾十年後或許獲得的成果比較，必定相形見絀。而且咱們遠不能猜測咱們能獲得啥成果，當咱們的腦筋被人工智能放大今後。或許在這種新技能革新的輔佐下，咱們能夠處理一些工業化對天然界構成的損害。關乎到咱們日子的各個方面都即將被改動。簡而言之，人工智能的成功有或許是人類文明史上最大的工作。
可是人工智能也有或許是人類文明史的完結，除非咱們學會怎麼防止風險。我從前說過，人工智能的全方位開展或許引起人類的滅亡，比方最大化運用智能性自立兵器。本年早些時候，我和一些來自國際各國的科學家共同在聯合國會議上支撐其對於核兵器的禁令。咱們正在著急的等候洽談成果。如今，九個核大國能夠操控大概一萬四千個核兵器，它們中的任何一個都能夠將城市夷為平地，放射性廢物會大面積汙染農田，最可怕的損害是誘發核冬季，火和煙霧會致使全球的小冰河期。這一成果使全球糧食系統坍塌，末日般動亂，很或許致使大多數人逝世。咱們作為科學家，對核兵器承擔著特別的責任，由於恰是科學家發明晰它們，並發現它們的影響比開始料想的愈加可怕。
現期間，我對災禍的討論或許驚嚇到了在座的各位。很抱愧。可是作為今日的與會者，主要的是，你們要認清自個在影響當時技能的將來研製中的方位。我信任咱們聯合在一起，來呼籲國際公約的支撐或許簽署呈交給各國政府的公開信，科技領袖和科學家正極盡所能防止不可控的人工智能的興起。
去年10月，我在英國劍橋樹立了一個新的組織，企圖處理一些在人工智能研討迅速開展中呈現的尚無定論的疑問。“利弗休姆智能將來基地”是一個跨學科研討所，致力於研討智能的將來，這對咱們文明和物種的將來至關主要。咱們花費很多時刻學習歷史，深化去看——大多數是對於愚笨的歷史。所以大家轉而研討智能的將來是令人歡喜的改動。儘管咱們對潛在風險有所認識，但我心裡仍秉持達觀情緒，我信任發明智能的潛在收益是無窮的。或許憑藉這項新技能革新的東西，咱們將能夠減少工業化對天然界構成的損傷。
咱們日子的每一個方面都會被改動。我在研討所的搭檔休·普林斯供認，“利弗休姆基地”能樹立，有些是由於大學建立了“存在風險基地”。後者愈加廣泛地審視了人類潛在疑問，“利弗休姆基地”的要點研討規模則相對狹窄。
人工智能的最新進展，包括歐洲議會呼籲起草一系列法規，以辦理機器人和人工智能的立異。令人感到些許驚奇的是，這裡邊涉及到了一種方式的電子人格，以保證最有才能和最領先的人工智能的權力和責任。歐洲議會發言人評論說，跟著平時日子中不斷增加的範疇日益遭到機器人的影響，咱們需求保證機器人不管如今仍是將來，都為人類而效勞。向歐洲議會議員提交的陳述，清晰以為國際正處於新的工業機器人革新的前沿。陳述中剖析的是不是給機器人供給作為電子人的權力，這同等於法人（的身份），或許有或許。陳述著重，在任何時候，研討和規劃人員都應保證每一個機器人規劃都包括有停止開關。在庫布裡克的影片《2001太空周遊》中，出故障的超級電腦哈爾沒有讓科學家們進入太空艙，但那是科幻。咱們要面臨的則是現實。奧斯本·克拉克跨國律師事務所的合夥人，洛納·布拉澤爾在陳述中說，咱們不供認鯨魚和大猩猩有人格，所以也沒有必要急於承受一個機器人人格。可是憂慮一向存在。陳述供認在幾十年的時刻內，人工智能或許會逾越人類智力規模，人工智能或許會逾越人類智力規模，進而挑戰人機聯繫。陳述最終呼籲建立歐洲機器人和人工智能組織，以供給技能、道德和監管方面的專業知識。假如歐洲議會議員投票贊建立法，該陳述將提交給歐盟委員會。它將在三個月的時刻內決議要採納哪些立法過程。
咱們還應當扮演一個人物，保證下一代不只僅有時機還要有決計，在前期期間充沛參加科學研討，以便他們持續表現潛力，協助人類發明一個愈加夸姣的的國際。這就是我剛談到學習和教學的主要性時，所要表達的意思。咱們需求跳出“工作應當怎麼”這麼的理論討論，而且採納舉動，以保證他們有時機參加進來。咱們站在一個漂亮新國際的進口。這是一個令人興奮的、一起充溢了不斷定性的國際，而你們是先行者。我祝願你們。
謝謝