全文共3575字，預計學習時長7分鐘

隨著技術的不斷髮展，大多數人開始思考人工智能未來是否會在地球上占主導地位，計算機或機器人又是否會取代人類、控制地球。儘管這個疑問目前只是科幻小說的一個重要主題，但史蒂芬·霍金和埃隆·馬斯克等公眾人物對這一可能性深表擔憂。

然而，這種設想仍然只是一種神奇的幻想。目前看來，每一種類似的論調也只不過是缺乏論據的預測。但是，如果你想知道更多有關人工智能是否會叛變的問題，唯一的辦法就是探索其發展現狀。

同理心、正義、倫理以及明確的決策——本文將從這幾方面分析人工智能的弱點，並討論未來其是否能加以克服。

算法思維目前已經能做到的事

在推斷可能與不可能之前，縱觀全局更加符合邏輯。

首先，人工智能擁有人類過去和現在都無法以其他方式實現的功能：

· 醫學中的微觀粒子運輸解決方案。

· 用算法為新化合物建模，並計算其在製藥和材料科學各種條件下的穩定性。

· 農業中微氣候自我調節系統和檢查動植物狀態的系統。

· 金融業中，使用算法來防止欺詐等行為的發生。

在上述領域，人工智能幫助人類開展活動，並解決任務執行中與規模（微觀或宏觀）、複雜性和速度等相關問題。

另一個顯著特徵是人工智能重新定義了由人類執行的傳統功能。

· 製藥公司使用算法處理大量關於化合物、成分和反應的數據，以改進現有藥物。

· 在醫療保健領域，可視數據分析促進了疾病的診斷。

· 在農業方面，溫室和收割的操作控制可實現個性化定製。

· 在金融領域，算法可以做出貸款決策，並實現財務管理。

總而言之，這一組人工智能的功能與大數據的積累和處理有關，能夠為其後決策提供依據。

此外，人工智能已經在某些方面取代人類：

· 日常工作和工作流自動化已應用於工業生產中。

· 建築、工業清潔及安全領域的部分體力勞動逐漸被自動化機器替代。

· 算法可用於保護隱私和匿名領域的個人數據。

· 物流運輸更具自主性。

· 算法可用於追蹤網絡安全威脅。

在這一組中，人工智能的確承擔了某些日常工作，但沒有完全取代人類勞動。

可以看到，人工智能還沒有發展成為獨立的實體，而是正在循序漸進地促進新知識領域的發展。

算法思維目前無法做到卻仍在嘗試的事

1. 情緒、同理心、自發性

第二次世界大戰快結束時，一個孤兒收到一雙新鞋。他高興地仰著頭，臉上洋溢著燦爛的笑容。儘管戰爭結束已久，但時至今日，我們仍能感受到男孩臉上的感激之情。

為了學習和感知“真實”生活中的一切，人工智能必須擁有一定的認知能力。著名哲學家亨利·伯格森（Henry Bergson）的著作就近乎完美地解釋了認知個體得這些能力的限制因素。通過比較智力、本能和直覺，他終於得出了一個可信的結論。例如，他對於智力本質的描述如下：

“智力領域”被視為一種凝結固體。力學、幾何學和邏輯學的定律均對其適用。智力的世界正在被打亂，或者說是被“電影化”，即類似電影中的一系列畫面。

很少有人反對這一觀點。因為與本能和直覺相比，智力擁有更大的優勢。憑藉智慧，人類能夠製造工具，尤其是用於製造其他工具的工具，從而生產出各種各樣的產品。儘管這已經非常了不起，但僅憑獨特性和非凡性，認知個體仍無法體驗現實生活。最重要的是，人工智能沒有情感，無法產生共鳴，也不能體驗和理解人類的情緒。

當然，人工智能的存在不容小覷，各種人工智能軟件也正以不同方式來識別人類的情感。只要搜索虛擬心理助手或是聊天機器人，它們就能通過機器學習能力進行診斷，並提供定製的治療方案。這種現象很常見。然而，在有效性上，這類軟件仍有很多地方有待改進。

的確，很多公司開發了情感識別工具。只需上傳照片，它們就能識別出八種主要的情感狀態：憤怒、蔑視、恐懼、厭惡、快樂、中立、悲傷或驚訝。但實際上，這些結果並不完全準確。此外，這些工具也難以進行更深入的分析。問題就在於人工智能缺乏情商，因此它無法將人類的情感或情緒劃分為單獨的數據點或信息。

因此，聊天機器人和虛擬助理的工作基本上全靠冷冰冰的數字來完成。正如伯格森所說，它們只是分析某些圖像和識別某些重複的幾何模型而已。事實上，要想完全依賴人工智能和機器學習，人類還有很長的路要走。

機器學習是以形式化和數學分析為基礎的。在某些情境下，無法證明某個算法能否解決某個具體問題，這也和數學問題密切相關（尤其是基於連續統假設的問題）。同樣，我們也無法確定研究大數據的算法在不同的樣本上是否同樣有效。此外，並不是所有數據都是形式化的。

算法已經知道如何再現其所學內容，標記“是”或“不是”，而不是探究其意義。這就導致其毫無幽默感，不能理解情感，或許也永遠不會擁有同理心和自發性。

2. 保持創造力（永遠做自己）

即便是處於人工智能創新前沿的IBM，也將創造力視為技術上的“終極登月計劃”。在這個話題上，該公司認為，“雖然人工智能的進步意味著電腦可以在一系列有關創新的參數得到提升，但專家們仍然質疑人工智能的創造力。人工智能是否能夠在沒有指導的情況下學會自主創新？”

和人工智能的其他功能一樣，答案只是“有可能”。事實上，人工智能已經完成了許多創造，比如創作歌曲和繪畫作品。但這些壯舉是在程序員的指導下才得以實現的。因此，至少就目前而言，真正自發的創造力仍是人類獨有的。

3. 做到道德正確和政治正確

技術無法解決社會問題；相反，它們只會以一種新的方式呈現並創造新的緊張局勢和衝突（例如不平等的種類）。對於人工智能來說尤其如此。不管人工智能達到了多高的水平，它仍會向所有用戶學習，並在沒有特定評估的情況下適應目標。

可以自主學習的軟件正在改變整個世界，但這需要監督。以微軟的人工智能聊天機器人“Tay”為例，這個機器人通過其在網上與真人的對話，變得越來越聰明，越來越像人類。然而，由於很多人通過在網上惡搞他人獲得樂趣，加之互聯網充斥腐敗現象，可愛無邪的Tay因此變了樣。

在不到24小時內，問題已經慢慢顯現。很明顯，她越來越口無遮攔。

這一點在其他平臺也已出現：

· 谷歌的照片識別器將黑人標記為“大猩猩”；

· YouTube的語音到文本轉換功能無法識別女性聲音；

· 惠普的人臉識別相機無法識別亞洲人；

· 亞馬遜將LGBT文學列入“18+”一類，並禁止其銷售。

造成這一變化的原因中，最常見的就是舊的模式化觀念，圖像識別錯誤（及分類錯誤）以及在數據庫和網絡中某些群體的權利受限。

也就是說，不管是未完成的算法，還是訓練這些算法的帶有偏見性的數據，都是這一現象的始作俑者。由於所收集數據的流動性越來越不受控制，這些錯誤對系統產生的影響也越來越大。要想處理這些錯誤，不僅需要更提升計算能力，還需要為數據庫和算法設定新原則。

4. 做明確且一致的決定

智力通常被定義為“解決問題”的能力。乍一看，這一定義非常寬泛，幾乎涵蓋了所有內容。但這不包含定義任務、設置任務、調動情緒和其他資源來解決問題的能力。

因此，目前算法並不能應用於所有領域的生產流程——當然更不可能在管理或重要決策方面扮演重要角色。從這個意義上說，開發人員所受人工智能的困擾並不亞於普通人。

紐約大學AI Now研究所2017發展報告的專家作者們也承認這一點。目前主要關注點在於黑盒子，因為它在內部創建了封閉式算法。黑盒子的問題被稱為人工智能的可理解性問題。

Facebook聊天機器人遇到故障時，無需人類的批准，就開始繞過這個障礙，提出新的要求。開發人員曾發現一個由機器人創建的對話框。在對話框中，它們共同協作，但目的並不明確。此外，還有一些人類干預的跡象。出現上述情況，就算所有機器人都已關閉，人類仍存有一絲顧慮。

如果沒有受到嚴格的限制，算法就能夠尋得機會。它們就像黑客，正在尋找問題的最佳解決方案。

在遊戲、社交網絡和創造力中，要想不知不覺或毫不費力地糾正錯誤，那麼在與人類福祉密切相關的領域中冒險使用人工智能時就需要集中注意力，並保證算法的透明度。可解釋性的問題歸結為人工智能決策方法的問題。

人工智能可以處理大多數常規情況。但其應該如何從別人的錯誤中吸取教訓，在層出不窮的極端條件下尋找理想的解決方案呢？事實上，那些要求決策透明，並對其行為作出後續解釋的領域中，算法受到的限制是最大的，因此難以進入控制系統。

對於這些內部開發問題，一個新的問題誕生了：我們無法提前預測哪些問題可以由人工智能處理，哪些不能。

後記

人工智能就像人造植物，都帶給人類許多好處。但其仍非真實的事物。詹姆斯·泰格

人工智能這個話題已經存在了很長時間——已經有一百年，甚至更久。但迄今為止，一切都表明人類距離智慧本身還很遙遠。

讀懂情感、表現出同理心、更加主動、更具創造力、做到道德正確和政治正確、做出明確且一致的決定——這些都是人工智能存在的弱點。然而，這並不代表未來不會實現。事實上，上述條目中，超過一半的人工智能已經可以做到。雖然表現並不出色，但至少已經邁出了第一步。

毫無疑問，這是一段漫長的旅程。人類還要多久才能度過眼前的難關？我們能否實現最終的目標？這些仍然是未知數。

留言 點贊 關注

我們一起分享AI學習與發展的乾貨

歡迎關注全平臺AI垂類自媒體 “讀芯術”