如果AI發展出人類無法理解的語言，機器人失控對人類影響大嗎？

如果失控，對人類影響肯定是非常大的......但前提是這玩意兒會失控，它真會失控嗎？反正目前我是不相信。單說前天這個BOB和alice的新聞，就覺得真假難辨，況且從理論上來講，機器人的所有行為都是靠代碼實現的。

據國外媒體報道，特斯拉首席執行官埃隆馬斯克（Elon Musk）曾表示，人工智能（AI）是最大的風險。Facebook不得不拔掉其研究人員正在研究的人工智能系統的插頭，因為事情失控了。

當這些機器人因互相談判而獲得獎勵時，他們卻沒有因為用英語談判而得到獎勵，這導致了機器人開發了自己的語言。

　　這一研究一經發布，迅速在網絡和媒體上引起了廣泛的關注和傳播，不少人在驚呼：機器創造了自己的語言，人類都無法理解，細思極恐。

報告指出：“人工智能並沒有在全球範圍內關閉電腦或類似的東西，但它停止使用英語，並開始使用它所創建的語言。”

最初，人工智能的代理們使用英語互相交談，但後來他們創造了一種只有人工智能系統才能理解的新語言，從而違背了他們的目的。這使得Facebook的研究人員關閉了人工智能系統，迫使他們只能用英語交談。

語言被認為是人類獨有的技能。Facebook的聊天機器人的表現刷新了人們的認知。

包括斯蒂芬·霍金教授在內的幾位專家已經對人類產生了擔憂，即人類將會被人工智能所取代。特斯拉的埃隆馬斯克、慈善家比爾蓋茨（Bill Gates）和前蘋果創始人史蒂夫·沃茲尼亞克（Steve Wozniak）等人也表達了他們對人工智能技術發展方向的擔憂。

霍金解釋說，AI的真正風險不在於其是否充滿惡意而在於其能力。他舉了個例子：你在負責一項水利工程時，需要淹沒蟻穴，儘管你並不是一個仇恨螞蟻的人，但在完成目標時無意間就為螞蟻帶來了滅頂之災。

所以，當一個能力MAX的超級人工智能在執行任務時，如果它的目標與人類不一致，那麼人類就有可能面臨與螞蟻同樣的厄運。

儘管目前人工智能的發展仍處於起步階段，但霍金對於AI威脅的評價，或許值得我們深思：

“人工智能的短期影響取決於誰控制了它，而長期影響則取決於它到底能不能被控制。”

霍金之所以會有這種擔憂，是因為在他看來，AI的潛力是無限的，“生物大腦與電腦的能力並沒有太區別。”

“因此，從理論上講，計算機可以模仿人類智慧，並超越它。”

這已經不是霍金第一次對AI潛在威脅提出警告了。去年年初，霍金就與一些AI專家，還有馬斯克、沃茨等名人發表聯合聲明，呼籲禁止武器化AI和自主作戰系統。

武器化AI和自主作戰系統，細思極其恐怖，當年原子彈也是在一群科學家極力反對下最後形成足以摧毀世界的威脅，至於AI的其他影響有勞科學家費心了

這可能性很大，但人類生死存亡權力的關鍵～人類手上的武裝，永遠不可由於人類自身的貪婪、懶隨、及愚蠢而託付於高端智能，否則它們武器一上手，若嫌棄我們貪懶，最怕的是它自身智慧高度發達先進了，並可以自己複製自己的時候，跟我們搶物資爭能源，是絕對會發生矛盾與衝突的;人造的高端智能只能協助人類為人類服務。它們跟我們並非同類，根本利益面前其心難保不背棄而反叛人類，永遠永遠不可以最終讓它有半點成人類主人的任何機會，否則，人們創造它們幹嘛?請地球精英們再三慎重思慮才好。當然，即更那些智慧異常高端於人類的智能類人體，真有一天暗中進化出了人類不懂的交流形勢，又要不容我們人類，尤其它們也懂得隱忍，並掌握絕對成功的機會而突發暴動時，憑其遠高於人的智慧，我根本不是對手的時候，發展到這步境界了，人類只有學習眾狼逼到懸崖邊上的羊群～痛苦的跳下去得了～因為橫順都要被滅絕，今日，誰敢說～人們不論任何理由而發展出了智慧與力量遠勝我們的異形體～絕對不會遭此人為災禍???

呵呵～

決定人類命運的“奇點”已經開始倒計時了

AI的智商從1到10如果需要30年，那麼從10到100需要幾年？從100到1000需要幾個月呢？從1000到10000需要幾天呢？

呈指數曲線加速發展的AI智商遠遠超過人類的一刻看來真的越來越近了。

面對成百上千倍遠超自己的超級智慧，人類與細菌何異？

也許，我們每個人都將在自己的有生之年面臨人類誕生以來最大的一次，嗯，不知道該怎麼形容，不過你懂的。