來自：充電時間
著名的科幻小說家阿西莫夫
曾經提出了著名的
機器人三定律
被稱為是現代機器人學的基石
也在很多科幻電影中被引用
第一定律：機器人不得傷害人類個體，或者目睹人類個體遭受危險而袖手不管。
第二定律：機器人必須服從人給予它的命令，當該命令與第一定律衝突時例外。
第三定律：機器人在不違反第一、第二定律的情況下，要儘可能保護自己的生存。
後來在三定律的基礎上
又出現了補充的
機器人零定律
機器人必須保護人類的整體利益不受傷害
其它三條定律
都是在這一前提下才能成立
三定律加上零定律
看起來簡直就是完美
但是問題來了
“人類的整體利益”這種混沌的概念
連人類自己都搞不明白
更不要說那些
只會用數字和代碼
來想問題的機器人了
《我，機器人》裡面
威爾•史密斯曾說
其實困擾我們的核心是
機器人沒有問題
科技本身也不是問題
人類邏輯的極限才是真正的問題
在創造超人工智能時
我們其實是在創造一件
可能會改變所有事情的事物
因為人類的侷限性
和未來的不確定性
所以很可能
這是個毀滅性的黑天鵝事件
從達爾文的進化論來看
創造比自身聰明的東西
也很可能是個致命錯誤
就好像羊群決定哺育一隻小狼
並且覺得小狼長大後
一定會保護羊群
科學家對於超人工智能的態度
不算極度悲觀
但是絕對不樂觀
生活在100年前的人類
從來沒有想到100年後會有iPhone
會有Facebook和朋友圈
但100年後的今天
確實完全顛覆了他們的想象
如果我們假設地球
是一年前才被創造的
那麼我們人類
不過才出現了10分鐘而已
工業革命也不過是兩秒鐘之前的事
所以誰能知道
下一秒會發生什麼呢？
上個世紀90年代的
信息技術專家埃裡澤曾經說
我們唯一的任務
是製造出比我們更聰明的東西
除此以外都不是由我們考慮的問題
然而有一天
就像一個全能的上帝降臨地球一般
超人工智能真的出現了
那時候我們要思考的就是
這個上帝會是一個仁慈的上帝嗎？
相關推薦
'把地球挖穿一個洞，然後從洞口跳進去，會掉到地球的對面嗎？'
"雖然科學家們一直在苦口婆心地教導我們，以現在人類的科技，地球是不可能挖穿的，而且也是不能夠去挖穿的（因為後果很嚴重），但是這仍然阻止不了我們的想象力，今天我們就來大膽地設想一下，如果把地球挖穿一個洞，然後從洞口跳進去，會掉到地球的對面嗎？要想順利地從洞口跳進去，這個洞就不...
推薦中...