《銀河鐵道999》在四十多年前就探討過這個問題。未來的人類花大價錢讓自己的身體機械化來達到永生，卻又對血肉之軀戀戀不捨。兩種身體在思想上毫無二致。所有的醜惡、美好、感情並不因為換了身體有絲毫改變，只是感受不同。因此未來的人類如果機器化了，只要肉體記憶還在，靈魂就在。但新生的從未感受過血肉之軀的人類就沒有了靈魂，只是一段段程序和數據，沒有感情。到那時，機器人就是人類，曾經血肉之軀的人類消失那天，地球人這個物種就不復存在了，人類進入了硅基生物時代，再沒有夢想、詩歌、愛情，只有冰冷的運行。
題主的問題，也是我一直以來的思考。關於靈與肉的思考，恐怕會引來極大的爭議，我只展開簡略的說一下，大佬們可以繼續補充。
心理學家其實也很熱衷於玩這個話題，沃森（john.b.watson）和斯金納（
b.f.skinner
）等人所代表的行為主義學派通常樂於把精神事件分解為刺激和反應來研究，但這個方向，更多的是本能和應激反應層面，和真正的人類意識相差甚遠，目前來看，並不比2000年前的哲學高明到哪裡去。
科學界的反應則非常冷清，畢竟不能證偽的理論，起碼不是一個好理論；但真相是大家遇到了無法跨越的障礙。
按照科學的解釋，意識是組成腦的原子群的一種“組合模式”！我們的意識完全由我們大腦結構決定。只要把組成大腦的所有原子按照特定的方式排列起來，它就可以構成我們的意識。這當然無可爭議的是完全唯物主義的觀點。
如果按照這個解釋，我們將有下面兩個令科學家極度頭疼的可怕的推論：
1、意識可以被複制。只要掌握所有的排列組合模式，人類能重造意識，那個時候——我是誰？將不是一個哲學思考，還涉及到現實的糾紛。
2、“組合模式”本身並非依賴特定的物質基礎才能呈現——意識可在人身體之外轉移——死亡將被重新定義！
通過高階圖靈測試的AI，它能否被定義為具備人類的意識，或者，說的更直白一點，它們中，是否寄宿了人類的靈魂？
黑客帝國的情形，人類與高階人工智能的共處，將是一個在可預見未來，就必須面對和解決的社會問題。
同學們做好準備，去理解你面前的手機、電腦，和你具備一樣的靈魂了嗎？
我倒是覺得這樣挺有趣的，你說呢？
我是貓先生，感謝閱讀。
身體是機器，靈魂像電能。通電之後機器才能運動。只不過人類體內的這個靈魂，擁有著無與倫比的自我意識。與毫無知覺的電能不可同日而語。
討論人工智能的話題，很難有著讓人信服的答案。原因也非常簡單，沒有大家想要的科學實證。但我們不妨拓寬一下視野，用個假設來解決這個問題。
在某一個星球上，統治者是狗。雖然他們極具智慧，但仍然是爬行。他們有一個古老的傳說，在非常遙遠的地方，那裡的統治者都是直立行走。雖然狗狗們想盡了辦法，但仍然無法實現雙足行走的願望。
有一天一隻科學家狗，突破了技術瓶頸，可以將狗的意識移植到機器上。於是他們造了很多兩隻腳的機器。逐漸的這個星球上有了很多類似於人的機器狗。他們慢慢統治了狗星球。這個時候，有一隻狗問：那些直立行走的狗還是狗嗎？
答案是：非狗，是人。
打這個比喻是想說，我們經常有神仙的傳說。當人的靈魂或者說意識能夠脫離肉體而存在。那不就是傳說中的天人和神仙嗎？孫悟空的七十二變，無非就是將他的意識，移植到其他身體當中。
因此，到某一天AI智能機器人統治了地球，他們就不是我們現在的人了。而是另一個物種。作為人類的我們，就像冰河期消失的其他無數物種一樣，湮滅在歷史的長卷之中。
AI機器人，既然是機器人，肯定不是自然的生物機體組成，人類是胎生，由母體孕育而生，人類的智慧是來源於自身生理，結構組成，人類的大腦可不是機器人那種電腦芯片是組成的智能處理系統，雖然都有分析和最佳的處制意見，一個是靠思維，一個是編程，機器人程序是靠人類編程輸入到其芯片處理系統後完成計算的，而人類是靠自身腦部反應智力來做出選擇的，結果可能是機器人勝了人類，不代表它是最有智慧的，它們的編程程序是有千萬種不同的智能思路進行優良抉擇後，編程會把最佳的方案給出來，他們的計算能力最一秒中可以達到幾萬倍的人類腦部審核能力，等同於一個人和幾百人進行智力比拼，這些編程程序都是從一些有經驗的方案進行篩選，往往最佳的方案會被放在第一位進行智能組合後出表，而人類的計算分析能力是靠經驗，學習，來做出選擇的，正如所說一個有靈魂，一個沒有靈魂，AI機器人在優秀聰明，只是人類的一個製造工具，沒有思維的個體只是機器，人類的靈魂是有意識的思維，他們只是機械性的編程選擇，有一些報道，說沒有編程員的幫助進行自己的分析，機械的運轉是有一定的規律，機器人的製作是一個複雜的機械工程，它不是由單一的機械原理來完成，是又不同分部結構來進行合成組裝的，這個結構組裝的操作部分完成是新制造和能源技術正在突圍，基礎理論、核心技術和量子通信，綜合性的人工智能多種技術合成的，再開發更新的編程程序給輸入的話，一般的人類智慧很難拼得過他們，這些程序是代表著人類最高級的編程程序。再厲害它也是人類的一個製造工具，人類靈魂它是無法代替，只是高級效仿，思維意識是人類專有的智慧能力，不是任何機器可以代替的。
機器人代替人身，它的外身能頂多少年，它不吃糧食它吃電安個太陽能發電，它會生長身體嗎？會生孩子嗎？吃電不會長身體，不會生孩子，它的時代有多長？
看著機器人怪能，還是人能，都是給了它一物，它能代替地球演化，是不可能的。
你看看宇宙上有多少物質，將來如何演化。
動物不管吃草吃糧食吃土等都能長肉，還是關心一下人如七天不吃飯，從後如何生活吧！你的慾望想著器機人代替你，你以後也可能會成機器人。
天地人發展演化需要慢長的歲月，還是準備好明天的正能量吧！。
不知為啥有這麼多人，堅信機器人能怎麼怎麼樣，好像能有智慧、意識，然後奴役人類。可能就是因為有個什麼“狗”，下圍棋贏了人類，然後被一群商人忽悠，而產生了這種認識。
人類目前做出的AI是在數理邏輯下、模擬人腦神經網絡構形，以及外在的一個表現特性，而搭建的數據搜索或數據挖掘，計算機程序。
這種機制下的AI，首先它不能處理不可線性化的非線性事物，像人的情感、智慧和意識都是不可線性化的、本質非線性的事物，這種數理邏輯機制下的AI永遠都模擬不了。換一句話說，只要你能把你的“任務”線性化了，目前的AI就能給你處理，而且確實比人快，而效率高。這也是因為人類還沒進化到更高級，人類對自己的意識流掌控還沒更精細而已。未來生物工程會加速人類的超級化，人類把AI目前佔優的數據搜索領域，很快就奪回來了；不僅如此，當人類可精準掌握自己的意識流時，將會使自身獲得“自我進化”，而使自身超級化，壽命長，體能慢慢地超級化。
雖然，不能保證未來的，量子神經網、量子邏輯下的機器人能逼近人腦，長出意識，甚至“靈魂”，但可保證，當前馬雲、比爾蓋茨他們做的機器人，永遠長不出意識，只能是個數據挖掘程序。你的擔心是多餘的。你自己可以見證未來人工智能六、七十年的發展。
謝邀！
他們的自我意識還是人類曾經的靈魂嗎？題主此問一語中的。
表面看，人工智能是以人類設定的程序完成相應工作的機器。事實上這是最表層次的人工智能，也是大眾想當然的智能。真正的智能並非如此：智能而非人工智能。
真正的智能，正如題主所想：“人類最終會主動尋求以人造機體代替自身的生物結構 那可能就是人類的又一次進化。”而這也正是我一直強調的“偽進化”，以進化方式實現所謂的永生，這是人類最終的追求，而以智能實現“偽進化”則是困局中迷途上唯一的最終的選擇……
真正的智能是以實現人的“永生”為終極，不再是按人類設定程序為人類工作的智能機器，所以它不再是人工智能，既不為人類工作服務，要麼與人類平起平坐，要麼凌駕人類之上……然而，能以智能實現自身“永生”的必然是人類的特權特殊階層，最終必然凌駕於人類之上，統御於人類……
以特權特殊階層構建的“智能”，以他們的智慧，能力領導人類本無不可，但當他們由人類變為“智能”，由生死變為“永生”的那一刻，他們註定已脫離人類……他們的思維方式，情感方式，行為方式，將不在正常人類的範圍；所有人類的道德，法律，親情將完全失去意義。
為什麼這樣的進化這樣的永生我稱之為“偽進化，偽永生”呢？正因其中涉及到題主所說的“靈魂”。即使人類能夠實現以智能為“進化”但他們的靈魂將不存在，他們作為人性的一切註定不存在。
以智能實現”偽進化”，我之所以說：這是人類最終的追求，是困局中迷途上唯一的最終的選擇……首先，我們不能否定人類對永生追求的必然性；其次，人類也應確定追求永生的正確性；確定其正確性，在於認識其正確的道路，只有認識正確的道路，人類才不會以智能作為實現進化的唯一的最終的選擇。
當進化不以智能實現……人類將再一次開啟高級的全新的文明——遨遊星空，觀音聽色，自在自然。
頭條號@長弓善道《真相系列》
致
生命可以以多種類形存在，不用氮碳氧等，繁殖不用精子卵子，只要複製出同類也是繁殖！機器人只要能記憶，能邏輯思考，能自我學習，包括人類的全部能力。機器人通有像人腦一樣，甚至比人腦更強的芯片一樣的東西，它用製造的方法繁殖自已的後代。人類一定會滅亡！或將記憶轉移到機器，而肉體消滅，你將成為另一個你。
當你能靈魂出竅的時候就明白是怎麼回事了。但是很難，一般人的靈魂是被身體束縛著的，不能輕易的出來。人很靜的時候，靈魂就能突破身體的束縛到體外來。沒有身體的束縛，也不受人的觀念左右，就能認清一些人認識不到的真實情況。知道生命是怎麼回事了，那個時候你會發現人的常識和所學的知識幾乎都是錯誤的。最初自己也不會認可的，但隨著理智的思考，慢慢會接受事實的。
這是不可能的事，人類智慧永遠都是智能機器的製造、生產與控制者者。因為任何機械智能設備都是沒有思想與靈魂的，沒有人類為它提動力能源它是寸步難行的，失去人類智慧它就是一堆廢銅爛鐵。
