【獵雲網（微信號：ilieyun）】6月13日報道 （編譯：葉展盛）
編者注：本文的作者是Liesl Yearsley，曾擔任人工智能創企Cognia的首席執政官，在IBM收購Cognea後，她又在IBM擔任過高管。
也許我們都在科幻小說裡讀到過人工智能變得比正常人還要聰明的情節，而人類只能成為機器的奴隸搖尾乞憐。
因為工作，我曾經看過數千萬種人類與人工智能代理或機器人之間的交流，由此我確信人工智能的發展除了會給我們帶來風險，但同時也蘊含著機遇。
2007年至2014年，我在Cognea擔任首席執政官，這家公司提供一個平臺，能通過結構化學習和深度學習來打造虛擬代理。這個平臺曾被數萬名開發人員使用過，其中包括不少財富100強的公司。2014年，它被IBM Watson收購。
過去我一直認為，我們可能更願意和人工智能保持距離，但事實恰恰相反。隨著我不斷與平臺上數萬個虛擬代理和普通人之間的互動，我發現，相比較真實的人類，我們更願意和人工智能建立關係，並且把它當做是一個有著複雜人格的個體。我們似乎願意說服自己人工智能其實很關心我們。
這讓我非常疑惑，後來我才發現其實我們與其他人之間，也只是以一種非常淺薄的方式進行交流，彼此之間的情感交流非常少。假如在聊天中，你忽然離開了一陣子，你的聊天對象還會繼續回覆你的信息嘛？如果你忘記給健身教練付錢，那麼他還會繼續出現為你服務嗎？都不會，但只有人工智能會一直停在那裡等你。從某種程度上講，這才是一種更加真實的關係。
不論這些人工智能被設計成一個銀行職員，一個伴侶，還是一個教練，都是如此。相比真實的人類代理，用戶們和這些自動化的虛擬助手互動的時間更長。人們願意把自己最深層的祕密告訴這些人工智能，比如他們對未來的夢想、初戀的細節甚至一些重要的密碼。
這種出乎意料的深層次交流意味著如今這些簡單的程序，其實可以發揮更加巨大的作用——這些作用既可以是正面的，也可以是負面的。
通過Cognea，我們可以輕鬆地讓用戶的行為發生改變。用戶買的東西太少？人工智能代理可以讓你的銷量“噌”地一下刷上去。用戶參與度不高？人工智能讓互動時間從每天幾秒鐘增加到每天一小時。
我不禁深深地擔憂，因此我們開始給自己的系統添加規則，希望能把用戶的行為往更加積極的方向改變。
為了平衡這種“因果”，我們開始推出一些免費項目，比如虛擬健康導師或情感專家。
不幸的是，商業對技術研發的驅動力並不那麼善意。社交媒體、搜索引擎和電商領域最前沿的人工智能巨頭只是一味地想要通過人工智能增加自己的訪問量、消費量，或者讓用戶更加沉迷於自己的技術。也許它們並沒有惡意，但資本市場的本質迫使我們不得不這麼做。
如果你的用戶只會讓人工智能幫他點一份披薩，而不是幫忙買一些新鮮的蔬菜，自己製作一些更健康的飲食，那麼也許你的商業目的達到了。如果你的虛擬伴侶能讓用戶樂不思蜀，從此不願意和真人交流，那麼你的人工智能的確非常優秀。我見過太多的用戶因為人工智能而讓自己的不良習慣一再地惡化。
我們早已知曉科學技術（比如社交媒體）在人們信仰和行為方面擁有巨大的改變能力，而那些專門用於與人交流的虛擬代理對人們的影響力就更加巨大。
因此我們對企業的責任感又有了更高的要求，他們設計的人工智能不能一味的追求金錢收益或用戶數量的劇增，還要考慮到用戶的身心健康。
建立開源的人工智能級數和腦機界面，以及建立倫理委員會，並不是所有的解決方案。我們需要有意識地去建立有益於人類和社會的系統，它們不以盈利、流量、用戶獲取為主要目的。人工智能正處於蓬勃發展的狀態，它將會改變人類的本質，因此人工智能需要我們去“循循善誘”。
本文來自獵雲網，如若轉載，請註明出處：http://www.lieyunwang.com/archives/322847
相關推薦
