""直面責任、接受監管,科技行業勢在必行

【獵雲網】9月15日報道(編譯:清酒)

要讓科技行業和現實世界的其他領域朝著同一個方向發展,並非易事。從微軟現任總裁布拉德·史密斯(Brad Smith)的新書中我們也可以清楚的看到這一點。但他表示,現在啟動這一進程勢在必行。

他表示:“科技行業需要加快步伐,採取更多行動,應對科技帶來的挑戰。在這樣做的同時,行業內部需要認識到,企業與政府在一定程度上需要更緊密地合作。它甚至需要在一定程度上接受我所稱的一種明智的監管方式,以便讓科技等受到法律的監管。”

在《工具和武器:承諾和數字時代的危險(Tools & Weapons: The Promise and the Peril of the Digital Age)》一書中,布拉德·史密斯和他的合著者Carol Ann Brown講述了過去十年中科技行業和世界上一些鉅變的內幕,包括微軟對斯諾登的反應,俄羅斯黑客在2016年的鬥爭,以及在關於隱私和麵部識別技術的爭議。

這本書講述了許多鮮為人知的幕後故事;探索即將到來的人工智能浪潮的含義;呼籲科技巨頭和政府加快步伐,為即將到來的強大新技術帶來的倫理、法律和社會挑戰做好準備。

外媒以新書為切入點與史密斯進行了許多相關話題的討論,下文中獵雲網整理了雙方的對話(有刪減):

主持人:讓人們感到驚訝的一件事就是你不僅關注科技產業,而且還關注全世界、全人類,關注人類面臨的一些最大的問題。畢竟人們可能不會期望微軟總裁會對這些對技術之外的重要問題有所瞭解。你為什麼會寫這本書,為什麼在現在推出呢?

布拉德·史密斯:你說到點子上了。我們之所以有這樣的地位,是因為科技正在席捲世界,它正在改變世界。我的合著者Carol Ann Browne和我一起研究我所有的對外關係。這意味著我們要環遊世界,當我們與世界各地的領導人見面的時候,我們真正看到的是技術在許多方面產生的不可思議的影響——這些影響有很多好的方面,同時也給我們帶來了許多挑戰。

促使我們寫這本書的部分動機是一種真正的緊迫感,我們試圖讓這些發展和問題——從隱私和安全到人工智能對工作的影響——更容易被人們理解,並能夠應對各種變化。

主持人:你如何解釋這本書的中心論點?

布拉德·史密斯:我們的主要論點是,科技行業需要加快步伐,採取更多行動,應對科技帶來的挑戰。在這樣做的同時,它需要認識到,在一定程度上,企業與政府需要更緊密地合作。它甚至需要在一定程度上接受我所稱的一種明智的監管方式,以便讓科技等受到法律的監管。

主持人:書中提到,許多國家的政府正朝著一個方向前進,朝著民族主義的方向前進。在很多情況下,科技產業和經濟正朝著完全相反的方向發展,那就是全球主義。最終結果會怎樣呢?這兩件事看起來不太協調。

布拉德·史密斯:從很多方面來看,世界上的民主國家面臨的挑戰都比上世紀30年代等任何時候都要大。各國正在向內收縮。民族主義正在抬頭。所有這一切都發生在宏觀經濟形勢良好的時期,因此我們都應該關注,如果全球出現衰退,政治上會發生什麼。我們的部分觀點是,當你思考我們所有人花時間討論的問題時——無論是貿易、移民、收入不平等,還是全球化——在某種程度上,所有這些都是部分由於技術而發生的現象。就像你說的,是技術推動了全球化,當人們看到問題時,就會對它做出反應。但我們對技術所扮演的角色談論得或思考得並不一定足夠多,因此我們還需要付出更多努力。

主持人:你提出的另一個觀點是,不僅科技公司需要做更多的工作來與政府合作,政府也需要以不同的方式思考。書中讓我印象深刻的一個概念是“最低可行監管”。科技界人士對MVP(最小化可行產品)都非常熟悉,這一概念如何服務由政府、法律和監管組成的世界?

布拉德·史密斯:看看政府部門的人對這個概念的反應將會很有意思。正如你所指出的,在軟件世界中,人們常常不關注構建最完整、最複雜、功能最齊全的產品,而是首先構建最小可行的產品。他們得到反饋,然後利用反饋使產品更好。實際上,我們認為這對技術監管領域有所幫助。

例如,我們在書中討論瞭如何使用它來解決面部識別軟件中的偏見和歧視問題。今天,我們很難說我們中的任何一個人確切地知道一個寬泛的面部識別法律在五年內需要變成什麼樣子。但我們的觀點是,如果有一條簡單的法律,要求那些想要提供面部識別服務的公司使其服務可用於測試,那麼你實際上就會創建消費者報告,來評估不同服務中的偏見。你將刺激市場以更明智的方式行事,獎勵那些行動更快、偏見更少的公司。至少在我們看來,這是一個很好的例子,說明政府可以更快、更專注地行動,然後從中吸取教訓,隨著逐步完善法律法規。

主持人:按照你都說法,政府是否存在行動過快的風險?因為科技公司面臨的部分問題是他們行動過於迅速,破壞了一些東西,我們不希望我們的政府這樣做。

布拉德·史密斯:這種風險是真實存在的,我們承認這一點。我們的結論是,現在的問題不是政府太快了,而是他們太慢了。因此,我們科技行業和更廣泛的社區應該做的是,幫助找出如何幫助政府做得更多、行動更快,經過深思熟慮取得正確的平衡,而不是僅僅是閉門造車。

面部識別監管

主持人:微軟提出了人臉識別的基本原則和立法基礎。你在書中寫道,面部識別是“科技行業和政府目前面臨的第一個機會,以一種集中而具體的方式解決人工智能的倫理問題。”這說明了什麼?

布拉德·史密斯:面部識別的法律、法規還處於早期階段。作為一家公司,我們是第一個吃螃蟹都人,可以這麼說,這個領域開始有比較多的動作是從去年開始的,大約是2018年7月。有趣的是面部識別問題的快速發展。當我們第一次說這是一個需要政府集中更多精力解決的問題時,科技行業有很多人對我們說“你們為什麼要談論這個?這不是問題。”但現在,我們已經看到舊金山市禁止在城市範圍內公開使用面部識別技術。

顯然,有一些東西在困擾著人們。我們曾希望華盛頓州能在2019年通過一些立法。我們在參議院這樣做了,而不是在眾議院。有一件事我認為我們可以非常有把握地說:這個問題不會消失。包括美國公民自由聯盟在內的許多組織都正在努力推進。我們可能會在今後的生活中,以一種非常有力的方式,討論面部識別規則。

主持人:人工智能是工具和武器的終極例子。當你在街上和別人聊天,試圖解釋你對人工智能的看法時,你會怎麼說?

布拉德·史密斯:這是一個非常強大、有用和重要的工具。我完全相信人工智能將幫助世界治癒癌症。事實上,在後面的章節中,我們講述了Fred Hutch的故事,這是西雅圖的癌症研究所,正在使用機器學習作為一種新的顯微鏡。與此同時,它可以被用於包括喬治·奧威爾(George Orwell)在其小說《1984》中設想的那種大規模監控國家的創建。

這就是為什麼在本書中我們真的會先花時間來幫助人們更多地瞭解人工智能,比如為何人工智能會發展起來,發展中產生的一系列問題,如面部識別,是第一個具體的爭議。然後我們更廣泛地談論人工智能對經濟的影響,並將其置於歷史背景下。我們認為這是一個很大的轉變就像從馬到內燃機和汽車的轉變一樣。我們在本書中嘗試做的很多事情之一就是幫助人們從歷史中學習,這樣他們就可以吸取其中的一些教訓,並在思考這一切將走向何方時自己加以利用。

主持人:你做出一個明確的呼籲,要求對科技行業加強監管,為什麼這很重要?

布拉德·史密斯:首先,我們要指出的是,事實上,在科技史上,幾乎沒有任何一項技術像數字技術一樣,在如此漫長的時間裡受到如此少的監管。有很多理由看著它說:“那不是很棒嗎?看看所有的創新。”我們會全心全意地支持這一點,但有一個很大的問他。這項技術正在影響我們生活的每一個部分,我們的經濟,我們的社會,我們的安全。我認為作為美國人,我們都習慣了這個概念,沒有人能凌駕於法律之上。任何政府都不能凌駕於法律之上。任何公司都不能凌駕於法律之上。我想說,沒有任何技術能夠始終凌駕於法律之上。

我們不會解決人們對科技或科技公司的擔憂。坦率地說,如果整個負擔都落在科技行業身上,我們就不可能成功地解決這些問題。我們需要政府做得更多,這意味著要制定規則、法律、規章,如果你願意的話,要以一種明智的,深思熟慮的,平衡的方式來解決困擾人們的真正問題,無論是隱私、安全,還是對工作的影響。

主持人:如果有人說,“微軟當然覺得簡單,因為它並不依賴定向廣告的收入。人工智能是Azure的一部分,但現在同樣無法憑藉Azure來獲取所有收入。這對微軟來說是個方便的立場。很顯然,這只是對Facebook、谷歌等公司產生影響。”

布拉德·史密斯:首先,我想說的是,在各個方面,我們也會受到影響。你可以說我們只有一部分業務受到廣告規則的影響,只有一部分業務受到面部識別規則的影響。但是當你把我們業務的所有部分加起來的時候,幾乎所有的部分都會受到重要的影響。

作為一家公司,我們經歷了從缺乏監管到制定規則的轉變。這是20世紀90年代開始的反壟斷問題的一部分,也是其結果。我們發現,如果我們適應了,我們就能蓬勃發展。這不是試圖強加規則,阻止其他人成功。我的觀點正好相反。如果科技行業想要在持續和可持續的基礎上取得成功,那麼如果公眾對技術有信心和信任(部分來自於制定規則),它將得到更好的服務。

例如雜貨店,我們可以看包裝,知道里面有什麼,因為有營養規則,規範每個公司如何報告產品中有什麼。又比如商用飛機,公眾需要規則讓他們對飛機的安全性有信心,歸根結底,製造飛機的公司也是如此。

主持人:你的觀點是,人們可能會說,“技術太複雜了,國會或立法者無法理解。”

布拉德·史密斯:沒錯。我認為這是一個非常有趣的對比。這就是我們談論它的原因。科技行業的人總是說,“這不可能有監管。這項技術太複雜了。我們指出,“那麼,現在的飛機是什麼?”有點像帶翅膀的電腦。

監管問題確實存在,但沒有人會說,“太複雜了。讓我們廢除聯邦航空局,並希望飛機制造商盡其所能。同樣,想想汽車。我們考慮的是,到2030年,一輛汽車將如何在計算機價值、數據等方面佔到一半。那是一臺有輪子的電腦。沒有人會說,“現在我們不要再監管汽車安全了,因為裡面有很多電腦。”我想說的是,如果政府能弄清楚如何監管一臺有輪子的計算機,並解決一臺有翅膀的計算機的問題,那麼它肯定也能很好地解決一臺靜止不動、位於數據中心的計算機的問題。

主持人:如果你要制定兩三個具體的規則,讓人們走上正確的道路,你會怎麼做?

布拉德·史密斯:在某種程度上,我們認為在網絡安全領域迫切需要向前推進。這已經促使企業和政府加大合作力度,但在加強網絡安全保護方面,我們還有很多工作要做。其次是隱私。我們是明確的倡導者,我們支持制定一項為消費者提供強有力隱私保護的國家隱私法。當然面部識別的問題也很重要。

主持人:你提出的原則之一是,當人們被掃描或通過面部識別系統處理他們的肖像時,他們需要知道。

布拉德·史密斯:當然。正如我之前所說,我們仍處於早期階段。第一步是讓人們知道什麼時候面部識別在公共場所使用。我們也承認,對於面部識別,我們需要在此基礎上有更多的保護措施,尤其是隻有在徵得人們同意的情況下,才能以適當的方式分享他們的數據的保護措施。有很多事情我們需要考慮清楚,但是我們必須從讓人們知道開始,因為一旦你讓人們知道了,你就開始了公眾對話。直到人們知道,它只是隱形的,在這種情況下隱形是不好的。

微軟VS俄羅斯黑客

主持人:我喜歡幕後的故事,關於正在發生的事情,關於過去幾年發生的新聞事件,以及從你的角度瞭解幕後發生的事情,從WannaCry蠕蟲病毒到斯諾登的爆料。那裡有很多新的見解。真正讓我印象深刻的是,微軟試圖挫敗俄羅斯黑客,他們試圖通過你使用的技術和法律手段來影響美國大選。有一句話讓我目瞪口呆。你說:“很明顯,俄羅斯人的創新速度和我們一樣快。”我想到了這一點,當然,俄羅斯黑客顯然很有創意,但你們是微軟。這是驚人的,因為我傾向於考慮風險因素。你不會把俄羅斯列為你的風險因素之一。這說明了什麼,俄羅斯在創新方面是微軟的有力競爭者?

布拉德·史密斯:嗯,這在一定程度上說明,有一些非常聰明的人在聖彼得堡和莫斯科這樣的地方工作。

主持人:或許對俄羅斯政府來說,這是一個轉折點。

布拉德·史密斯:這很公平。這是對我們民主的威脅,甚至超過對任何公司或科技行業的威脅,這就是為什麼我們討論了網絡黑客引發的一系列問題。

主持人:在Satya擔任首席執行官的過去五年裡,你從他身上學到了什麼?

布拉德·史密斯:他不僅是一個工程師。他的父親是印度一位非常重要、備受尊敬的政府官員,在印度成為一個自由國家、不再是殖民地後的第一代印度人。正如我們所說,我認為這讓Satya對政府的運作方式有了一種近乎直覺的感覺。現在,這讓他把我們在微軟的工作帶到了這裡,我認為這是非常有益的。他經常說,“看,讓我們建立一套原則。讓我們把原則弄對。讓我們公開透明這些信息,這樣我們就可以根據這些原則做出決定。”

我認為,在很多方面,這使得我們微軟能夠更加果斷,更加積極地解決這些問題。它給了我們一種能力,隨著時間的推移保持一致。因此,一致性對於贏得人們的信心和維持他們的信任至關重要,因為我們變得可預測。

"

相關推薦

推薦中...