當前，以互聯網、大數據、人工智能為代表的新一代信息技術蓬勃發展，深刻改變著人類的生存方式和社會交往方式，有可能帶來倫理風險。我們應當認真研究思考並樹立正確的道德觀、價值觀和法治觀，有效提升公眾誠信意識和社會信用水平，統籌兼顧人工智能應用和個人隱私保護。本期觀察版的幾篇文章圍繞信息時代的倫理挑戰進行探討。
——編者
信息時代的倫理審視(人民觀察)
曾建平
■人與人工智能的關係，既不是主體與客體之間的關係，也不是主體之間的關係，而是一種主體與類主體之間的關係。
■信息技術已滲透到人們的日常生活，也深度融入國家治理、社會治理的過程中，對於實現美好生活、提升國家治理能力、促進社會道德進步發揮著越來越重要的作用。
■在可以預見的將來，人工智能將重塑生產力、生產關係、生產方式，重構社會關係、生活方式。
■從整體上看，應對信息化深入發展導致的倫理風險，應當遵循服務人類原則、安全可靠原則、以人為本原則、公開透明原則。
習近平同志指出，當前，以互聯網、大數據、人工智能為代表的新一代信息技術日新月異，給各國經濟社會發展、國家管理、社會治理、人民生活帶來重大而深遠的影響。現代信息技術的深入發展和廣泛應用，深刻改變著人類的生存方式和社會交往方式，深刻影響著人們的思維方式、價值觀念和道德行為。
信息時代的倫理變革
信息化正在廣泛而深刻地影響和改變著人類社會，它不僅對人類引以為榮的智能唯一性發出有力挑戰，而且有可能動搖人類的道德主體地位。
目前，智能機器已獲得深度學習能力，可以識別、模仿人的情緒，能獨立應對問題等。那麼，智能機器能否算作“人”？人與智能機器之間的關係應當如何定位、如何處理？智能機器應當為其行為承擔怎樣的責任？智能機器的設計者、製造者、所有者和使用者又應當為其行為承擔怎樣的責任？人們會不會設計、製造並使用旨在控制他人的智能機器？這樣的情況一旦出現，人類將面臨怎樣的命運？這一系列問題關乎人倫關係的根本性質和價值基礎，也關乎人類整體的終極命運。
在傳統意義上，人與物的關係是主體與客體的關係。信息時代，人工智能創造物已不僅僅是技術化的工具，而是越來越具有類似於人類思維的能力，甚至在某些方面具有超越人類思維的能力。可以說人與人工智能創造物的關係，既不是主體與客體之間的關係，也不是主體之間的關係，而是一種主體與類主體之間的關係。例如，倘若自動駕駛汽車出了交通事故，該由誰承擔責任？面對諸如此類的問題倫理學應該如何確立“倫”與“理”？從倫理學角度看，當大數據和人工智能的發展改變甚至顛覆人類活動的主體地位時，傳統倫理就會發生解構，人具有排他性主體地位的倫理時代就可能結束。
信息時代的倫理進步
信息技術已滲透到人們的日常生活中，也深度融入國家治理、社會治理的過程中，對於實現美好生活、提升國家治理能力、促進社會道德進步發揮著越來越重要的作用。
信息化深入發展有助於改善政府部門與人民群眾的關係。比如，在政務服務領域，各地積極推進“互聯網 政務服務”，推出“最多跑一次”事項清單，甚至部分事項“一趟不用跑”，打通政務服務的“最後一公里”，實現“讓數據多跑路、讓群眾少跑腿”，不斷增強人民群眾的獲得感幸福感安全感。又如，在反腐敗領域，各地探索運用互聯網、大數據和信息化手段，通過微信、微博、手機客戶端等新媒體，讓失德官員無處躲藏，權力運行更加陽光。
信息化深入發展為最大程度實現社會公平提供技術條件。例如，在教育領域，信息技術打破時空藩籬，讓即便身在地球兩端的學生也能同上一堂課；打破城鄉壁壘，讓農村孩子有機會與城裡孩子享受到同等教育資源；打破線上線下界限，讓學習無處不在、課堂互動“永不下線”，進一步促進優質資源共享和教育公平。
信息化深入發展擴大社會交往，提出更高的倫理道德要求。傳統的社會交往主要侷限於相對狹小的熟人範圍，人們之所以遵守倫理道德很大程度上是因為相對狹小的熟人圈子中無所不在的外在監督，並且一些人對倫理道德的信守主要侷限於相對狹小的熟人圈子，對圈子之外的人則未必守信。現代社會交往日益突破傳統的熟人交往範圍，建基於強大信息技術的互聯網進一步打破傳統交往的時空限制，使之成為普遍性的社會交往。這就要求人們具備更高程度的道德自律、更高程度的寬容與尊重，從而促進形成以普遍的誠實、守信為價值基礎的現代社會公德。
互聯網是一個實時、動態、開放的社交平臺，各種悖德行為一旦曝光，就會在很短時間內遭到廣泛的輿論譴責，在使悖德行為者承受壓力的同時，讓更多人受到潛移默化的教化。尤其是自媒體的廣泛興起，讓人們隨時隨地能將身邊的人和事拍攝下來、發到網上，更廣泛有效地發揮社會輿論的監督、譴責與教化作用。
信息化深入發展使包括身份信息和行為信息在內的各類信息變得更透明、更對稱、更完整，大大提升了對悖德行為乃至違法犯罪行為的防控、識別、監督、追究與懲處能力。例如，居民身份證存儲著個人信息並實現全國聯網，入住酒店、乘坐交通工具、購置房產以及其他一些有必要知曉行為人身份的行為或業務往來，都要求提供身份證明；政府部門藉助發達的網絡和信息傳遞技術，廣泛而及時地向人們公佈、推送失信人或其他違法犯罪分子的相關信息；重要公共場所安裝高清攝像頭，有的場所則配置更為先進的人臉識別技術。這使得悖德行為者及違法犯罪分子處於無所不在的監控之下而無處遁形，促使人們更審慎地權衡利弊並儘可能地減少、規避失信行為或其他違法犯罪行為，有效維護、鞏固和增進以誠信為基礎的主流倫理道德。
信息時代的道德風險
在可以預見的將來，人工智能將重塑生產力、生產關係、生產方式，重構社會關係、生活方式。
實際上，人工智能算法帶來的歧視隱蔽而又影響深遠。信息的不對稱、不透明以及信息技術不可避免的知識技術門檻，客觀上會導致並加劇信息壁壘、數字鴻溝等違背社會公平原則的現象與趨勢。如何縮小數字鴻溝以增進人類整體福利、保障社會公平，這是一個具有世界性意義的倫理價值難題。
信息技術在加速大數據傳播、蒐集、共享的同時，也為一些國家或組織利用網絡霸權干涉別國內政或實施網絡攻擊提供了漏洞和暗網，嚴重威脅國家主權和安全。因此，防範數據霸權是信息時代維護國家主權的重要內容。
互聯網時代出現的一些現象和趨勢，應當引起高度重視。例如，有些人沉迷於網絡虛擬世界，厭棄現實世界中的人際交往。這種去倫理化的生存方式，從根本上否定傳統社會倫理生活的意義和價值，放棄自身的倫理主體地位以及相應的倫理責任擔當，已經觸及價值觀念基礎這一更為根本的層面。
應對信息時代倫理風險的道德原則
習近平同志強調：“要整合多學科力量，加強人工智能相關法律、倫理、社會問題研究，建立健全保障人工智能健康發展的法律法規、制度體系、倫理道德。”面對信息技術的迅猛發展，有效應對信息技術帶來的倫理挑戰，需要深入研究思考並樹立正確的道德觀、價值觀和法治觀。從整體上看，應對信息化深入發展導致的倫理風險應當遵循以下道德原則。
服務人類原則。要確保人類始終處於主導地位，始終將人造物置於人類的可控範圍，避免人類的利益、尊嚴和價值主體地位受到損害，確保任何信息技術特別是具有自主性意識的人工智能機器持有與人類相同的基本價值觀。始終堅守不傷害人自身的道德底線，追求造福人類的正確價值取向。
安全可靠原則。新一代信息技術尤其是人工智能技術必須是安全、可靠、可控的，要確保民族、國家、企業和各類組織的信息安全、用戶的隱私安全以及與此相關的政治、經濟、文化安全。如果某一項科學技術可能危及人的價值主體地位，那麼無論它具有多大的功用性價值，都應果斷叫停。對於科學技術發展，應當進行嚴謹審慎的權衡與取捨。
以人為本原則。信息技術必須為廣大人民群眾帶來福祉、便利和享受，而不能為少數人所專享。要把新一代信息技術作為滿足人民基本需求、維護人民根本利益、促進人民長遠發展的重要手段。同時，保證公眾參與和個人權利行使，鼓勵公眾提出質疑或有價值的反饋，從而共同促進信息技術產品性能與質量的提高。
公開透明原則。新一代信息技術的研發、設計、製造、銷售等各個環節，以及信息技術產品的算法、參數、設計目的、性能、限制等相關信息，都應當是公開透明的，不應當在開發、設計過程中給智能機器提供過時、不準確、不完整或帶有偏見的數據，以避免人工智能機器對特定人群產生偏見和歧視。
(作者為中國倫理學會副會長)
確保安全、可靠、可控
兼顧人工智能應用和隱私保護(勢所必然)
楊 明
作為新一輪科技革命和產業變革的重要驅動力量，人工智能正在深刻影響社會生活、改變發展格局。同時，人工智能如同一把“雙刃劍”，如果應用不當，就可能帶來隱私洩露的倫理風險。如何在人工智能應用中兼顧隱私保護，確保安全、可靠、可控，是一項亟須關注的倫理課題。
人工智能應用存在隱私洩露的倫理風險。人工智能應用需要以海量的個人信息數據作支撐。數據是人工智能的基礎，正是由於大數據的使用、算力的提高和算法的突破，人工智能才能快速發展、廣泛應用，並呈現出深度學習、跨界融合、人機協同、群智開放、自主操控等新特徵。人工智能越是“智能”，就越需要獲取、存儲、分析更多的個人信息數據。可以說，海量信息數據是人工智能迭代升級不可缺少的“食糧”。獲取和處理海量信息數據，不可避免會涉及個人隱私保護這一重要倫理問題。今天，各類數據信息採集無時不有、無處不在，幾乎每個人都被置於數字化空間之中，個人隱私極易以數據的形式被存儲、複製、傳播，如個人身份信息數據、網絡行為軌跡數據以及對數據處理分析形成的偏好信息、預測信息等。可以預見，在不遠的未來，越來越多的人工智能產品將走進千家萬戶，在給人們生活帶來便利的同時，也會輕易獲取更多有關個人隱私的數據信息。藉助獲取的數據信息，基於日益強大的數據整合、處理能力，人工智能技術可以為用戶精準“畫像”，而其中就潛藏著不容忽視的隱私洩露風險。如果人工智能應用得不到合理管控，人類將被置於隱私“裸奔”的尷尬境地，從而產生嚴重的倫理風險。
人工智能應用與隱私保護並非不可兼得。儘管人工智能應用在一定程度上存在隱私洩露的風險，但這並不意味著它與隱私保護之間是絕對對立的關係。一方面，人工智能應用決不能以隱私洩露為代價。隱私權不容侵犯，它既是公民的基本權利，也是社會文明進步的顯著標志。有效保護隱私有利於人們維護人格尊嚴、保持心情舒暢，有利於促進人的全面發展。人工智能技術無論如何發展、發展到什麼程度，歸根結底都是為了輔助人、服務人，為使用者提供便利，而不能成為肆意損害人格權利、惡意洩露個人隱私的工具。這是人工智能應用必須堅守的底線，否則人工智能技術就會失去價值，也難以走遠。另一方面，不能因為存在隱私洩露的倫理風險，就延緩甚至放棄人工智能應用。目前，人工智能應用得到世界主要國家的高度重視，被認為是科技創新的下一個“超級風口”，具有溢出帶動性很強的“頭雁”效應。在一定程度上講，誰把握住了人工智能技術，誰就把握住了未來。加快發展新一代人工智能技術，是我國發展必須牢牢抓住的寶貴機遇。我們既要有效防範倫理風險，又要加快人工智能技術發展。事實上，人工智能應用與個人隱私保護之間並不是非此即彼的關係，完全可以通過多種手段從倫理層面對人工智能應用加以正確引導，將隱私洩露的風險降至最低。作為一種新興技術，人工智能本身並無善惡、對錯之分，關鍵在於使用者能否在符合倫理規範的前提下對其進行正當應用。隱私洩露現象是人工智能應用不當導致的，從深層看則大多是利益驅動的結果。所以，不能將隱私洩露簡單歸為技術層面的問題，也不能簡單歸咎於人工智能。
在推進人工智能應用中加強隱私保護。習近平同志強調，要加強人工智能發展的潛在風險研判和防範，維護人民利益和國家安全，確保人工智能安全、可靠、可控。在人工智能應用中加強隱私保護，需要加強人工智能應用的風險研判和防範，綜合運用技術創新、倫理規範、法律制度等手段方式，防止其“野蠻生長”，確保在符合倫理規範的前提下實現人工智能健康發展。在技術層面，要加快研發和應用隱私保護的安全技術，可將用戶隱私保護需求嵌入人工智能系統設計中，讓最大限度保護隱私成為系統的默認規則。在倫理層面，要探索和確立保護個人隱私的原則。2019年6月17日，我國新一代人工智能治理專業委員會發布《新一代人工智能治理原則——發展負責任的人工智能》，要求人工智能發展應尊重和保護個人隱私，充分保障個人的知情權和選擇權。人工智能從業人員要樹立社會主義核心價值觀，加強自律，規範技術應用的標準、流程、方法，最大限度尊重和保護個人隱私。在法律層面，應加快制定加強隱私保護的法規制度。當前，我國隱私保護法律體系還不能完全適應人工智能發展需求，應在相關法律法規中進一步強化隱私權保護，並在條件成熟時制定針對人工智能應用中保護公民隱私的法律條文細則，充分保障公民在人工智能應用中的知情權和選擇權，嚴格規範人工智能應用中個人信息的收集、存儲、處理、使用等程序，反對竊取、篡改、洩露和其他非法收集利用個人信息的行為。
(作者為南京藝術學院教授、江蘇省倫理學會執行會長)
網絡誠信建設刻不容緩(觀察者說)
孫偉平
人無信不立，業無信不興，國無信不強。誠信是公眾必須具備的基本素養，也是文明社會不可或缺的基石。進入信息時代，快速發展的信息技術讓人們生產生活更便捷、通信交流更暢通、信息獲取更方便，但也帶來了不同形式、不同程度的誠信缺失問題。信息時代呼喚誠信，迫切需要讓誠實守信成為全社會的高度共識和行為自覺。
進入信息時代，智能手機、移動互聯網、在線社交軟件等日益普及，大數據、雲計算、物聯網、人工智能、區塊鏈等新興科技快速發展。截至2018年底，我國網民規模達到8.29億，互聯網普及率達到59.6%。數字經濟規模達到31萬億元，約佔國內生產總值的1/3。《數字中國建設發展報告(2018年)》顯示，2018年31個省市區信息化發展指數平均達到67.15%，比上年提升4.88%。藉助信息技術，人們在家中指尖輕點就可遠程購物、遠程學習、遠程就醫，“互聯網 政務服務”讓社會治理更加智能化、精準化、科學化。從迭出爆款的新媒體到熱點不斷的網絡綜藝，從如火如荼的電子商務到改變生活的共享經濟，信息技術正在為社會生活帶來越來越多的精彩和便利。
但也要看到，同其他新技術一樣，信息技術具有明顯的雙刃劍效應，正當使用帶來的是便利，不正當使用則會造成嚴重的倫理風險，這其中就包括誠信缺失問題。例如，利用信息技術，一些不法分子盜用他人社交賬號詐騙錢財；極少數商家通過瘋狂刷單來偽造好評；少數新媒體一味求快，未經調查核實就發佈信息，導致新聞時有“反轉”；等等。出現這些問題，一方面表明在信息時代少數人誠實守信的“螺絲帽”擰得還不夠緊，另一方面反映出社會誠信建設仍存在一些亟須補齊的短板。
信息時代之所以出現誠信缺失問題，主要有以下幾方面原因：從技術層面看，信息技術具有數字化、虛擬化、開放性等特點，藉助信息技術，人與人之間的交流更多呈現符號化、超地域性、隱匿性等特徵。這讓人際交往似乎進入一個互不熟識、缺少監督的“陌生人社會”，從而使一些人放鬆或忽視了誠信自律，做出失信行為。從利益驅動層面看，少數門戶網站、自媒體重經濟效益輕社會效益，為最大程度攫取經濟利益不惜當“標題黨”，甚至傳遞虛假信息，惡意透支社會信用。從體制機制層面看，相較於快速更新迭代的信息技術，誠信監督體系建設比較滯後，對失信者的威懾和懲戒還不夠及時、有力，甚至在個別領域存在“牛欄關貓”的現象，從而讓失信者有機可乘，造成誠信缺失問題。
中華優秀傳統文化歷來具有講誠信、重承諾的優良傳統。我們黨一貫高度重視誠信建設，將誠信作為社會主義核心價值觀的重要內容之一，把說老實話、辦老實事、做老實人作為立身做人、幹事創業的基本準則。“人而無信，不知其可也”。如果聽任誠信缺失現象蔓延，不僅會帶來社會信息交流不暢，而且會導致人與人之間缺乏必要的信任感，甚至會出現信任危機。
在信息技術快速發展的當下，有效提升公眾誠信意識和社會信用水平，關鍵是加強網絡誠信建設，堅持法治與德治並舉、線上與線下聯動，推動網絡誠信建設法規越來越嚴密、覆蓋越來越廣泛、要求越來越嚴格。要在不斷完善頂層設計、解決突出問題、形成長效機制上下功夫，打好網絡誠信建設“組合拳”，綜合運用互聯網、大數據、雲計算、人工智能等信息技術手段，廣泛發動公眾監督舉報網上失信行為，開展誠信等級評價，動態發佈誠實守信“光榮榜”和失信者“黑名單”，讓誠實守信者受到尊重，令失信違約者處處受限，在人人蔘與、多元共治中大力營造誠實守信的健康網絡生態。
(作者為上海大學社會科學學部主任、馬克思主義學院院長)
《 人民日報 》( 2019年07月12日 09 版)