ChatGPT對很多問題給出的答案之所以令人回味，是因為它們提出的問題多于結論。目前，我們擁有一項新穎而壯觀的成就——人工智能，它是人類思想的榮耀。我們還沒有為它進化出一個目的地。當我們成為技術智人時，我們迫切需要定義我們物種的目的。現在，我們有責任提供真正的答案。
2023年，ChatGPT引爆了全球對人工智能的廣泛關注。科技界、知識界和産業界，圍繞着AI（人工智能）的發展前景、影響沖擊等展開激烈争論。ChatGPT本身正引發一系列深刻的連鎖反應，席卷各個行業、企業、國家乃至個人。著名外交家、美國前國務卿亨利·基辛格和谷歌前首席執行官埃裡克·施密特、麻省理工學院蘇世民學院院長丹尼爾·胡騰洛赫爾今年聯名在媒體發表文章《ChatGPT預示着一場智能革命》。文章提出，“一項新技術正試圖改變人類認知過程，這是人類自印刷術發明以來從未經曆過的震動。這項新技術被稱為生成式人工智能。OpenAI研究實驗室開發的ChatGPT現在能夠與人類交流。随着它們的能力變得更廣泛，它們将重新定義人類知識，加速我們現實構造的變化，并重組政治和社會。”基辛格已經步入100歲高齡，但是他頭腦依然很清醒，思路依然很清晰，一直非常關注人工智能的發展，他曾經說，“搞技術的人關心的是應用，我關心的是影響”。在這篇文章中，他強烈呼籲“人類需要重新定義與AI這種新物種之間的關系，而且我們人類對于這一切還沒有準備好。”近期由基辛格、施密特和胡騰洛赫爾共同完成的新書《人工智能時代與人類未來》出版，從政治、經濟、科技等維度探讨了人工智能及其改變人類社會的方式，也提出了人類在未來幾年所必須面對的問題以及解答工具。1450年，德國美因茨市的金匠約翰内斯·谷登堡用借來的錢研制了一台試驗性的印刷機。他的努力難言成功，因為他的生意一度陷入困境，債權人還起訴了他。但在1455年，歐洲的第一本印刷讀物《四十二行聖經》問世了。最終，他的印刷機引發了一場革命，在西方乃至全球生活的各個領域都産生了強烈反響。
印刷機的發明使對經驗知識的追求取代了禮儀教義，啟蒙時代逐漸取代宗教時代。個人思想和科學知識取代信仰，成為人類意識的主要标準。信息通過圖書館的擴張得到存儲和系統化。啟蒙時代是塑造當代世界的諸多思想和行動的來源。生成式人工智能提出了一個人類自啟蒙運動開始以來從未經曆過的哲學和實踐挑戰。印刷機使學者們能夠迅速複制彼此的發現并分享它們。信息的空前整合和傳播産生了科學方法。原本密不透風的東西變成了加速查詢的起點。以宗教信仰為基礎的中世紀對世界的解釋逐漸被削弱。宇宙的深處可以被探索，直到達到人類理解的新極限。啟蒙運動試圖使傳統的真理讓位于解放後的人的分析理性。而互聯網的目的是通過積累和操縱不斷擴大的數據來獲取知識。人類的認知失去了個體特征。個體變成了數據，而數據變成了統治者。當信息被情境化時，它就變成了知識。當知識令人信服時，它就變成了智慧。然而，互聯網讓用戶淹沒在數以千計甚至數以百萬計的其他用戶的意見中，剝奪了他們持續思考所需的獨處感，而從曆史上看，正是這種獨處感催生了對知識的信念。随着獨處感的消失，堅毅的精神也不複以往——須知不僅信念的形成需要堅韌不拔的毅力，保持對信念的忠誠也一樣，當這種信念需要穿過未有前人踏足的、也因此往往是孤獨的道路才能獲取時尤其如此。這種信念也隻有與智慧相結合，才能使人們進入和探索新的視界。數字世界對智慧沒有多少耐心，它的價值觀是由贊許而不是自省塑造的。它從本質上挑戰了啟蒙運動認為理性是意識最重要因素的主張。數字世界消除了過去距離、時間和語言對人類行為的限制，它本身就提供了一種有意義的聯系。随着人工智能的崛起，對人類角色、人類願望和人類成就的定義都将發生變化。在這個時代，人類的哪些品質值得頌揚？其指導原則是什麼？人們有兩種認識世界的傳統方式：信仰和理性；如今又添上了第三種——人工智能。在一個人工智能可以評估我們生活中的諸般事物、預測接下來會發生什麼并決定該做什麼的時代，即一個現實可以被預測、近似和模拟的時代，人類理性的角色将會改變。我們對個人和社會的目标感也會随之改變。在某些領域，人工智能可能會增強人類的理性。在其他領域，人工智能則可能會讓人類産生一種置身事外的感覺。各個社會都有兩個選擇：一個是各自為戰；另一個則是帶着合作意向開始對話，舉全人類的進步之力來界定人工智能的角色，同時明晰我們自己的角色。前一種路徑是棄權式的默認，而後一種則需要領導人和哲學家、科學家和人文主義者，以及其他各種團體的清醒參與。最終，個人和社會将不得不決定，生活的哪些方面應該留給人類智能，哪些方面則應交由人工智能或人類與人工智能的合作。人類與人工智能的合作并不是一種對等關系。歸根結底，人工智能既由人類構建，也由人類指揮。但随着我們逐漸習慣和依賴人工智能，對其加以限制可能會導緻更高昂的成本、更困難的心理挑戰，甚至更複雜的技術。我們的使命将是了解人工智能給人類經驗帶來的變化、它對人類身份的挑戰，以及這些發展變化的哪些方面需要由其他的人類義務來加以調節或制衡。人類未來将如何呈現，這取決于人類在人工智能時代的角色界定。人工智能革命發生之迅猛，将超過大多數人的預期。除非我們發展出新的概念來解釋、演繹和組織其所帶來的轉變，否則無論是對人工智能還是對其所産生的影響，我們都無法駕馭。在道德上、哲學上、心理上、實踐上，可以說在各個方面，我們均發現自己正處于一個新時代的懸崖邊，身後已無路可退。我們必須動用自己最根本的素養和資源，比如理性、信仰、傳統和技術，來調整我們與現實的關系，從而讓現實仍是人類的現實。人工智能時代的到來，将改變我們與他人以及我們與自己的關系。正如今天的“數字原生代”和之前的幾代人之間存在代溝一樣，“人工智能原生代”和他們的前輩之間也會出現差異。
未來，孩子們可能在比Alexas和谷歌Homes更先進的人工智能助手的陪伴下長大，這個助手集保姆、導師、顧問、朋友等多種角色于一身。這樣的助手幾乎可以教孩子任何語言，也可以訓練孩子學習任何科目，并根據每個學生的表現和學習風格來因材施教，使他們獲得最佳的學習效果。當孩子感到無聊時，人工智能可以充當玩伴；當孩子的父母不在時，人工智能又可以成為監護者。随着由人工智能提供和量身定制的教育被引入，普通人的能力既會有所提高，也會面臨挑戰。人類和人工智能之間的界限将會驚人地模糊。如果孩子在年幼之時就用到了數字助手，他們就會對此習以為常。同時，數字助手将與它們的主人一起成長發展，并随着他們的成熟，将他們的喜好和偏見逐漸内在化。數字助手的任務是通過個性化最大限度地提高人類同伴的便利感或滿足感，它們給出的建議和信息可能會被人類用戶視為必不可少，即使人類用戶無法準确解釋為什麼它們要好于其他任何替代資源。長此以往，人們可能會更偏愛自己的數字助手，而不是人類。因為人類不懂得投其所好，而且更“令人讨厭”。結果，我們對彼此的依賴、對人際關系的依賴，可能都會被削弱。到那時，那些童年時代妙不可言的特質和無可替代的教訓将變成什麼樣子呢？一種并不能感知或體驗人類情感卻給予無處不在陪伴的機器，将如何影響孩子對世界的感知及其社會化？它将如何塑造想象力？它将如何改變遊戲的本質？它将如何改變交友或融入社會的過程？可以這麼說，數字信息的唾手可得已經改變了一代人的教育和文化體驗。現在，世界正在開展另一項“偉大實驗”，在這個實驗中，孩子們将在機器的陪伴下成長，這些機器将在許多方面充當以前世代人類教師那樣的角色，卻沒有人類的感覺、洞察力和情感。最終，實驗參與者可能會問，他們的經曆是否以他們未曾預料或不能接受的方式被改變了呢？父母也許會因為擔心這種接觸會對孩子産生不确定的影響而排斥這種技術。就像上一代的父母限制孩子看電視的時間、現在的父母限制孩子使用數碼設備的時間一樣，未來的父母可能會限制人工智能陪伴孩子的時間。但那些希望推動孩子取得成功的人，或者沒有意願或能力讓孩子得到人類父母養育或人類導師教導而隻能依賴人工智能的人，或者隻是想滿足孩子結交人工智能朋友願望的人，可能會贊成讓孩子與人工智能為伴。因此，這些尚處在學習與發展階段、易受影響的孩子，可能通過與人工智能的對話形成他們對世界的印象。具有諷刺意味的是，盡管數字化讓越來越多的信息變得可用，但它卻壓縮了深入、專注思考所需的空間。今天幾乎持續不斷的媒體流增加了思考的成本，從而減少了思考的頻率。算法為了回應人類對刺激的渴望而力推那些奪人眼球的事物，而能夠奪人眼球的，往往也是戲劇性的、出人意料的和有感染力的。一個人能否在這種環境中找到思考的空間是一個問題，而如今占主導地位的交流形式不利于促進有節制的理性，這是另一個問題。
03 人類要對未來做好準備
機器學習系統已經超越了任何一個人的知識。在有限的情況下，它們已經超過了人類的知識，超越了我們所認為的可知邊界。這已經在取得這種突破的領域引發了一場革命。人工智能已經改變了生物學中确定蛋白質結構的核心問題和高級數學家做證明的問題，以及其他許多問題。
随着模型從人類生成的文本轉向更具包容性的輸入，機器可能會改變現實本身的結構。量子理論認為，觀察創造了現實。在測量之前，沒有任何狀态是固定的，也沒有任何東西可以說是存在的。如果這是真的，如果機器的觀察也能固定現實，并且鑒于人工智能系統的觀察具有超人的速度，定義現實的演變速度似乎會加快。對機器的依賴将決定并因此改變現實的結構，産生一個我們還不了解的新未來，我們必須為探索和領導這個未來做好準備。傳統的理性和信仰将在人工智能時代繼續存在，但其性質和範圍必将因為引入一種新的、強有力的、機器運作的邏輯形式而受到深刻影響。人類身份可能會繼續停留在“生命智能”的頂峰，但人類理性将不再被視為緻力于理解現實的智能的全部。為了厘清我們在這個世界上的地位，我們的側重點可能需要從“以人類理性為中心”轉移到“以人類尊嚴和自主性為中心”。人工智能可能在探索和管理現實世界和數字世界方面發揮主導作用。在特定領域，人類可能會對人工智能言聽計從，更喜歡人工智能的數據處理過程，而非人類思維的局限性。這種遵從，可能使許多人甚至大多數人退回到一個個人的、過濾的、定制的世界。在這種情境下，人工智能的力量加上它的普遍性、隐蔽性和不透明性，将引發人們對自由社會甚至自由意志前景的懷疑。在許多領域，人工智能和人類将成為探索事業中的平等夥伴。因此，人類的身份将反映出與新關系的和解，無論是與人工智能還是與現實。不同的社會将為人類領導權開辟不同的領域。同時，它們将形成必要的社會結構和習慣，以理解人工智能并與其有效互動。為了與人工智能融洽相處，社會需要建立相應知識和心理基礎設施，并運用其獨特才智，盡可能地造福人類。技術将迫使政治和社會生活的許多方面（實際上是大多數方面）做出調整。一些社會和制度可能會逐步适應，然而，另一些卻可能會發現，它們的基本假設與它們感知現實和自身的方式相沖突。由于人工智能促進了教育和信息獲取，同時也增加了信息被誇大和操縱的可能性，這些沖突可能會愈演愈烈。個人的消息會更靈通、準備會更充分、觀點會有更大影響力，他們可能據此對政府提出更多要求。對此，可以給出一些原則。首先，為了确保人類的自主權，政府的核心決策應該脫離已被人工智能浸染的結構，并僅限于人類的管理和監督。我們社會固有的原則規定了對争端的和平解決。在這個過程中，秩序與正當性是互為關聯的：沒有正當性的秩序隻是力量而已。确保人類對政府基本構成部分的監督和決定性參與，對于維持其正當性至關重要。例如，在司法行政過程中，提供解釋和道德推理是其正當性的關鍵要素，這使參與者能夠評估裁決的公平性，并在其結論不符合社會所堅持的道德原則時對其提出疑問。由此可見，在人工智能時代，當涉及重大問題時，決策者都應該是具備相應資質、能夠為所做選擇給出理由的非匿名人類。每個社會必須首先确定人工智能在各個領域允許和不允許使用的全部範圍。對某些強大的人工智能，如通用人工智能的使用權，需要嚴格把關，以防止被濫用。因為通用人工智能的構建成本可能相當高昂，隻有少數組織能夠負擔得起，所以其使用可能會受到限制。某些限制可能違反一個社會關于自由企業和民主進程的理念。對于其他方面的限制，如限制在生物武器生産中使用人工智能，應該很容易達成一緻，但需要國際合作。機器的發展速度将遠遠超過我們的基因，造成國内的混亂和國際的分歧。我們必須做出相應的反應，特别是在國家和全球範圍内的哲學和概念主義。正如伊曼紐爾-康德在三個世紀前所預言的那樣，全球協調将需要通過感知或災難來出現。歐盟已經勾勒出監管人工智能的計劃綱要，目标是加強對企業和政府使用數據和人工智能方式的管理，并促進歐洲人工智能公司的創建和發展。該監管框架包括對人工智能的各種用途進行風險評估，并限制甚至禁止政府使用某些被視為具有高風險的技術，如人臉識别（盡管人臉識别有一些有益用途，如尋找失蹤人口和打擊人口販運）。毫無疑問，這些初步概念會面臨廣泛的争議和修改，但這也是一個社會決定限制人工智能範圍，并相信此舉能夠使其推動生活方式進步和未來發展的先例。ChatGPT對很多問題給出的答案之所以令人回味，是因為它們提出的問題多于結論。目前，我們擁有一項新穎而壯觀的成就——人工智能，它是人類思想的榮耀。我們還沒有為它進化出一個目的地。當我們成為技術智人時，我們迫切需要定義我們物種的目的。現在，我們有責任提供真正的答案。
作者：基辛格
來自：中國金融四十人論壇
