微軟AI CEO蘇萊曼：50條至理名言，讀懂未來10年的技術浪潮
在人類的歷史長河中，有一些特殊的時刻曾是關乎人類命運的轉折點。火的發現、輪子的發明以及電力的應用——所有這些時刻都徹底重塑了人類文明，永久地改變了歷史進程。如今，我們正接近另一個這樣的時刻。一場新的技術浪潮正同時攜帶着先進的人工智能和生物技術洶涌而來。我們從未見過變革潛力如此巨大的技術，它們勢必以令人敬畏的方式重塑我們的世界。
人類天生就是一個技術物種。從誕生之初，我們便與技術浪潮緊密相連，共同進化，共生共存。技術沿着一條清晰而必然的軌跡進化，如同洶涌巨浪，大規模擴散。這種浪潮般的廣泛擴散，可能會產生無法預測或難以控制的涌現效應，包括負面的、無法預見的後果。
作爲開創性的人工智能公司DeepMind的聯合創始人和微軟人工智能的CEO，穆斯塔法·蘇萊曼一直處於這場浪潮的中心。他認爲，未來10年將被這一波強大、快速擴散的新技術所定義。
在新書《浪潮將至》中，蘇萊曼以通俗易懂、冷靜犀利的筆觸，展示了這些力量將如何創造巨大的繁榮，又將如何威脅到作爲全球秩序基礎的民族國家。他既引領我們瞭解激進技術變革的歷史，又引領我們面對深刻的社會挑戰。這本書爲我們提供了一劑現實的鎮靜劑，以下摘編自書中50條精華內容，希望對你有所啓發。
1.一場新的技術浪潮正同時攜帶着先進的人工智能和生物技術洶涌而來。我們從未見過變革潛力如此巨大的技術，它們勢必以令人敬畏的方式重塑我們的世界。
2.技術傾向於如浪潮一般廣泛擴散，可能會產生無法預測或難以控制的涌現效應，包括負面的、無法預見的後果。
3.人類在努力遏制浪潮的過程中，在開放與封閉之間找到一種微妙平衡的可能性。只有達到這種平衡，人類才能避免災難性或反烏托邦式的結果。
4.我們面臨一個關於未來的選擇。這個選擇的一端是前所未有的可能性，另一端是難以想象的危機。人類的命運懸於一線。
5.這場浪潮由兩大核心技術所定義：人工智能和合成生物學。它們將共同開啓人類的新黎明，創造出前所未有的繁榮和富足。然而，它們的迅速擴散也帶來了威脅，使得各種惡意行爲者有能力在難以想象的範圍和規模上製造混亂、動盪，甚至災難。
6.我們的目標就是複製那個讓人類獨一無二的特質，即人類的智能。
7.儘管人工智能這一強大的工具能帶來巨大的利益，但它也會像其他大多數形式的強大力量一樣，引發重大的危險和道德困境。我擔憂的不僅僅是人工智能發展所帶來的後果，還有整個技術生態系統的演變方向。
8.“悲觀規避陷阱”即當你過於害怕面對潛在的黑暗現實時，你就容易產生錯誤的分析和判斷，並傾向於從另一個看似安全的角度來看待問題。這幾乎是一種與生俱來的本能反應。
9.這些技術產生的背後有強大的驅動力：地緣政治競爭、鉅額經濟回報，以及開放、分佈式的研究文化。無論我們能否有效監管和控制即將到來的風險，無數的國家與非國家實體都將爭先恐後地開發這些技術，它們的行爲將影響所有人。
10.在我們從這段非凡的歷史中汲取任何樂觀情緒的同時，我們也必須坦誠面對現實。要防範技術失敗，我們就必須理解並最終正視可能出現的問題。
11.技術並非敵人，而是人類社會的一種基本屬性。要實現對技術的遏制，我們需要一個更深層次的方案，這一方案無關競爭方之間的力量平衡，而在於人類與工具之間的力量平衡。
12.人類天生就是一個技術物種。從誕生之初，我們便與技術浪潮緊密相連，共同進化，共生共存。
13.人工智能既極具價值，又充滿危險，因爲它正是人性的最好與最壞方面的延伸。
14.發動機不僅驅動着車輛，也驅動着歷史的進程。如今，隨着氫發動機和電動機的興起，內燃機的統治地位正在逐漸走向尾聲。但它所引發的大規模人類流動時代仍在繼續。
15.技術的出現強化了世間萬物的聯繫，推動了技術自身的流動與傳播。每一次技術浪潮都爲後續的浪潮奠定了堅實的基礎。
16.浪潮，它們起伏、奔涌、連綿不斷、交織融合，定義了一個時代的技術可能性和邊界。它們是我們人類的一部分。
17.技術的擴散過程是由需求增加和成本降低這兩大力量共同催化的。兩者都使得技術不斷變得更好、更便宜。
18.極少有社會能夠成功避開技術的浪潮。那些試圖這樣做的社會，往往已經陷入崩潰的邊緣，或者這種做法本身就成了社會崩潰的導火索。在技術面前，我們沒有一條真正可行的退路。
19.人類不可能撤銷發明，也不可能長期阻止其應用。
20.人類文明對實用且經濟的技術的需求是永無止境的。這一點永遠不會改變。
21.技術是一系列不斷演變的思想。
22.人工智能是即將到來的技術浪潮的核心。
23.人類之所以聰明，很大程度上是因爲我們能夠回顧過去並預測未來可能發生的事情。從這個意義上講，智力可以理解爲一種能力，這種能力使我們能夠預測關於周圍世界如何變化的可能情景，並基於這些預測採取明智的行動。早在2017年，谷歌的一小羣研究人員就開始專注於這一問題的一個更具體的方面：如何讓人工智能系統只關注數據序列中最重要的部分，以便準確有效地預測接下來會發生什麼。他們的工作爲後來的大語言模型領域的革命奠定了基礎，ChatGPT正是這一領域的代表。
24.在未來幾年裡，人工智能將如互聯網般無所不在：同樣觸手可及，但影響將更爲深遠。
25.人們有時會覺得，人工智能在追求複製人類智慧的過程中，彷彿是在追逐一個不斷變化、難以捉摸的目標，這個目標總有一些難以言喻的元素永遠無法企及。然而，事實並非如此。人類完成特定任務的能力，即人類智慧本身，實際上是相當固定的，儘管這種能力強大且多面。算力的規模在不斷擴展，而我們的大腦並不會逐年發生巨大的變化。隨着時間的推移，人工智能與人類大腦複雜程度的差距將逐漸縮小。
26.人類能主宰環境，是因爲我們擁有智能。因此，可以推想，如果存在一個更智能的實體，它便有可能主宰我們。人工智能研究員斯圖爾特·羅素將這個問題稱作“大猩猩問題”：儘管大猩猩在體能上超越任何人類，更爲強壯與堅韌，但現實是它們處於瀕危狀態或被囚禁在動物園中，是它們受人類遏制。人類雖肢體柔弱，但擁有強大的大腦，因此能夠實施遏制。
27.如果人工智能能夠通過我提出的21世紀新時代圖靈測試，那麼這對全球經濟的影響將是深遠的。許多關鍵要素已經就位。
28.在未來幾十年，人類平均壽命有望超過100歲，長命百歲將不再是難以實現的夢想。當然，這不僅關乎壽命的延長，更關乎高齡人羣過上更健康的生活。
29.生物革命與人工智能的進步正齊頭並進。想象一下，兩股浪潮洶涌匯聚，相互交融，形成前所未有的超級巨浪。
30.如今技術的挑戰在於如何遏制其釋放的力量，確保它繼續造福我們和我們的星球。這一挑戰即將顯著升級。
31.核武器在戰爭期間僅被引爆過兩次。目前，全球僅有幾個國家擁有核武器。事實上，南非在1989年完全放棄了這項技術。
32.核技術的遏制並非偶然，而是由核大國有意實施的防擴散政策所致。
33.令人憂心的現實是，人類曾試圖對核武器這一可怕的技術說“不”，但只取得了部分成功。
34.隨着多項重大國際合作的進行，大量有益的私人資本涌入至少30家核聚變初創企業，科學家討論的焦點已從“核聚變時代是否會到來”轉變爲“核聚變時代何時會到來”。儘管可能還需要10年甚至更長的時間，但一個擁有清潔的、幾乎無限能源的未來似乎正在逐漸變爲現實。
35.技術已成爲全球最重要的戰略資產。與其說技術是外交政策的工具，不如說它是外交政策的驅動力。21世紀的大國競爭，本質上是一場關於技術優勢的較量，誰能掌控即將到來的技術浪潮，誰就能在這場競賽中佔據先機。
36.在軍備競賽的邏輯下，如果一個國家選擇限制科技發展，而對手國家在不斷進步，那麼這個國家就等於選擇了失敗。
37.在“利潤引擎”的驅動下，世界經濟總值已達到85萬億美元，並且仍在不斷增長。對技術領域的人來說，從工業革命的領導者到如今硅谷的創業者，巨大的經濟回報這一強大的驅動力始終伴隨着技術發展。即將到來的技術浪潮代表着歷史上最大的經濟機遇。
38.儘管技術上的微小變化都有可能從根本上改變權力關係的平衡，但要準確預測幾十年後的情況極爲困難。技術的指數級發展擴大了每個人和每件事的影響力。然而，這也帶來了看似矛盾的趨勢。權力在被集中的同時，也在被分散。舊有勢力在得到增強的同時，也在被削弱。民族國家在變得更加脆弱的同時，也更容易陷入濫用權力的風險之中。
39.在原子彈問世幾十年後，原子彈的製造者已無法再阻止核戰爭爆發。技術所面臨的必然的挑戰在於，一旦某項發明問世並融入世界，其創造者就會迅速失去對其發展走向的控制。
40.隨着我們的工具的力量呈指數級增長，普及程度急劇攀升，它們的潛在危害也在同步激增，其後果彷彿一個複雜難料的迷宮，無人能預測或防範。
41.在某種程度上，人類的歷史就是一部災難史。隨着新的技術浪潮逼近，我們又朝着潛在的災難邁出了一大步。
42.技術遏制看起來不可能實現。但爲了所有人的利益，我們必須讓遏制成爲可能。
43.一個完全透明且基於精細監控的壓制性社會，不過是另一種失敗形態。在這種情境下，即將到來的技術浪潮不會將人類引向繁榮，而是引向繁榮的反面。
44.隨着21世紀的社會日益顯現出脆弱性和不可持續性，技術的暫停可能會引發另一種形式的反烏托邦。如果沒有新技術的支持，一切遲早都會陷入停滯，甚至可能徹底崩潰。
45.請注意：停滯不前本身就是災難
46.對技術說“不”的代價可能關乎人類的生死存亡。然而，無論我們以何種態度面對技術，其都伴隨着重大風險和潛在負面效應。這就是我們面臨的巨大困境。
47.各個技術領域存在數百個截然不同的項目，它們缺乏統一的規劃和方向。因此，我們迫切需要一個清晰明確的目標，一個能將技術領域的各種努力凝聚在一起的旗幟。
48.21世紀，人類面臨的核心問題是，如何培養足夠的政治權力和智慧，如何充分掌握技術，以及如何完善標準規範來控制技術，從而確保技術持續爲人類造福而非造成危害。換句話說，我們如何才能掌控那些看似無法控制的技術發展？
49.在一個看似無法實現技術遏制的世界裡，所有這些舉動都在爭取一個未來，一個可能實現技術遏制的未來。
50.失敗的風險之大簡直難以想象，但我們必須勇敢面對。當然，收穫成功的果實也同樣令人振奮：那將意味着我們這個寶貴物種的安全與世界的長久繁榮。這值得我們爲之奮鬥。