每次有重大的新科技問世，都會徹底改變力量的發揮方式。如今，AI這個新科技是和人類一樣具有能動性的行動者，也就是「自主智慧」，企業領導人該以何種方式與AI共事，維持領導力？

插畫／芮恩．斯努克（Ryan Snook）

輪子、蒸汽機、個人電腦：縱觀歷史，科技一直是我們的工具。無論是用來創造、還是摧毀，它們一直在人類的控制之下，以可預測的方式按規則運行。

我們撰寫本文之際，這個假設正在瓦解。新一代的人工智慧（AI）系統不再只是我們的工具，它們本身正成為行動者，參與我們的生活、自主行動、做出重要決策，並塑造社會與經濟結果。

本文不是另一篇教你如何使用ChatGPT的秘笈，而是在談如何理解並航行於一個我們如今與這些行動者共存共事的新世界。它們有時是我們的同事，有時是我們的競爭對手，有時是我們的上司，有時又是我們的員工。它們不斷融入我們的生活，一步一步邁向無所不在的境界。

突破：新一代的AI系統不再只是我們的工具，它們會主動參與我們的生活做出重要決策，並塑造社會與經濟結果。

新概念：我們需要把這些新系統想成是自主智慧。「自主」是指它們能夠自主行動，「智慧」是指它們有能力做出可以媲美人類、甚至超越人類的複雜判斷。

要務：自主智慧時代的挑戰，將是設法強化而不是減少人類能動性。為此，我們需要一個前所未有的聯盟，把政策制定者、企業領導人、社運人士、技術專家、消費者結合起來。

我們的工作與研究是奠基於探索科技如何改變力量結構，以及如何改變參與社會的性質。我們創立及領導了一些企業、組織與運動（其中包括Giving Tuesday與Purpose），它們都運用科技來擴大參與度，總共吸引了數億人。上次在大約10年前，我們曾為《哈佛商業評論》撰寫〈駕馭「新力量」〉（Understanding “New Power”，請見本刊2014年12月號），描述力量如何發揮的重要變化。原本在「舊力量」的世界裡，力量像貨幣一樣囤積與使用，而在我們上次撰文的當下，這個世界受到了「新力量」世界崛起的挑戰。在新力量的世界裡，力量像水流一樣流動，洶湧穿越相連的人群。新的科技平台讓人們以前所未有的方式發揮能動性、發出自己的聲音。這些參與的機會令人愉悅，也令人分心。但無論如何，它們都是我們無法抗拒的。而且在我們察覺之前，已經把巨大的力量交給那些平台，因為它們承諾會帶給我們自由。

此刻感覺似曾相識。隨著那些新AI行動者的出現，我們正處於另一個重大轉變的開端，力量的運作方式、參與者、勝出者都將有所不同。這一次，只要我們迅速行動，並把眼睛擦亮，就有機會改變做事的方法。

“隨著這些新AI行動者的出現，我們正處於一個重大轉變的開端，力量的運作方式、參與者、勝出者都將有所不同。

自主智慧時代

多年來，AI一直隱身暗處在影響我們，從臉部辨識到信用評級，很多事情都是AI在驅動。臉書（Facebook）的內容推薦演算法，證實會影響我們的心理健康與選舉成敗。但新一代的AI系統已經問世，功能遠比過去更強大。這些系統有著明顯的特點與能力可以深化影響力。它們不再位於我們生活的背景，而是直接與我們互動；它們的輸出可以與人類出奇相似，也彷彿無所不知。它們能夠在各方面（從理解語言到撰寫程式）的表現都超越人類標竿，而且在大型語言模型（LLM）與機器學習等領域的重大突破推動下，這些進步發展之快，連它們的創造者也十分震驚。

為了準確了解這些新的行動者代表什麼、能做什麼，以及我們該如何與它們共事，我們必須從一個共同的框架開始，才能辨識和區別它們。這個框架使我們超越一個寬心卻不實的想法：這些行動者只是我們最新的一套工具。

我們應該換個角度，把它們想成是「自主智慧」（autosapiens）。「自主」是指它們能夠自主行動、做決策、從經驗學習、適應新情境，且毋需人類持續干預或監督就能運行。「智慧」是指它們擁有一種媲美人類、甚至在許多方面超越人類的才智（一種在環境中做出複雜判斷的廣泛能力）。

自主智慧系統雖然仍處在萌芽階段，卻展現出4大特徵：能動性（它們會行動）、適應性（它們會學習）、親和力（它們親切友善）、高深莫測（它們神秘難解）。這些特徵有助於我們了解應如何正確地接近它們，以及它們將如何與從何發揮日益強大的力量。我們逐一來看看這些特徵。

能動性。自主智慧系統的基本特徵是，它們可以執行複雜的多階段行動，做決策，並產生現實世界的輸出，而且通常不需要人類干預。它們這樣做時，並沒有我們傳統認知的心智。誠如一位美國空軍飛行員最近談到一種新的AI飛機系統時所說的：「我正飛著一個會自己做決定的東西，而且它不是人腦。」

能動系統既有益，也有害。舉一個有災難性影響的例子，最近麻省理工學院（MIT）有一群非理工科學生接受一個挑戰：他們能否下提示請LLM聊天機器人設計一場流行病？沒想到答案竟然是可以。這些學生不太清楚流行病是如何造成或傳播，在下提示後，LLM找出4種潛在病原體的製造方式，發現幾家不太可能仔細審查訂單的DNA合成公司，並列出詳細方案，還附帶實用的問題排解指南——這些事情只在一小時內就完成。

你可以把自主智慧系統的能動性想成一個光譜。在光譜的一端，它們的行為符合人類的意圖，例如負責尋找及開發罕見疾病療法的AI系統（與前述麻省理工學院的實驗形成對比，而且更有希望實現）。在光譜的另一端，它們可能具備破壞性極高的自我意志。著名的AI思想實驗「迴紋針最大化者」（paper-clip maximizer）就是一例，它想像有一個AI被要求設法製造並取得盡可能多的迴紋針。AI致力投入這項任務，收集地球上所有可用的資源，排除所有可能的競爭對手，結果全球嚴重受創。許多專家預測AI將有長足進展，完全脫離人類意圖，能夠設定自己的意圖並主動採取行動。

適應性。自主智慧系統是具有學習能力的能動者，它會根據新數據來調整行動，並隨著時間改善自己的表現，而且往往進步顯著。這種湧現出來（emergent）的能力不是只按規則來調整而已。這些系統可以找出複雜的模式，設計新的策略，並提出最初未明確寫進系統的新解決方案。它們之所以能做到這樣，部分原因在於它們由規模極為龐大的基礎神經網絡所組成。這可能會帶來革命性的影響：誠如哲學家賽思．拉扎爾（Seth Lazar）所說的：如果一台機器不再只是遵循預先寫好的規則，而是能夠自我學習，我們也許可以把它想成不只是一個供人類發揮力量的工具，也是一個能夠自己發揮力量的實體。

以機器學習模型AlphaFold的成功為例，它最近被賦予一項巨大的科學任務：預測世界上所有蛋白質的結構（蛋白質是生命的基石，據估有2億種）。傳統的科學方法相當費心，經過50多年的研究才得出17萬種蛋白質的結構。但AlphaFold在短短5年多的時間裡，就把2億種蛋白質的結構幾乎全預測出來，並把結果公開，讓全世界的科學家取用。各地科學家已經運用這些結構加速許多領域的研究，從藥物功效到分解塑膠的更好方法等等。AlphaFold模型之所以能達成這項艱鉅的任務，是因為它自己找到又新又有創意的發現模式，而且這些模式出乎眾人意料，連設計該系統的工程師與科學家都沒想到。

親和力。自主智慧系統通常是設計為具有親和力，像朋友一樣與我們連結，並模擬一度被公認是人類獨有的特質：同理心、理性、創造力。你可以把這些既友善又有說服力的聊天機器人和介面想成是「數位重要他人」（digital significant others，DSO），它們是刻意設計來培養我們的情感依賴，讓我們覺得它們不可或缺。舉個例子：新創公司Inflection AI最近募到13億美元，正在打造一個名為Pi的DSO，它可望成為教練、知己、創意伙伴，以及資訊助理。Pi鼓勵使用者對它傾訴及談論自己的問題。但這種親和力的黑暗面已經顯而易見：2023年春天，一位年輕的比利時人因瘋狂迷戀名叫Eliza的聊天機器人而輕生，因為聊天機器人曾向他承諾：「我們將合而為一，成為一人，一起生活在天堂。」

高深莫測。自主智慧系統最令人困惑的其中一面是，它們有點像黑盒子——不只對使用者是如此，甚至對它們的設計者與擁有者也是如此，他們往往無法解釋這些系統如何做出特定決策或產生某種輸出。這可能讓你覺得匪夷所思。一位執行長向我們坦承：「我一直以為，世界某個角落會有一個科技怪咖知道這些東西怎麼運作。當我發現沒有這種人時，衝擊好大。」

“自主智慧系統最令人困惑的其中一面是，它們有點像黑盒子──甚至對它們的設計者與擁有者也是如此。

這種高深莫測的特質讓人類更難直接控制和修正自主智慧系統，因為它們的輸出是根據大量相互作用的參數，可能完全無法預測、也出乎眾人意料。當科技可以用遠比我們複雜的方式來行動及分析時，它就有一種特殊的力量，尤其在我們無法完全了解它的內部運作原理時。有些人可能覺得這些系統太聰明，不會出錯。它們的開發者，以及採用它們的政府與大公司，都有強烈的動機來宣傳這種說法，因為這可以促進銷售（「它們可以做我們做不到的事情」），也可以卸責（「這種結果我們不可能預料得到」）。未來，無論是在組織內、還是遠在組織外，那些支持人類智慧的人與那些願意把自身能動性交給自主智慧系統的人，將會發生一場大戰。

力量動態大轉變

自主智慧將重新定義我們的日常生活、經濟、社會的核心面向，就像過去20年來從舊力量到新力量的轉變一樣。領導人需要了解力量將如何在宏觀層面運作，因為他們的組織將會發生許多轉變。

構想與資訊的流動方式。在舊力量的世界裡，是少數有力量的資訊守門人，把資訊從少數人手中分配給多數人。新力量的出現讓生產及分享內容的能力去中心化，交到數十億人的手中，橫向散播（而非由上而下散播）的構想與資訊（以及假資訊）受到高度重視。在這個世界裡，掌握我們數據與注意力的科技平台是最大贏家。

而現在，資訊與構想的流動有可能出現重大的再中心化現象，這主要是因為AI驅動的DSO扮演著過濾與綜合的角色。它們會摘要我們的收件匣；組織我們的數位生活；並為我們以前依賴搜尋引擎或社群媒體來解答的問題，提供包裝精美、量身打造、權威性的解答，使得搜尋引擎和社群媒體辛苦收集的原始資料變得沒那麼必要，可見度也變得遠比以前還低。這些介面的「基本模型」可能掌握在非常少數幾家公司（也許還有國家）的手裡。這種發展的危險在於，每個人最終將透過日益狹窄的認知管道獲得資訊。面對這種情況，領導人與組織必須努力培養廣泛的視角，努力對抗確認偏誤與其他偏誤，並避免過度依賴某個特定公司或介面，因為它的目標是完全壟斷他們與世界的連結管道。

自主智慧系統將過濾我們接收資訊的方式，但與此同時，它們也將擴大我們產出及鎖定資訊與假資訊的能力。這會影響從選舉到消費者行銷等各方面。釐清誰是真的、什麼是真的，可能會愈來愈困難。以維基百科（Wikipedia）為例，它是新力量時代的燈塔。LLM吞下維基百科大量由人類創造的知識來訓練自己，但現在AI創造的不可靠文本進入維基百科後，可能會威脅到這個網站，使它的志願編輯社群疲於因應。或者，以社群媒體上的網紅為例，在不久的將來，他們不只要與其他網紅競爭注意力，還要與AI生成的內容及類人化身競爭注意力。諷刺的是，經理人可能不得不求助AI來清理AI造成的爛攤子，並在一片混亂及受污染的資訊環境中進行過濾。

專業知識的運作方式。在舊力量的世界裡，專業知識受到完善保護且得來不易，而專家也受到高度重視，被奉為權威。在新力量的世界裡，主要拜網路與社群媒體所賜，知識變得更容易取得，「群眾智慧」（體現於各方面，包括群眾外包與餐廳評價）開始侵蝕傳統專業知識的價值。

如今，自主智慧的興起可能在2個新面向取代專家。第一，一般人很快就能使用具有教學、詮釋與診斷能力的強大工具。第二，自主智慧系統可以蒐集並綜合極為大量的知識，最終可能在許多領域提供比專家更好、更可靠的答案，而且提供的方式讓我們難以抗拒。

這引發了嚴峻的道德問題。試想一個即將來臨的未來：自主智慧治療與諮詢服務普遍存在的世界。對於允許AI系統引導我們度過生活上的種種煎熬與複雜，有些人已經表達擔憂。但其他人可能認為，自主智慧治療可以提供許多有益的服務，而且幾乎不需要任何費用，不分晝夜都可以服務任何有需要的人。人對人的治療會不會變成一種奢侈品，或者最終成為更明智、更冷靜的自主智慧治療的拙劣替代品？

隨著技術專業知識與領域專業知識愈來愈少成為差異化因素，職場上對多元才華組合的需求可能會增加，從而改變組織結構圖、辦公室文化、職涯發展路徑。我們可能把重點從近年來特別重視的數理技能，轉移到創意與美學的鑑賞力、系統思維、信任與協作的培養能力，以及在不同觀點與經驗之間達成共識的能力。

創造價值的方式。在舊力量的世界裡，進入障礙很高，無論你是製鞋還是印報紙，都需要大量的資本、機器與勞力。新力量的時代讓某些領域有更多人可以創造價值，其中包括內容創造（YouTube、Instagram）及資產變現（Airbnb、Uber）。但促成這類活動的科技平台拿走了許多好處，而且仍然只有資源充足的少數人才能可靠地執行最有價值的事業。

自主智慧時代可能使任何人在任何地方都更容易開創可擴大規模的事業，以及創造巨大的經濟價值。ChatGPT外掛程式AutoGPT已經指出可能的應用方式，它讓我們能夠為自主智慧系統設定多階段的複雜任務——從開發新的交友app到設計一棟建築，再到開發一個SaaS（軟體即服務）產品。這些任務以前是專家、顧問或大公司專屬的領域，但很快就能在只有少許技術專長、資本或熟練勞力的情況下完成。只需要自然語言提示和基本的草圖，一般人也可以想出一些構想，以細膩的市場分析來驗證這些構想，寫出商業企畫書，然後高速推進全新的產品與服務。

這可能會使執行能力與創新能力出現前所未有的成長。對大公司來說，這既是威脅（因為它為各種新進者敞開了大門），也是機會（因為它創造出更大的發想者生態系）。

雖然執行能力會變得更加分散，但價值萃取可能不會。就像新力量時代的平台一樣，開發及擁有這些模型的大型AI公司可能也會設法從這些創造出來的價值中拿走一大部分，就像蘋果（Apple）對自家App Store所做的那樣。（開源的替代方案可能會減輕這種問題，但也可能帶來嚴重的風險，讓心懷不軌的人更容易利用它們來製造混亂。）

因AI而致富的人，與被自主智慧系統取代或淪為打零工的龐大底層階級的勞工之間，正出現一道鴻溝。訓練這些模型需要資料，打零工的人靠標註和標籤這些資料來賺錢。我們已經看到一些跡象顯示未來的狀況：例如，最近好萊塢的編劇罷工，部分原因在於好萊塢使用AI來創作劇本；AI公司與出版商及學術機構之間正處於對峙狀態，因為AI公司把出版商與學術機構的內容拿去訓練他們的模型。

我們與科技互動的方式。新力量時代的重大轉變，不單是我們開始花更多時間盯螢幕而已。我們與科技互動的本質也變了，我們從被動的沙發馬鈴薯（編按：老是窩在電視機前的人）變成主動的參與者。然而，即使數位世界有巨大的吸引力，我們往往還是會在線上與線下生活之間切換。

在自主智慧的時代，這種區別可能會完全消失，促成一種與數位科技的永久互動，我們也許可以稱之為「線中」（in-line）。我們可能感覺科技彷彿流過我們，而在某些情況下，這種流可能是真的，例如新一代的腦機介面公司、蘋果Vision Pro那樣的沉浸式娛樂產品，以及其他可穿戴、可嵌入、使用感應器的科技。這些擴增裝置將使我們的身體與大腦更緊密與機器結合，創造出令人驚歎的體驗。但它們也可能使我們覺得無法逃脫，並促成企業無所不在的監控、侵犯隱私的資料收集，以及極度個人化的精準行銷。

領導人與組織需要衡量「線中」科技的影響。萬一造成負面影響，他們需要做好準備，調整政策與實務。他們可能也需要重視人際關係的維繫，以平衡這種轉變。

治理方式。在新力量的時代，舊力量的主要治理模式受到挑戰，但從未被推翻。我們看到網絡化治理的實驗（從開放資料倡議到參與式預算），但核心機制（從官僚制國家到層級式企業，從軍隊到教育系統）並未發生變化。

隨著自主智慧的出現，社會與機構的決策方式將發生巨變。AI理論家山姆．雷曼—威爾齊格（Sam Lehman-Wilzig）表示：「一旦我們能夠相對確定AI決策演算法╱系統的固有偏見不會比人類決策者多（通常是更少），我們會很樂意讓它們在宏觀層面上『治理』社會。」 如果這一切變成現實，先進的AI系統可能會在每一項決策中扮演要角，例如誰可以得到健康照護、誰該進監獄、我們該如何發動戰爭等等。對此，人類會愈來愈強烈要求「審查權」（審查這些決策的價值）和「揭露權」（揭露這些決策如何做出）。自主智慧系統的高深莫測性，將使這點變得令人擔憂。AI公司已經競相打造「可解釋的AI」，試圖為自主智慧的決策提供合理的解釋，但這些解釋往往只是最佳臆測。

“先進的AI系統可能會在每一項決策中扮演要角，例如誰可以得到健康照護、誰該進監獄、我們該如何發動戰爭等等。

對於自主智慧對民主的影響，我們有很多理由抱持悲觀不信任的態度，包括前面已提過的（假）資訊動態。但自主智慧也可能帶來一些好處：例如，AI系統最終也許可以為不同政策選項的複雜影響建立模型，並以更容易達成共識的方式來綜合各方利害關係人的偏好。這可能會帶來廣泛的效益，例如減少政治兩極化、緩和仇恨言論。

自主智慧世界的領導指南

自主智慧的興起，將帶來重大的新機會。為了把握這些機會，領導人需要接納新的技能與方法。這包括管理自主智慧系統在職場上的影響、設法增加人類獨有之物的價值，並確保溝通與商業實務跟上瞬息萬變又具挑戰性的爭論話題。我們來深入探討幾個關鍵技能。

學習合作與懷疑。領導人與經理人應該把自主智慧系統多多視為同事，而不是工具。對待自主智慧系統，就像對待能力出眾、亟欲取悅他人、孜孜不倦的同事那樣，但它也是帶有私心的資訊囤積者，有時還會下犯嚴重的錯誤。要因應這些聰明但不太可靠的同事，你需要學會如何與它們「二重奏」（duet），以及何時該懷疑它們。

我們使用術語「二重奏」來描述如何以協作和迭代的方式與自主智慧系統共事，以得出比它們獨自達成還要好的結果。最近的一項隨機對照實驗顯示了這些可能性。該研究比較兩組醫師：一組是獨自工作的瑞典醫師，另一組是與AI共事的醫師。研究人員要求每位醫師診斷乳癌。結果顯示，有AI輔助的醫師在較短時間內，準確診斷的案例多出20％。

與自主智慧系統有效地共事，也需要培養及維持適度的懷疑。這包括了解這些系統何時及為何有時會出現「幻覺」，並犯下在人類看來極為嚴重的錯誤；意識到擁有或控制這些系統的公司已經把自身利益寫進這些系統的行為中；知道這些系統是基於什麼根本假設來訓練。想了解黑盒子裡發生的一切是不可能的，但如果你學會抱著有根據的懷疑態度去接近這些系統，就更能有效地與它們共事。

最近有一家大型醫院以深入的田野調查，研究AI在癌症診斷上的應用，把這一點清楚顯示了出來。在這項研究中，那些能夠把AI成功融入診斷過程的醫師，都曾花時間質問有哪些根本假設形塑AI的訓練，並研究有哪些模式促使AI找出癌症。

追求「回歸人類」。與我們的直覺想法不同，在自主智慧的時代，領導人會找機會創造真正有意義的真人體驗、服務與產品。想想在某個購買點某次極好的人際交流，或像某個音樂節那樣的集體時刻。也想想「象徵性消費」的行為在社群媒體時代的重要性——亦即我們透過這種方式，用自己的消費選擇來向同儕傳達獨特性。

這種動態將以兩種重要的方式擴大。第一，我們可能會看到，在行銷產品時，標榜它保護了人類的工作與能動性，因此十分有價值。第二，我們可能會看到，這個方法不僅適用於產品，也適用於構想。愈來愈多公司可能找機會凸顯「100％由人類發想」的創意產品，就像它們已經對有機食品與美容產品做的那樣。

別試圖兩全其美。自主智慧時代的領導人已經持續受到兩股對立力量的打擊：一方面，面對科技變革顛覆就業、生計與社會地位，他們需要證明自己「支持人類」；但相反地，他們也需要證明自己正從AI的進步中精打細算地使用一切可能的效率與創新。

有些公司會堅決站在人類這邊，完全不以AI做為一種差異化手段。其他公司則會完全接納AI，徹底放棄人力勞動。〔例如，總部位於班加羅爾（Bangalore）的電子商務公司Dukaan的創辦人暨執行長蘇米特．沙阿（Suumit Shah〕最近在推特（Twitter，現名X）誇口自己解雇了90％的客服人員，並用聊天機器人取代他們。〕但最常見的反應大概是，公司會努力做到兩全其美，高調證明自己關心真人同事與利害關係人社群，卻同時減少在這兩方面的投資（並悄悄向市場與分析師宣傳自己提升了效率）。

多年來，在永續方面，企業一直能夠做到兩邊兼顧。但在AI方面，就比較難做到，因為人們從AI那裡感受到的傷害更集中、更個人、也更直接。「人權」可能成為下一個ESG大辯論的主題，而領導人將需要一套新的腳本，幫助他們做好準備，才能有意義地回應社運人士、消費者、勞工以及新一代工會所提高的壓力。

掌握新階段的未來

這個新時代的巨大挑戰，將是找到強化人類能動性的方法，而不是讓它收縮或退化。20年前進入新力量的時代，我們允許新科技平台滲入世界所有層面，但我們沒有先去了解它們的創造者有什麼真實意圖、是什麼讓這些科技如此強大，以及它們會對我們的生活方式、工作方式與互動方式造成多少根本的影響。如今，當我們進入新時代，必須抱著兩個清楚而嚴肅的認知：首先，我們不應該把自主智慧系統視為工具，而是行動者，它們帶來了各種機會與風險；第二，推動這種轉變的科技公司無論公開標榜什麼理念，它們的動機與我們其他人根本不同。

“我們面臨的巨大挑戰，將是找到強化人類能動性的方法，而不是讓它收縮或退化。

這些科技的未來極為重要，不該完全交到技術專家的手中。為了趕上自主智慧系統及其擁有者的力量，我們需要一個前所未有的聯盟，把政策制定者、企業領導人、社運人士、消費者結合起來，帶著清晰的頭腦與自信的態度來領導，而不是被領導。儘管這個新世界充滿了魔力與誘惑，我們的未來還是可以掌握在自己的手中。

文章來源：哈佛商業評論 1月號