Making Machines Serve Humans Rather Than Replace Them Understanding How Nobel Prize Winners View the Development and Risks of AI in One Article

今年諾貝爾經濟學得主是誰？
當地時間10月14日，瑞典皇家科學院宣布，將2024年諾貝爾經濟學獎授予達龍．阿西莫格魯（Daron Acemoglu）、西蒙．約翰遜（Simon Johnson）和詹姆斯．A．羅賓遜（James A. Robinson），以表彰他們「對制度如何形成及其對繁榮的影響的研究」。
評審委員會在新聞稿中稱，這三位經濟學家向大家展示了社會制度對一個國家繁榮的重要性。
「法治不健全以及剝削人口的制度的社會無法產生增長或帶來積極變化，他們的研究幫助我們理解原因。」
阿西莫格魯於1967年出生於土耳其首都伊斯坦堡，1993年以來在麻省理工學院任教，2005年獲得克拉克獎，研究領域廣泛涵蓋政治經濟學、經濟發展、經濟增長、技術變革、不平等、勞動經濟和網路經濟學等。他與本次共同獲獎的另外兩位經濟學家合著了大量論文，與羅賓遜共同著有《國家為什麼會失敗》、《狹窄的走廊》等暢銷書。
近年來，阿西莫格魯的研究重點之一是工業機器人等自動化技術對勞動力市場的影響。2023年，他與西蒙．約翰遜合著的《權力與進步》出版，該書論述了AI作為當前時代最重要的技術所面臨的困境。
「我的許多研究集中在政治經濟學和技術變革之間的相互作用，這是塑造我們能力和成長機遇的兩大力量，同時也在影響我們的政治和經濟選擇。』今年6月，阿西莫格魯在接受澎湃新聞專訪時表示。
他研究發現，當前AI的發展軌跡正在重複並加劇過去幾十年最糟糕的一些技術性錯誤。例如，過分強調自動化，而沒有為創造新任務進行充足的投資。他認為，企業掌管者需要意識到其最大的資產是工人，與其專注於削減成本，應該尋找提高工人的生產力、能力和影響力的方法。
阿西莫格魯非常擔憂AI成為將財富和權力從普通人轉移到一小群科技企業家的方式，為打破大型科技公司的政治力量，他認為「僅僅依靠反壟斷是不夠的，我們更需要將技術重新引導到對社會有益的方向」。
他提出，可以考慮三個原則引導AI發展：一是優先考慮機器有用性，二是賦予工人和公民權力，而不是試圖操縱他們，三是引入一個更好的監管框架，讓科技公司承擔責任。
以下為澎湃新聞於2024年6月16日對阿西莫格魯的專訪文章，原標題為《專訪｜麻省理工教授：擔心AI成為將財富和權力轉移至少數科技企業家的工具》。
諾獎得主如何看待當前 AI 的發展和風險？
參考消息網6月15日援引美國有線電視新聞網（CNN）報導，蘋果公司13日超越微軟，成為美國市值最高的上市公司。上週該公司在其一年一度的全球開發者大會上宣布了包括iPhone的生成式人工智慧功能在內的一系列消息，其股價因此一路攀升。
蘋果、英偉達、微軟，一直在激烈爭奪全球最有價值公司的寶座。蘋果公司在重新定義了「AI」一一蘋果智慧（Apple Intelligence）後，市值反超因AI晶片而身價暴漲的英偉達，又一路趕超微軟，重奪第一。當前蘋果的市值為3.29萬億美元，略高於微軟的3.28萬億美元。生成式人工智慧成為推動三大科技巨頭市值上漲的核心動力。
面對這股AI熱潮，美國國家經濟研究局近期發布了一篇由麻省理工學院教授達龍·阿西莫格魯（Daron Acemoglu）撰寫的論文，指出未來人工智慧（AI）進步帶來的生產力提升可能並不大，預估今後十年AI對全要素生產率（TFP）的增長上限不超過0.66%。
阿西莫格魯在文中指出，生成式人工智慧是一項很有前途的技術，但除非行業進行根本性的重新定位，包括對生成式人工智慧模型（例如大語言模型LLMs）的架構進行重大改變，以專注於可靠的資訊，來提高各行業工人的邊際生產力，而不是優先考慮開發通用的、類似人類的對話工具。
圍繞人工智慧對生產力和經濟增長的一些過度樂觀預測，阿西莫格魯持懷疑態度。他作為一名出生在土耳其的美國經濟學家，以其政治經濟學方面的研究而聞名，並且長期關注政治經濟學和技術變革之間的相互作用。
去年，他與英裔美國經濟學家西蒙·約翰遜合著了一本新書《權力與進步》（Powerand Progress）出版，談到了可能顛覆人類社會的AI革命，他們認為目前AI發展已誤入歧途，許多算法的設計是盡可能地取代人類，「但技術上取得進步的方式是讓機器對人類有用，而不是取代人類」。
Open AI技術長米拉．穆拉蒂（Mira Murati）在5月的一場活動上，就開發通用人工智慧（AGI）的爭議表示，他們不僅專注於增強模型的功能和實用性，同樣著力於確保其安全，使之與人類的價值觀保持一致，不會陷入失控，從而創建造福人類的AGI。
「隨著我越深入研究AI的能力和發展方向，越確信它當前的發展軌跡正在重複並加劇過去幾十年最糟糕的一些技術性錯誤。」
阿西莫格魯教授近日接受澎湃新聞（www.thepaper.cn）專訪時談到，AI領域的大多數頭部玩家都是由不切實際且危險的夢想驅動，即實現通用人工智慧的夢想，「這是將機器和算法置於人類之上」。
一些分析人士將阿西莫格魯視為AI悲觀主義者。他回應澎湃新聞稱，作為一個社會科學家，會更加關注一些負面的社會影響。
阿西莫格魯常常和身為麻省理工學院電子工程和電腦科學系負責人的妻子奧茲達格拉爾（Asu Ozdaglar）教授一起工作。雖然領域不同，但夫妻倆對於AI發展的看法在大方向上是一致的，不過阿西莫格魯也坦言，他的想法可能比妻子更加悲觀。
隨著人工智慧商業化的競速，AI大模型百舸爭流，但毫無疑問，像Open AI 、微軟、Google、英偉達等科技巨頭已經搶占了AI發展的先機。阿西莫格魯說，他非常擔心AI成為將財富和權力從普通人轉移到一小群科技企業家的方式，現在我們看到的「不平等」是「煤礦裡的金絲雀」。
技術與社會：最大的資產是人
Q1：您的研究涵蓋了政治經濟學、技術變革、不平等等多個領域。在怎樣的背景和契機之下，您開始關注技術發展對不平等的作用？您最初對技術發展的看法是什麼，又如何演變為現在所主張的「當前人工智慧的發展路徑既不利於經濟也不利於民主」？
阿西莫格魯：
我的許多研究集中在政治經濟學和技術變革之間的相互作用，這是塑造我們能力和成長機遇的兩大力量，同時也在影響我們的政治和經濟選擇。
AI已經成為這個時代最重要的技術，一方面因為它吸引了大量的關注和投資，另一方面因為它取得了一些引人矚目的進步，尤其是隨著GPU性能的提高。還有部分原因是AI無處不在的影響。這些因素促使我在這一領域進行研究。
隨著我越深入研究AI的能力和發展方向，越確信它當前的發展軌跡正在重複並加劇過去幾十年最糟糕的一些技術性錯誤——過分強調自動化，就像我們優先考慮自動化和其他數位技術，而沒有為創造新任務進行充足的投資；以及社交平台試圖利用人們的數據和興趣盈利，因此犯下的所有錯誤。
我還特別關注這樣一個事實，AI領域的大多數頭部玩家都是由不切實際且危險的夢想驅動，即實現通用人工智慧的夢想，這是將機器和算法置於人類之上，也通常是這些頭部玩家凌駕於其他人的一種方式。
Q2：先進的計算機技術和網路讓許多富翁實現了財富轉移，並使科技巨頭空前強大。儘管如此，我們依然接受這樣的技術革新，因為它也帶來了積極的影響。技術變革有利有弊，從歷史來看社會總能找到適應新技術的方式。新一輪科技浪潮席捲而來，您為什麼認為不平等問題特別令人擔憂？
阿西莫格魯：
當談及社交平台和人工智慧時，我同意上述說法，但是涉及網路情況就不同了，我有不同的意見。我認為網路在某些方面使用不當，當然也不否認網路是一項非常有益的技術，在達成人與人的聯通、向人們提供資訊以及為創造新服務和平台方面，它發揮了非常重要的作用。
對於人工智慧，我非常擔心它成為將財富和權力從普通人轉移到一小群科技企業家的方式。問題是我們沒有任何必要的控制機制以確保普通人從AI中獲利，比如強有力的監管、工人參與、公民社會和民主監督。我們看到的「不平等」是「煤礦裡的金絲雀」，意味著更糟糕的事即將到來。
Q3: 您指出自動化造成的不平等是「企業和社會在選擇如何使用技術後導緻的結果」。隨著科技巨頭市場能力和影響力壯大甚至可能失控，我們應對的關鍵是什麼？如果您擔任一家大型科技公司的CEO，會如何利用AI來管理這家公司？
阿西莫格魯：
我對CEO們的建議是，要意識到他們最大的資產是工人，與其專注於削減成本，應該尋找提高工人的生產力、能力和影響力的方法。這表明要使用新技術為工人創造新的任務、開拓新的能力。
當然，自動化是有益的，我們也必然會在未來更多地應用自動化，但這不是為了提高生產力所唯一能做的，自動化也不應該是CEO們唯一追求和優先考慮的事情。
Q4：美國反壟斷執法者已經公開表達了對人工智慧的一系列擔憂，美國司法部和聯邦貿易委員會據稱達成了一項協議，為微軟、OpenAI和英偉達的反壟斷調查鋪平了道路。這種針對大型科技公司的反壟斷行動是否能真正地增加市場競爭並避免AI發展被少數公司所主導？
阿西莫格魯：
絕對能夠起到作用，反壟斷很重要，科技行業一些問題的根源在於美國缺乏反壟斷執法。五大科技公司都在他們所在的領域確立了牢固的壟斷地位，因為他們能夠在沒有任何監管的情況下收購潛在的競爭對手。在某些情況下，他們為了鞏固壟斷地位，購買並停用了可能與他們構成競爭的技術，我們絕對需要反壟斷，以打破大型科技公司的政治力量，這種力量在過去三十年變得非常強大。
但我也想強調，僅僅反壟斷是不夠的，我們更需要將技術重新引導到對社會有益的方向。如果僅僅將Meta拆分為Facebook、Instagram和WhatsApp，是不可能實現（增加市場競爭和避免少數公司主導AI發展）。在AI領域，如果擔心AI技術被用於操縱、監視或其他惡意目的，反壟斷本身不會是解決方案，反壟斷必須與更廣泛的監管議程相結合。
技術與人：如何避免重蹈覆轍
Q5：您一直強調「機器有用性」（machine usefulness），即「試圖讓機器對人類更有利」。您認為應該如何實現這一目標？無法達成這樣的目標會出現什麼後果？
阿西莫格魯：
這與上述給CEO們的建議有關。我們想要的是能夠拓展人類能力的機器，就AI而言，有很大的可能性達成這一點。AI是一種資訊技術，所以我們應該考慮什麼樣的AI工具可以為人類決策者提供有用、情境依賴的即時資訊，可以利用AI工具使人類成為更好的問題解決者，能夠執行更複雜的任務。
這不僅僅是針對創意工作者、學者或記者，對於藍領工人、電工、水管工、醫療保健工作者以及所有其他職業都是如此。更好地獲取資訊可以推動產生更明智的決策和執行更高層次的任務，這就是機器有用性的意義所在。
Q6：您建議對工人勞動給予公平的稅收待遇。對設備和軟體像對待人類雇員一樣徵稅，或者進行稅收改革以鼓勵就業而不是自動化，這些是實際可行的解決方案嗎？
阿西莫格魯：
是的，我與西蒙．約翰遜在《權力與進步》中共同提出，一個更公平的稅收制度可以作為解決方案的一部分。在美國，在企業雇傭勞動力時面臨的邊際稅率超過30%。當他們使用計算機設備或其他機械執行相同任務時，稅率不到5%，這就為自動化提供了過度的激勵，同時阻礙了就業和對培訓及人力資本的投資。將資本和勞動力的邊際稅率統一到相同水平是一個合理的政策想法。
Q7：您提議進行稅收改革，以獎勵就業而不是自動化。這樣的改革將如何影響企業對自動化技術的應用和投資？
阿西莫格魯：
在這方面必須要謹慎，不要打擊投資，特別是在許多國家需要快速增長，需要在可再生能源和醫療保健技術等領域注入新的投資。但如果我們能鼓勵技術以正確的方式發展，這對企業也是有好處的。因此我的提議是消除對自動化的過度激勵，並希望它能以一種不會普遍打擊商業投資的方式實現。
Q8：社交平台的快速發展帶來了一些負面的影響，例如資訊泡沫和錯誤資訊的傳播。您認為我們如何避免在人工智慧的進一步發展中重複同樣的錯誤？
阿西莫格魯：
有三個原則有助於避免重蹈覆轍：（1）優先考慮機器有用性，正如我主張的那樣；（2）賦予工人和公民權力，而不是試圖操縱他們；（3）引入一個更好的監管框架，讓科技公司承擔責任。
技術與行業：數字廣告稅讓行業更具競爭力
Q9：技術專家賈倫·拉尼爾強調網路用戶的數據所有權問題。您認為在政策上，個人數據的所有權和控制應該如何得到更好的保護？
阿西莫格魯：
我認為這是一個重要的方向。首先，我們將需要越來越多的高品質數據，而生產這些數據的最佳方式是通過獎勵創造高品質數據的人，數據市場可以實現這一點。第二，數據目前正被科技公司掠奪，這不公平也不高效。
然而，關鍵在於數據市場並不像水果市場那樣，我的數據通常可以高度替代你的數據，所以如果科技公司可以與個人談判購買他們的數據，就會出現「逐底競爭」（race to the bottom），這樣做的行政成本會非常高。所以我認為，運行良好的數據市場需要某種形式的集體數據所有權，可以是數據工會或數據行業協會，或其他集體組織的形式。
Q10：您怎麼看引入數位廣告稅以限制由算法驅動的錯誤資訊進行盈利？這樣的稅收政策可能對數字廣告行業和資訊傳播產生什麼影響？
阿西莫格魯：
我支持數位廣告稅，因為基於數位廣告的商業模式極具操縱性，它們與創造情感憤怒、數位成癮、極端嫉妒和資訊繭房的策略是協同的。它們也能與利用個人數據的商業模式相協同，會導致心理健康問題、社會兩極分化、民主公民減少等負面後果。
更糟糕的是，如果要像我建議的那樣重新制定AI的發展方向，我們需要引入新的商業模式和新平台，但如今基於數位廣告的商業模式使之失去了可能性。你無法基於用戶訂閱啟動一個新的社交平台，無法複製維基百科的成功，因為你反對那種提供免費服務並擁有大量客戶基礎的公司。所以，我將數位廣告稅視為使科技行業更具競爭力的一種方式：獲取用戶數據並通過數位廣告盈利的「低級手段」如果能夠被遏制，就會湧現新的商業模式和更多樣化的產品。
Q11：能否分享一些您所認為的未來技術發展可能帶來的積極變化，以及我們應該如何準備並推動這些變化？
阿西莫格魯：
如果我們正確使用人工智慧，可以提高各行各業工人的職業技能，也可以改進科學發現的過程。我還認為有一些方法能夠民主地使用AI。
本文合作授權轉載：
深潮