人工智能的出現(xiàn)將“奇點”這個概念推到了前沿，許多硅谷人相信人工智能將徹底改變?nèi)祟惿鐣?。然而，人們也?dān)心人工智能可能帶來的潛在負面后果，包括可能摧毀人類的可能性。這篇文章來自編譯，作者在文中針對“奇點”概念展開了探討，同時還探討了硅谷對人工智能的興奮和擔(dān)憂，并強調(diào)了這種技術(shù)所帶來的潛在利益和風(fēng)險。

奇點是指技術(shù)和人工智能極大地改變世界的時刻，這個概念備受期待，但同時也令硅谷感到恐懼。

雖然人們對人工智能的潛在積極影響感到興奮，但大家也擔(dān)心其可能對人類產(chǎn)生災(zāi)難性的后果。

目前，人們對人工智能和奇點的關(guān)注主要集中在大型語言模型的發(fā)展上，但人們對這些模型是否真正代表了奇點所承諾的指數(shù)級智能增長仍存在爭議。

數(shù)十年來，硅谷一直在期待一種新技術(shù)的出現(xiàn)，這種技術(shù)將會徹底改變?nèi)祟惖纳罘绞?、?jīng)濟形態(tài)、社會機構(gòu)等方方面面。它能夠讓人類和機器結(jié)合起來，可能還會帶來前所未有的機遇和挑戰(zhàn)，并且將歷史劃分為“之前”和“之后”的兩個時代。

這一里程碑的名字可以稱作“奇點”（Singularity）。

譯者注：“奇點”（Singularity）是美國科幻作家弗諾·文奇（Vernor Vinge）提出的概念，指的是一種未來可能發(fā)生的事件或情況，即人工智能的智能超越了人類智能的水平，從而引發(fā)了技術(shù)和社會的爆炸性變化，讓未來發(fā)生的事情難以預(yù)測和理解。

奇點可能以多種方式出現(xiàn)。一種可能性是，人們將計算機的處理能力融入到自己的先天智力中，讓自己變得更加強大?；蛘?，計算機可能會變得更加復(fù)雜，以至于它能夠真正思考，從而打造出一個“全球大腦”。

無論是哪種情況，都將帶來劇烈、呈指數(shù)級增長的變化，而且這些變化都不可逆轉(zhuǎn)。一臺具有自我意識的超級智能機器能夠自行進行設(shè)計、改進和升級，其速度遠遠快于任何科學(xué)家團隊，這也必然將引發(fā)一場智力爆炸。過去幾個世紀(jì)的進步可能在短短數(shù)年甚至數(shù)月內(nèi)實現(xiàn)突破性進展。奇點就是一個通向未來的彈射器。

如今，人工智能在科技、商業(yè)和政治領(lǐng)域掀起了一場前所未有的波瀾。從硅谷傳出的各種夸張言辭和荒誕論調(diào)來看，這種極度美好的未來似乎終于就要到來了。

谷歌一向低調(diào)的首席執(zhí)行官桑達爾·皮查伊（Sundar Pichai）表示，“人工智能的重要性和影響已經(jīng)超越了火、電或任何過去的技術(shù)成果”。億萬富翁投資者里德·霍夫曼（Reid Hoffman）表示，“世界將迎來一股空前的力量，這將推動整個人類社會向前邁進。”微軟聯(lián)合創(chuàng)始人比爾·蓋茨（Bill Gates）宣稱，人工智能“將改變?nèi)藗兊墓ぷ?、學(xué)習(xí)、旅行、獲得醫(yī)療保健和相互交流的方式”。

人工智能是硅谷推出的終極新產(chǎn)品，它能夠按需實現(xiàn)超越人類的能力。

但其中也隱藏著一個不容忽視的問題。這就好像科技公司在推出自動駕駛汽車時，還附帶了一條警告信息，但這些汽車在開往沃爾瑪?shù)耐局锌赡軙ā?/p>

今年五月，特斯拉和推特的負責(zé)人埃隆·馬斯克（Elon Musk）在接受美國消費者新聞與商業(yè)頻道（CNBC）采訪時表示：“人工通用智能的出現(xiàn)之所以被稱為奇點，是因為在這之后，將很難預(yù)測接下來會發(fā)生什么?！彼J(rèn)為，我們將迎來“豐盛時代”（an age of abundance），但人工智能“毀滅人類”的風(fēng)險性“仍然不可忽視”。

在科技界，人工智能的最堅定支持者是美國人工智能公司 OpenAI 的首席執(zhí)行官山姆·奧爾特曼（Sam Altman）。這家初創(chuàng)公司去年推出的 ChatGPT 聊天機器人也引發(fā)了持續(xù)的熱潮。奧爾特曼表示，人工智能將是“實現(xiàn)經(jīng)濟賦權(quán)和許多人獲得財富的最大力量”。

不過，對于創(chuàng)立開發(fā)腦機接口技術(shù)公司的馬斯克所言，他也覺得馬斯克的批評是有道理的。

前不久，奧爾特曼在一封由非營利組織“人工智能安全中心”（Center for AI Safety）發(fā)起的聯(lián)名公開信上簽字。信中表示，“防范人工智能帶來的滅絕風(fēng)險，應(yīng)該成為全球優(yōu)先關(guān)注的問題”，其重要性與“大流行病和核戰(zhàn)爭”相當(dāng)。其他簽署人包括來自 OpenAI 公司的同事以及微軟和谷歌公司的計算機科學(xué)家。

美國人工智能公司 OpenAI 的首席執(zhí)行官山姆·奧爾特曼（Sam Altman）是人工智能的最堅定支持者。圖片來源：Haiyun Jiang

滅世論在硅谷是一個熟悉、甚至是受歡迎的話題。幾年前，幾乎所有的科技領(lǐng)域高管都好像在某個偏遠地區(qū)建立了一個備有充足物資的末日避難所，以備不時之需。2016 年，奧爾特曼還表示，他“儲備了槍支、黃金、碘化鉀、抗生素、電池、水、以色列國防軍的防毒面具，并且在大蘇爾建立了一個可以直接飛過去的大型避難所?！贝罅餍械谋l(fā)，讓這些科技領(lǐng)域的末日求生者至少在一段時間內(nèi)感到他們的預(yù)見性得到了印證。

如今，他們正為奇點的到來做準(zhǔn)備。

對此，《智能幻覺》（The Intelligence Illusion）一書作者巴爾杜爾·比亞爾納松（Baldur Bjarnason）稱，“他們自認(rèn)為自己非常明智，但他們的言辭卻更像是公元 1000 年時談?wù)撃┤諉⑹镜男薜朗?。這讓人感到有些擔(dān)憂?！?/p>

“超越”的起源

“奇點”這一概念的起源可以追溯到上世紀(jì) 50 年代的計算機科學(xué)先驅(qū)約翰·馮·諾伊曼（John von Neumann）。馮·諾伊曼曾經(jīng)預(yù)言，“技術(shù)的不斷加速進步”將會引發(fā)“人類歷史上某個關(guān)鍵的奇點”。

計算機科學(xué)先驅(qū)約翰·馮·諾伊曼（John von Neumann）。圖片來源：Getty Images

英國數(shù)學(xué)家歐文·約翰·古德（Irving John Good）也是這一觀點的有力支持者。他曾在布萊切利園（Bletchley Park，二戰(zhàn)期間英國政府進行密碼解讀的主要場所）協(xié)助英國政府破解過德國的恩尼格瑪密碼機。1964 年，他寫道：“盡早建造超級智能機器是人類生存的關(guān)鍵?！?/p>

美國電影導(dǎo)演斯坦利·庫布里克（Stanley Kubrick）在執(zhí)導(dǎo)拍攝科幻電影《2001 太空漫游》（2001: A Space Odyssey）時，曾向古德請教過該影片中由善良變惡意的人工智能角色 HAL 的問題，這算是計算機科學(xué)和科幻小說之間模糊邊界的早期范例。

卡內(nèi)基梅隆大學(xué)（Carnegie Mellon University）機器人研究所兼職教授漢斯·莫拉維克（Hans Moravec）認(rèn)為，奇點時代的到來，不僅能造福于生者，也能令死者得以重生。

“我們將有機會以真實而直接的方式重新創(chuàng)造過去，并與之互動。”他在《思想之子：機器人與人類智能的未來》（Mind Children: The Future of Robot and Human Intelligence）一書中寫道。

近年來，企業(yè)家、發(fā)明家雷·庫茲韋爾（Ray Kurzweil）也是奇點的最大擁護者。庫茲韋爾在 1990 年撰寫過《智能機器時代》（The Age of Intelligent Machines）一書，2005 年撰寫過《奇點臨近》（The Singularity Is Near）一書?，F(xiàn)在，庫茲韋爾正在撰寫《奇點更加臨近》（The Singularity Is Near）一書。

他預(yù)測，在本十年末，計算機將通過圖靈測試，達到與人類難以區(qū)分的水平。再過另外十五年后，真正的超越將會到來：“屆時，計算技術(shù)將融入我們自身，我們的智力將得到大幅提升，甚至可能增加幾百倍?！?/p>

到那時，庫茲韋爾就已經(jīng) 97 歲了。借助各種維生素和補品的幫助，他希望自己能活到那一天，親眼目睹這個時代的到來。

企業(yè)家、發(fā)明家雷·庫茲韋爾（Ray Kurzweil）也是奇點的最大擁護者。圖片來源：Friso Gentsch/Picture Alliance

一些批評奇點的人認(rèn)為，奇點的概念試圖在軟件領(lǐng)域中建立一種類似于有組織宗教信仰的信念體系，其中包括對未來的預(yù)測和技術(shù)潛力的堅定信仰，但這種信仰方式可能缺乏嚴(yán)謹(jǐn)?shù)目茖W(xué)證據(jù)支持，難以讓人信服。

麻省理工學(xué)院（MIT）計算機科學(xué)和人工智能實驗室前主任羅德尼·布魯克斯（Rodney Brooks）稱，“他們都想獲得永生，卻不愿意相信‘上帝’?！?/p>

如今，“奇點”爭議中的創(chuàng)新主要涉及到的是大型語言模型（LLM），這一人工智能系統(tǒng)也是驅(qū)動聊天機器人發(fā)展的核心。與這些大型語言模型對話，它們可以迅速、連貫地回答問題，而且通常都能提供相當(dāng)有啟發(fā)性的答案。

人工智能領(lǐng)域的長期創(chuàng)業(yè)者、《人人都應(yīng)該知道的人工智能》（Artificial Intelligence: What Everyone Needs to Know）一書作者杰里·卡普蘭（Jerry Kaplan）表示，“當(dāng)你向大型語言模型提問后，它會去理解問題的含義，確定應(yīng)該給出什么樣的答案，然后將答案以書面語言形式呈現(xiàn)出來。如果這不是對通用智能的定義，那什么才是呢？”

卡普蘭還表示，他對無人駕駛汽車和加密貨幣等備受矚目的技術(shù)持懷疑態(tài)度。同樣，他之前對最新的人工智能熱潮也持有同樣的懷疑態(tài)度，但在看到人工智能所展現(xiàn)的潛力后，他已經(jīng)開始改變對人工智能的看法。

“如果這不是那個‘奇點’，那它肯定也算是一個奇點。這是一項具有重大影響的技術(shù)，它將顯著推進人類在藝術(shù)、科學(xué)和知識領(lǐng)域的發(fā)展。當(dāng)然，同時也肯定會帶來一些問題。”他補充說。

批評者反駁稱，即使大型語言模型取得了令人矚目的成果，但這也無法與奇點所描繪的巨大、全球性的智能相提并論。準(zhǔn)確區(qū)分炒作和現(xiàn)實兩者界限的部分問題在于，推動這項技術(shù)的原理和算法變得越來越難以揭示。

OpenAI 最初是一個使用開源代碼的非營利組織，如今卻轉(zhuǎn)變?yōu)闋I利性企業(yè)。有批評者指出，OpenAI 公司現(xiàn)在實際上是一個“黑匣子”，大家難以理解其內(nèi)部運作。在這方面，谷歌和微軟也存在信息公開度不高的情況。

目前許多關(guān)于人工智能的研究都是由那些能從研究成果中獲益的公司所主導(dǎo)。微軟公司（該公司已陸續(xù)向 OpenAI 公司投資 130 億美元）研究人員在今年 4 月發(fā)表的一篇研究報告中寫道，OpenAI 最新模型的初步版本“展示出了多個智能特征”，包括“抽象能力、理解能力、視覺能力、編碼能力”以及“理解人類動機和情感的能力”。

斯坦福大學(xué)（Stanford University）計算機科學(xué)博士生瑞蘭·謝弗（Rylan Schaeffer）表示，一些人工智能研究人員在描述這些大型語言模型表現(xiàn)出的“突現(xiàn)能力”方面并不準(zhǔn)確。雖然這些大型語言模型具有一些未知和難以解釋的能力，但這些能力在規(guī)模較小的語言模型版本中并不明顯或不存在。

謝弗和另外兩位斯坦福同事布蘭多·米蘭達（Brando Miranda）和桑米·科耶喬（Sanmi Koyejo）在今年 5 月發(fā)表的一篇研究論文中研究了這個問題，他們得出結(jié)論稱，這種突現(xiàn)能力只是由于測量誤差而造成的“錯覺”，并非模型大小和復(fù)雜程度的增加所致。實際上，研究人員可能會傾向于看到他們希望看到的結(jié)果。

永生不死，永利不衰

在華盛頓、倫敦和布魯塞爾，立法者都逐漸開始認(rèn)識到了人工智能帶來的機遇和問題，并開始討論有關(guān)監(jiān)管問題。奧爾特曼正在為 OpenAI 公司進行推廣路演，旨在消除早起批評，同時將其公司塑造為引領(lǐng)奇點時代的引路人。

這包括對監(jiān)管的開放態(tài)度，但具體的監(jiān)管形式目前還并不明確。不過，硅谷普遍認(rèn)為，政府機構(gòu)效率低下且缺乏專業(yè)知識，無法有效監(jiān)管快速發(fā)展的技術(shù)領(lǐng)域。

谷歌前首席執(zhí)行官埃里克·施密特（Eric Schmidt）今年早些時候在接受新聞訪談節(jié)目《與媒體見面》（Meet the Press）時表示，“政府機構(gòu)中沒有誰能夠妥善地處理這個問題”，并提出了人工智能自我監(jiān)管的觀點。“但這個行業(yè)內(nèi)部卻有能力制定大致正確的監(jiān)管措施。”他補充說。

人工智能和技術(shù)奇點一樣，大家認(rèn)為其所帶來的變化都不可逆轉(zhuǎn)。奧爾特曼和他的同事前不久表示，“要遏制人工智能的進一步發(fā)展，必須建立類似于全球監(jiān)管體系的管控機制，但即便如此，也不能保證一定能成功?！彼麄冞€稱，如果硅谷不這么做，肯定也有其他人去做這件事。

但是，目前卻很少有人討論其中產(chǎn)生的巨大利潤。盡管普遍認(rèn)為人工智能是一臺創(chuàng)造無限財富的機器，但實際上從中獲利的基本上還是那些已經(jīng)富有的人。

今年，微軟的市值已經(jīng)飆升了 5 萬億美元。生產(chǎn)運行人工智能系統(tǒng)芯片的英偉達（Nvidia），最近由于對芯片需求的激增，也成為了美國市值最高的上市公司之一。

“人工智能就是人類社會一直期望擁有的技術(shù)?！眾W爾特曼發(fā)推文說。

不可否認(rèn)的是，這的確是科技世界一直期望擁有的一項技術(shù)，它的出現(xiàn)也正好趕上了最好的時機。

去年，硅谷經(jīng)歷了裁員和利率不斷上升的雙重打擊，而加密貨幣在經(jīng)歷一段繁榮和興盛之后，也因欺詐及隨之而來的失望而迅速衰落。

“跟著錢走?！币杂哪绞矫枥L技術(shù)奇點的科幻小說《書呆子的狂想》（The Rapture of the Nerds）合著者查爾斯·斯特羅斯（Charles Stross）說。斯特羅斯也是科幻小說《漸速音》（Accelerando）的作者，在這本書中，他也以更嚴(yán)肅和認(rèn)真的口吻描繪了未來生活的樣子。

“其中真正的機會在于，企業(yè)將能夠用軟件來替代許多有缺陷、昂貴、反應(yīng)遲緩且由人工操作的信息處理單元，從而達到降本增效的目的。”他說。

長期以來，人們一直都把技術(shù)奇點想象成一場具有全球性影響的事件，能夠徹底顛覆人類的認(rèn)知體系，這一變革的威力也令人驚嘆。就目前來看，這種可能性依然存在。

然而，由于當(dāng)今硅谷對企業(yè)利潤的極端追求，這在一定程度上將導(dǎo)致技術(shù)奇點首先被用作一種裁員工具。在追求萬億市值的過程中，次要問題都可以暫時擱置。