2015 年 1 月，某個星期天的下午。未來生命研究所在加勒比海的小島上，舉行了一場神秘的會議。
當(dāng)時的天氣不算太好，厚厚的云層快要壓到頭頂。由于會議高度保密，媒體記者被禁止參加，參會者也不許私下公開看法，這增添了不少神秘色彩。
會議結(jié)束前，風(fēng)頭正盛的馬斯克壓軸登場，大手一揮，宣布捐贈 1000 萬美元。
后來，這場會議被稱為 " 波黎多各會議 "。參會者都是 AI 領(lǐng)域的研究者和企業(yè)家。他們在討論 " 智力爆炸 " 問題，以及這事對人類的威脅。馬斯克捐款，就是為了對抗 " 邪惡的 AI"。
乍一聽，有些嚇人。
AI 加速年代
" 波黎多各會議 " 那一年，沒有阿爾法狗，更沒有 ChatGPT，人工智能還處在寒冬期的末尾。這時候討論人工智能暴走失控，多少顯得有些不合時宜。
不過，事情很快就要出現(xiàn)轉(zhuǎn)機。
這年底，馬斯克拉著自己的小伙伴彼得 · 泰爾，以及還在硅谷 YC 當(dāng)總裁的奧特曼，一起創(chuàng)立了 OpenAI。
馬斯克承諾拿出十億美元，監(jiān)控人工智能技術(shù)發(fā)展，避免人類浩劫。
可能對大部分普通人來說，我們頻繁聽到、看到 AI，是因為 ChatGPT 的出現(xiàn)。可以看看谷歌搜索指數(shù)：過去 10 年的大部分時間里，人們對 AI 的關(guān)注度都極其平緩。直到 ChatGPT 的出現(xiàn)，才掀起了新一波討論。
但和普通人感知不同的是，這波 AI 浪潮來臨，其實要稍早幾年。
2015 年的會議結(jié)束后，開始有大量的資本瘋狂涌入人工智能領(lǐng)域。短短 5 年內(nèi)，發(fā)生在 AI 公司身上的投資量，幾乎翻了 6 倍多。這其中，風(fēng)險投資和合并收購激增。
2021 年，這個數(shù)字達(dá)到了頂峰，3374 億美元——這幾乎是 8 年前的 20 倍。如我們所知的那樣，錢來自也流向少數(shù)玩家。（當(dāng)然你會發(fā)現(xiàn)，2021 年似乎已經(jīng)成為一個新的拐點。此后多項數(shù)據(jù)都在下降。這是另外一個問題，以后會談到。）
在這段時間里，人工智能技術(shù)的發(fā)展也迎來了幾個里程碑。AlphaGo 戰(zhàn)勝人類、Transformer 誕生、ChatGPT 出世……這些事情，都發(fā)生在過去 10 年里。同時，AI 領(lǐng)域的專利數(shù)量也出現(xiàn)激增。
2012 年，辛頓團隊的新神經(jīng)算法 AlexNet，奪得了 ImageNet 圖像識別的冠軍。
參與這個項目的辛頓學(xué)生，一個去了 OpenAI，成為 ChatGPT 背后的那個男人；一個加入谷歌，后來選擇隱退。
AlexNet 震驚了業(yè)界，促使了深度學(xué)習(xí)的爆發(fā)，為這波 AI 浪潮積蓄了力量。AlexNet 僅僅用了 4 顆英偉達(dá) GPU，就實現(xiàn)了 84% 的準(zhǔn)確率。而谷歌達(dá)成類似的效果，用了 16000 顆 CPU。
英偉達(dá)和它的 GPU，自此隆重登上歷史舞臺。
過去 10 年，人工智能進(jìn)入了加速年代，還有一個表現(xiàn)是：各種大模型你追我趕，并實現(xiàn)了極其夸張的參數(shù)量。現(xiàn)在的 AI 大模型，動輒萬億參數(shù)已經(jīng)不稀奇了。
2022 年，用于訓(xùn)練 Minerva 的計算能力，幾乎是 10 年前 AlexNet 的 600 萬倍。若和 1950 年香農(nóng)的 " 忒修斯 " 相比，這個數(shù)字大概是：600000000000000000000000 倍（有 23 個零）。
下面這張圖顯示了過去 80 年里，人工智能訓(xùn)練量的驚人增長。其中，1petaFLOP 等于每秒進(jìn)行 1 千萬億次的數(shù)學(xué)運算。如果一臺計算機每秒執(zhí)行 1 次計算，那么 1petaFLOP 需要這臺計算機不停計算 3170 萬年。
普通人象限和行動者象限
2015 年，除了 " 波黎多各會議 "，還有兩個中年男人吵了一架。
想象一下：兩個中年男人，在酒足飯飽后，借著醉意談天說地。偶然間，他們聊到了 AI。一個人說，AI 最終會取代人類，另一個人搖頭說：堅決不會！
如果你在旁邊，可能會覺得無聊——當(dāng)時蹩腳的 Siri 比現(xiàn)在還蹩腳，取代人類豈不是天方夜譚？
但這兩個無聊的中年男人，一個是馬斯克，一個是拉里 · 佩奇。這兩人有一個共同點：手里有億點錢，而且都比較自負(fù)。
那場酒局后，馬斯克和佩奇幾乎反目成仇，并各自走上了不同的道路：馬斯克和奧特曼等人創(chuàng)立了 OpenAI，并發(fā)誓不能讓 AI 掌握在佩奇這樣的人手中；佩奇手握谷歌，開啟了掃貨模式，大舉并購大量 AI 公司。
兩個中年人賭氣，卻共同推高了 AI 浪潮。這恰如阿西莫夫在《神們自己》中所說：" 歷史往往就是由這些討厭而且毫無目的沖突推動的。"
在這波人工智能浪潮中，還隨處可見當(dāng)年 " 波黎多各會議 " 參會者的身影。
Skype 聯(lián)合創(chuàng)始人賈安 · 塔林投資了 Anthropic 等一眾 AI 公司。哈薩比斯領(lǐng)導(dǎo)的 Deepmind 團隊，被谷歌收購后，搞出來的 AlphaGo 讓人類顏面掃地。后來，又幫助谷歌推出了大模型 Gemini ……
人工智能發(fā)展飛快，討論人工智能的風(fēng)險也變得時髦。《名利場》曾報道，一名投資人曾在見完哈薩比斯后說，他應(yīng)該當(dāng)場擊斃后者，因為這可能是拯救人類的最后機會。
然而，說這話時他剛剛投資了 DeepMind。這種危險的誘惑，幾乎是這個時代 AI 發(fā)展的一個注腳。
發(fā)現(xiàn)沒有？號召保衛(wèi)人類和加速 AI 發(fā)展的，其實是同一批人。雖然馬斯克和佩奇反目，但他們做的事情卻沒有太大差異。
如果像馬斯克所說，危險真的在路上，那么誰是降臨派，誰是拯救派，真的很難分清。
是的，你會發(fā)現(xiàn)，這些人幾乎都混雜在一起。盡管有著相互沖突的觀點，卻著手做著相似的事情。
未來生命研究所的創(chuàng)始人麥克斯 · 泰格馬克，根據(jù)每個人對 AI 的信念，畫了一個坐標(biāo)系。在這張圖里，你也可以看看自己屬于哪個陣營：
（陰影部分是行動者象限，其余為普通人象限）
早在 2017 年泰格馬克寫書時，相信 AGI（人類水平的 AI）很快到來的人，還幾乎沒有。但如今，這個陣營里的人越來越多（對應(yīng)上圖中的陰影部分）。正是他們的存在，加速了 AI 的發(fā)展。
在很長一段時間里，對于 AGI 的到來，人們說還有幾百年，或者永遠(yuǎn)不會到來。但現(xiàn)在，他們說就這幾年了。短短兩年時間，普通人的認(rèn)知也發(fā)生了極大的改變。
（這是一項來自 metaculus 網(wǎng)站的民眾投票。數(shù)據(jù)顯示，2022 年時人們預(yù)測 AGI 會在 2042 年實現(xiàn)，而 2024 年時這個數(shù)據(jù)提前至 2027 年）
推動事情變化的人，位于 " 行動者象限 "。這個象限里的人，要么掌握技術(shù)，要么掌握資本。他們是 AI 時代里的關(guān)鍵少數(shù)。
從下面這個十分簡略的圖還可以發(fā)現(xiàn)：行動者象限中，掌握資本的人，更傾向于宣揚 AGI 是好事；而掌握技術(shù)的人，往往更多談?wù)撏{，對技術(shù)具有更多的敬畏。
這些分布在對角線上的人，有些曾經(jīng)在同一陣營。例如技術(shù)大佬辛頓，在谷歌待了 10 年；又如他的學(xué)生伊利亞 · 蘇茨克維，曾經(jīng)是 OpenAI 的技術(shù)負(fù)責(zé)人。
但后來他們都離開，原因基本一樣：在 AI 安全問題上，和老板沖突了。
這個象限中，還有一些隱藏起來的人。比如重金投資 AI 的微軟和亞馬遜，他們的 CEO 們，都不曾公開表達(dá)對 AI 威脅的看法。蘋果則更加低調(diào)，既不炫技，也不張揚。
中國的創(chuàng)業(yè)者不怎么談理想、拯救，也不習(xí)慣談?wù)撟约旱挠^點，他們更熱衷于應(yīng)用落地和商業(yè)變現(xiàn)。
但不管觀點如何，他們都成為了顛覆者，都在親手創(chuàng)造 AI 加速時代。盡管未來如此不確定，但不妨礙他們的行動。就像我們回過頭來看，" 波黎多各會議 " 反而成了先兆。
這符合每一個成功人士的特征——在高度不確定性中追求卓越。而普通人，只能是 " 顛覆 " 這個詞的被動形式。
方向掌握在少數(shù)人手中。
注：下文附上行動者象限和普通人象限的簡要闡釋。當(dāng)然，這只是一個粗略的劃分，例如在普通人象限中，也存在很多科學(xué)家和研究者。
行動者：抑或技術(shù)狂人
他們不知道未來是好是壞，卻迫切地加速世界的變化。從某種意義上來說，現(xiàn)在許多 AI 的弄潮兒們，都有投機的成分。因為研究者們發(fā)明了聰明的 AI，卻不知道他們的智慧從何而來。資本家們更管不著這些，迫不及待地推向市場。
2016 年，馬斯克曾贏了盧德分子獎，他一度以小心謹(jǐn)慎聞名。但去年，他再也按捺不住，加入了這場 AGI 的競賽之中。
代表人物：馬斯克、奧特曼（OpenAI）。
盧德分子：怪物真會吃人
從工業(yè)革命以來，盧德分子被精英們認(rèn)為是愚昧的象征。在這個狂飆的年代里，反抗 AI 更是不合時宜。不過，當(dāng)代盧德分子手中的大錘，砸不動計算機，更砸不動 AI。
許多人，只是用自己微弱的力量抵抗。他們不是先知先覺者，只是守護自己手中的飯碗。
代表人物：暫無
AI 有益論：工具可好可壞
這是一種最主流的觀點，也最符合人性——許久以來，人類始終認(rèn)為技術(shù)就是工具，關(guān)鍵在于為我所用。因此，這種觀點最受普通人的歡迎。在這群人看來，需要考慮的問題是如何建造對人類有益的人工智能，而非聳人聽聞或只顧埋頭向前。
不過，這種居中的觀點，幾乎為所有人的觀點提供了支撐。尤其是在資本市場，這個故事最討人歡喜。所以，你會發(fā)現(xiàn)一個 AI 有益論者，可以和除盧德份子以外的任何人，站在一起。
代表人物：麥克斯 · 泰格馬克等一眾科學(xué)家，他們往往離業(yè)界較遠(yuǎn)。
數(shù)字烏托邦：未來新世界
AGI 到來，那會是智力豐富且廉價的時代。恰如奧特曼所言，數(shù)字烏托邦將人工智能描述為新世界的引擎。如果我們讓數(shù)字智能自由地發(fā)展，不是試著阻止或奴役它們，那么，結(jié)果一定會是好的。
但這多少有些浪費主義的色彩。最近有個新聞?wù)f，當(dāng)奧特曼要用 AI 均貧富時，親妹妹卻無家可歸，靠賣身度日。你品，你細(xì)品。
代表人物：奧特曼、佩奇（谷歌）。
懷疑論者：著眼當(dāng)下
這些人認(rèn)為，擔(dān)心殺手機器人崛起，不如擔(dān)心下火星出現(xiàn)人口過剩。現(xiàn)在的技術(shù)路徑，AI 毀滅人類的概率為零，末世論根本就是無稽之談。對人工智能風(fēng)險的擔(dān)憂，只會引導(dǎo)人們對人工智能充滿惡意，從而制約人工智能的發(fā)展。
代表人物：李飛飛、吳恩達(dá)等一眾科學(xué)家，他們往往離業(yè)界較近。
當(dāng)然，除了知道他們相信什么，還要看他們做了什么。這群 "AI 新人 "，這個時代最杰出的大腦，究竟在想什么，又在做什么？
來源：觀察者時刻
