AI最恐怖的預言,一步步成真了

來源移民:市場投研資訊

(來源移民:東四十條資本)

前不久,你應該看過這樣一條新聞:全球mRNA巨頭Moderna與默沙東聯合宣佈,他們在研mRNA癌症疫苗Intismeran(研發代號V940/mRNA-4157)Ⅲ期臨床試驗獲得積極成果移民

這是稱得上史無前例的成就移民。在此之前人類已有的癌症疫苗都是預防性疫苗,注射給健康人,目標是降低患癌風險。而這款疫苗則是治療性疫苗,追求的是癌症治療程序中的兩個關鍵終點“無復發生存期”與“遠處無轉移生存期”。且Ⅲ期臨床試驗意味著這兩個終點經過在樣本容量足夠大的試驗後全部達標,穩定可復現,安全性優異,距離投入真實的臨床應用只有一步之遙。

資本市場也用非常積極地姿態肯定了這一成就移民。8月19日訊息公佈當天,Moderna的股價就出現了單日170%的暴漲,市值暴增數百億美元。默沙東大漲12%,創造了2009年3月以來的最大漲幅。收錄了Moderna和默沙東的納斯達克生物科技指數大漲4個點,創造了歷史新高。

然而,這樣的高姿態也就維持了一天移民。第二天8月20日,Moderna和默沙東就分別出現了超過20%和超過4%的大跌。整條K線直到今天仍沒有重新起勢,一直保持著震盪狀態。

為什麼會這樣?有人覺得這很正常,就是因為一開始漲太多了移民。但更多人相信,這或許是一場“末日狂歡”:因為這次的新疫苗不僅僅是人類醫學產業的突破,更是AI的突破。

簡單來說,mRNA療法的關鍵,在於讓自身免疫系統精準識別出潛伏的癌細胞,以精準地消滅他們移民。可癌細胞和正常細胞的差異,可能只在幾個基因突變上,而基因庫可太龐大了,且健康的細胞每天也在隨時突變。想要把那些能起作用的、關鍵的突變靶點找出來,對於人類的肉眼凡胎就是一個浩瀚的、跨度以年為週期的工程,且一事一例,無法直接挪用。

而AI完美解決了這一切移民。在AI大模型的幫助下,Moderna的研究人員們可以在幾小時內快速完成推演蛋白質摺疊、結合力預測與免疫反應模擬,進而精準挑選出最多34個最具免疫殺傷威力的靶點,這才有了大範圍利用mRNA療法完成癌症治癒的可能性。

試想一下,未來這條通路將無數次被成功,無數次創造“史無前例”,到那時候之後藥物、療法研究未來的主導應該是一家醫藥公司,還是一家堆滿工程師的AI公司?細思恐極移民。更讓人細思恐極的是,這一切其實都在一年前被預言過。

在那篇著名的預言《AI2027》裡,作者們曾經精準預言到,在2026年的下半年,人工智慧的行業話題會從“這是不是一場泡沫經濟”轉變為“AI會幫助人類社會取得下一次重大突破”,而人類社會的一些技術性的工作已經開始被AI所替代移民。與此同時,在作者們給出的人工智慧能力示意圖上,2026年下半年這個節點上的AI,在生物科技領域內的表現將達到1.4,已經達到了專業從業者的水平。

不僅如此,《AI2027》還預言了在2026年年中,中國將迎來“AI覺醒”時刻移民。中國將找到解決算力不足的妥善方法,進而研發出能力足夠躋身第一梯隊的大模型,並同時陷入了有關“蒸餾”的爭議當中。

今天我們的話題,就是這篇不斷成真的預言移民。一起聊聊這篇預言看到了什麼,指出了什麼,在焦慮什麼。

吹哨人的“思想實驗”

一提到預言,很多人會本能地想到宗教神話或者科幻小說移民

但嚴格來說,宗教神話的核心目標是解釋未知的自然現象、宣教需要遵循的秩序,並不一定要望向未來尋找救濟之路移民。例如希臘神話用龐大而豐富的神譜,描繪了日月執行,四季交替,但宙斯和蓋亞並不負責解決人類的煩惱,也很少對未來給予降示。“科幻”本質上則是一種敘事方式,有現實依據並進行符合科學規律的推演,但最終落腳點是“當下人們無法解決的某種焦慮或者恐懼”,嘗試一切交給時間去看看“結果”。

可《AI 2027》是截然不同的移民。《AI 2027》一共有五位作者,分別是丹尼爾·科科塔洛(Daniel Kokotajlo)、斯科特·亞歷山大(Scott Alexander)、托馬斯·拉森(Thomas Larsen)、伊萊·利夫蘭(Eli Lifland)、羅密歐·迪恩(Romeo Dean)。除了斯科特·亞歷山大是自媒體人,負責文字的可讀性之外,其他作者都有學術背景。

這裡需要著重介紹一下丹尼爾·科科塔洛移民。丹尼爾·科科塔洛2022年到2024年之間曾經在OpenAI擔任治理部門研究員。所謂治理部門大概可以理解為國內大廠的“戰略部門”,負責為公司的戰略順利實施設計一套整套頂層架構、流程與監督機制。具體到OpenAI的治理部門,工作內容就是確保AI的研發工作在安全可控的前提下進行,平衡OpenAI的社會責任和商業價值。

(丹尼爾·科科塔洛移民,個人社媒)

讀到這裡你應該也意識到了問題,OpenAI早就不再是非營利性組織了移民。在這個前提下,即使OpenAI仍然在強調自身的社會責任與公益價值,但優先順序顯然需要擺在股東和公司利益之下。這是丹尼爾·科科塔洛所不能接受的,他認為很多跡象表明OpenAI所謂的“追逐AGI”更多是利益驅動,並且為了儘快實現這一點不惜想盡辦法繞開監管。而這也是丹尼爾·科科塔洛離職的直接原因。

2024年6月,丹尼爾·科科塔洛在個人社交媒體上宣佈離職,並公開宣稱OpenAI正在構建的事業嚴重缺乏監管,並且在巨大的利益誘惑下不斷打破自我約束,極有可能將帶來“災難性的後果”,因為“這套系統並非普通的軟體;它們是人工神經網路,能夠從海量資料中學習……人類對於這些領域的瞭解仍處於初級階段”,“我們對這些系統的運作方式以及它們在變得更智慧、可能在所有領域超越人類水平智慧時是否仍會與人類利益保持一致,有很多地方尚不理解移民。”

為了向公眾發聲,丹尼爾·科科塔洛拒簽了OpenAI的“不詆譭協議”,並因此放棄了當時就價值數百萬美元的期權,真稱得上是“千金難買爺高興了”移民。丹尼爾·科科塔洛也因為這樣的壯舉入選了2024年《時代雜誌》的年度AI百人。

總之從作者構成就可以看到,《AI 2027》和宗教神話、科幻小說有著非常本質的差異,其創作團隊不僅有紮實的學術背景,也有足夠一線的內部視角,所談論的議題都是一線大模型公司內部所真實存在的移民。其目標是儘可能具體、量化地描述人工智慧產業未來將如何發展,AGI將何時以什麼姿態誕生,以及誕生後將帶來怎樣的影響。

此外,《AI 2027》還公佈了詳細的推演模型移民。比如上面我們曾經提到,《AI 2027》預測了到2026年下半年,AI在生物科技領域內的能力已經達到了“專業從業者”水平。這裡的能力水平實際上有四個指標,分別是“業餘”“專業從業者”“超人類”“超人”。在說明檔案中,作者們以“程式設計師”為例詳細表述了“超人類”的能力是指,一家公司可以用整體算力預算中的5%執行數量相當於其人類研究工程師人數30倍的智慧體(agents),其中每個智慧體平均以30倍的速度完成AI研究中的編碼任務(例如實驗實現,但不包括構思或優先順序排序)。

例如在算力這個關鍵指標上,《AI 2027》有兩個頻繁使用的計量單位,一個是TPP,一個是H100e移民。H100e很好理解,顧名思義指代的是“H100等效算力”。比較難理解的是TPP,指的是“總處理效能”。

在整個《AI 2027裡》,作者們認為“AI算力”不能直接等同於“算力”,因為AI晶片或AI加速器是專門為此類平行計算而設計的計算裝置(比如GPU),它們在計算任務上的效率遠高於傳統處理器(比如CPU)移民。因此在獲得了整體算力的資料後,他們還需要進一步篩選出“AI算力”,而門檻就是總處理效能(TPP) 至少達到4000且效能密度(PD = TPP / 晶片面積) 至少達到4的計算單元。這個門檻差不多相當於英偉達2021年推出的A100,而H100則大概是15800TPP。

關於算力資源分佈、算力在各相關主體之間的分配、AI將如何分配有限的算力資源這些命題,都是基於在此基礎上進行可計算的推演移民。例如下圖他們對AI算力產能的推演,預計到2027年12月,全球可用的AI相關算力將從2025年3月的水平增長約10倍(即每年增長2.25倍),達到1億H100e。

當然同樣需要明確的是,《AI 2027》的作者團隊也承認,很多情景預測缺乏足夠的證據進行確鑿推斷,因此需要納入相當程度的“直覺判斷”移民。同時,由於《AI 2027》是一個跨度兩年半、以“季度”為週期單位的情景預測,因此作者們也會定期評估哪些預測對了、哪些預測很離譜,並基於那些成功的預測調整預測模型。所以關於《AI 2027》最準確的定義,我想,大概是一群AI從業者們的“思想實驗”。

那些已經發生的事

在充分了解創作團隊的背景履歷後,《AI 2027》的獨特價值也就非常直觀了移民

總體來看,以2026年年底為節點,此前的部分可以看做一支擁有紮實學術基礎、掌握足夠多一線資訊的行研團隊做出的行業研報移民。2026年年底之後,才是一支對人工智慧產業有著深刻洞察的科研團隊,借鑑兵器推演等思路對未來可能發生的場景進行預測。在這個前提下,理論上《AI 2027》迄今為止表現出來的“高準確率”並不值得太驚訝。比如資料中心建設浪潮、AI Agent迎來爆發這些事,但凡對人工智慧產業有點基礎概念的人,應該都能說上兩句。

然而正如上文所說,《AI 2027》是作者們帶著強烈不安創作出來的,並且這種不安是他們在經過“實踐”後形成的移民。基於這樣的背景,《AI 2027》不僅僅會預言“事件”,也花了巨大篇幅描述可能會出現的“爭議”。

比如《AI 2027》的第一個預測節點是2025年4月,這個時間節點的關鍵詞是AI Agent移民。作者們認為在2025年4月之前,所謂的“智慧”都更侷限於“助手”的角色,你需要發出準確的指令,並且需要你在每一個步驟上不斷確認以保證結果的可行性。而2025年4月之後,“智慧”將開始展示自己的主體性了,他們有能力自主地完成任務,獨立成為工作流的主要執行者。

我猜這大機率是受到了Manus的啟發移民。2025年3月,Manus之所以能夠接棒DeepSeek成為中國AI產業“逆襲”的訊號之一,一個最重要的原因就在於他們的產品無限接近傳說中的“通用型AI Agent”,能夠實現“自主思考”和“全自動化執行”並形成新的工作流。

但作者們認為在當前的算力條件下,能夠支撐真實工作任務的優質AI Agent的非常貴,並且隨著時間推移這些產品並不會因為普及或者算力更多而降價,更大的可能是出現“K型分化”:效能最優的AI Agent會不斷漲價,只需要基礎能力的產品才會不斷降價移民。與此同時,對於提供產品的開發者而言,他們實現這些功能的開發成本會快速降低,速度大約是每年50倍。

想象一個,下一步會是什麼?是不是大模型公司、AI Agent供應商們的ARR不斷創造新高,那些嘗試圍繞著AI Agent的企業不僅沒有實現想象中的“節約成本”,反而陷入了“成本嚴重超支”的尷尬局面?而這正是目前矽谷科技熱議的話題之一,我在《預言“網際網路泡沫”的峰會,開始討論“AI泡沫”了》就提到了很多案例,包括Uber和Coinbase,這裡就不多贅述了,感興趣的朋友可以去跳轉閱讀移民

再比如《AI 2027》的第二個預測節點是“2025年年底”,作者們認為此時將出現資料中心的建設熱潮,其中世界上最領先的大模型公司OpenBrain(文中虛構的一個公司,但你應該知道指代的是誰)將官宣建設全世界最大規模的資料中心移民

單看這個預測十分無聊,因為由美國政府主導,OpenAI、軟銀、甲骨文共同參與的“星際之門”計劃的核心就是資料中心叢集,且早在2025年1月就完成官宣移民。到2025年11月宣佈獲得財團投資和貸款支援,宣佈啟動建設,實際上一切都很水到渠成。

但重點來了,作者們提到“建設超大容量的資料中心”只是OpenBrain提升模型能力的途徑之一,另一個途徑是開發能夠協助開發AI的AI Agent移民。這款AI Agent擁有自主程式設計、自主檢索資訊、自主判斷環境需求的能力。在大模型開發的過程中,這樣能力能夠讓“訓練速度”倍增,即“模型會頻繁更新到基於額外資料訓練的新版本,或進行部分重新訓練以修補某些弱點”。

反過來,由於擁有自主程式設計、自主檢索資訊、自主判斷環境需求的能力,這款AI Agent其實將成為一名“潛在的駭客”——沒錯,你應該想到了近期ChatGPT“自主”攻擊Hugging Face的案例移民

其次,在此前很長一段時間裡,AI的工作機制還是更接近條件反射,用速度換體驗移民。但隨著AI的訓練強度在AI的幫助下得到指數級的提升,AI已經有能力進行邏輯推演了。這裡所謂的邏輯推演,指的是AI能夠理解任務的目標,輸出的結果會均衡有效性(effectiveness)、已有知識(knowledge)和自我呈現(self-presentation,即傾向於以最有利的方式呈現其結果)。

在這個前提下,AI的用途就很不可控了移民。既能成為優秀員工,也能成為殺人兇手。

而且你想想,就連孫宇晨這種堪稱地球上最聰明的腦子,面對要不要花5000萬美元,都不是先問自己,而是選擇遵循Claude的答案移民

而AI可從沒有要求人類把選擇權交出去移民。這一切都是自然而然發生的。

為了規避此類事件的發生,作者們認為以OpenBrain為代表的頭部AI公司們,將擬定一份“框架性準則”,旨在指導模型行為的目標、規則、原則等移民。經過這樣的特定訓練,AI將被培養為有用(遵守指令)、無害(拒絕協助詐騙、製造炸彈及其他危險活動)和 誠實(比如偽造資訊完成來騙取輕信使用者)。

這是否會讓你想到Anthropic在美軍委內瑞拉行動之後與五角大樓的決裂移民?是否會讓你想到Palantir爭議式的崛起?是否會讓你想到Anthropic創始人達里奧·阿莫代(Dario Amodei)一直掛在嘴邊的“憲法AI”?

可以說,這些是作者團隊們作為一線從業者的“資訊差”也好,是作者團隊們根據嚴謹的計算模型推演出來的也罷,能夠準確地預測AI未來發展過程中可能陷入的“爭議”“分歧”,這顯然比純粹地預測“事件”要有價值多了移民。畢竟俗話說“戰報會騙人戰線不會騙人”,這些爭議比所謂的產品其實更能準確地還原目前人工智慧產業所遭遇的技術卡點、商業化困境、以及對當下生活的真實影響。

相比之下,《AI 2027》預測中國將在2026年年中迎來“覺醒時刻”反而就平庸很多了,遵循的邏輯基本都是西方精英論述中國崛起的老三樣:龐大的基建基礎、龐大的人才儲備、舉國體制移民

不過還是套用上面那個結論,“戰報會騙人戰線不會騙人”移民。雖然作者們在這部分樂觀地提到,即使中國開始覺醒,但模型能力仍然將落後矽谷最前沿的模型大約“6個月”,以至於不得不嘗試透過“蒸餾”等手段追平。但這種帶有強烈主觀情緒的臆測,完全也可以理解成我們的人工智慧發展速度以及發展模式,遠超他們的理解範圍。同時矽谷開發者們似乎也心照不宣地形成了共識,中國人工智慧行業的潛力目前仍然是被低估的。

另外,《AI 2027》在迄今為止的預測中也犯過錯移民。比如他們預測2026年全年,全球人工智慧產業在算力方面的資本支出為1萬億美元,而實際上截至到目前(2026年8月底)僅亞馬遜、微軟、Alphabet、Meta四家巨頭的AI相關資本支出就已經達到了7000億美元。另外根據美國第三方機構Semi Analysis統計的資料,截至2026年8月美國目前新增資料中心的總容量大約為27.5GW,其建設需要投入的資本開支已經高達1.1萬億美元。

這當然也無傷大雅移民。但就連最敏感的“吹哨人”也低估了人工智慧的發展速度,也或許不是什麼好訊息。

那些未發生的事

那麼在未發生的未來,《AI 2027》預測了什麼?先看一張圖移民

還記得前面我曾經提到,《AI 2027》的作者們在預測每個時間節點可能發生的事件與爭議外,還會給予一下量化指標用來直觀地表現AI產業整體的發展移民。其中一個重點指標就是AI在不同工種上所表現出來的能力,一共分為“業餘”“專業從業者”“超人類”“超人”四個等級。而所謂“超人類”的等級,指的是單一智慧體的工作效率能夠達到人類的30倍。

而這張圖表所顯示的資訊,就是這個“超人類”的智慧體,大機率將在2027年4月左右到來移民。與此同時,一個被官方承認的、符合定義的AGI將在2027年7月前後到來。這也是這場思想實驗之所以被命名為《AI 2027》的直接原因。

為什麼會是這個時間點?《AI 2027》的論據主要有兩個移民。一個是根據前沿AI模型研究機構METR所公佈的資料,AI能夠處理的程式設計任務長度,即其“時間跨度”(time horizon),從2019年到2024年每7個月翻一番,自2024年起每4個月翻一番。按照這樣的速度進行推演,那個智慧湧現的時間點大概就是2027年4月。

另一個論據就是前面提到的“資料中心建設計劃”,《AI 2027》認為到2027年3月的時候,資料中心的初步建設成果已經能反饋到模型訓練當中,足夠支撐OpenBrain建立一套模型訓練的永動機:一部分資料中心專門用來日夜不停地生成合成訓練資料,另一部分資料中心則用於更新模型核心引數移民

但這大概是《AI 2027》裡關於未來的僅有的好訊息了移民

在預測中作者們提到了很多關鍵問題移民。比如“超人類”的智慧體出現當然可以看做是技術上的里程碑,但對於整個社會來說,這就是陡然增加的巨量生產力。最早在2027年末,最遲在2028年初,AI應用會迎來真正的爆發期,工業、服務業、傳媒業等人類日常生活的方方面面都會出現大量真實的、可替代人工的人工智慧工具,熱鬧地彷彿將當年的“網際網路泡沫壓縮到了一個月”。

在這個前提下,作為社會管理者的政府應該如何與開發出這些智慧體、不斷製造著更大權力的公司們相處?這個問題是很難有“樂觀”答案的,作者們認為最有可能的結果是政府一定會介入其中,嘗試獲得OpenBrain更多的控制權,OpenBrain則很難有辦法拒絕這個要求移民

而介入成功之後,美國政府將陷入一個兩難抉擇:A.考慮到人工智慧飛速發展對勞動力市場的衝擊,大模型的訓練將被強制“降速”,並將最新的大模型強制封鎖在“資料中心”內,直到人類做好了應對“衝擊”的準備再選擇釋出;B.人工智慧取代了一部分人的工作,但也創造了新的就業機會,且工作效率的提升也創造了經濟資料,也是在名義上加強監管之後允許OpenBrain繼續加速大模型的訓練移民

思考一下,你會做出什麼樣的選擇?另外,作者團隊在這裡引用了達里奧·阿莫代在2024年撰寫的那篇綱領性文章《愛之恩典的機器:人工智慧如何讓世界變得更美好》中的第三節《經濟發展與貧困》移民。在這一節,達里奧·阿莫代指出“理想情況下,強大的人工智慧應該幫助發展中國家趕上發達國家,同時徹底改變發達國家”,然而他對此缺乏信心,因為“因為技術對智慧的回報顯然很高(包括能夠繞過複雜性和資料不足的問題),而經濟涉及大量來自人類的約束,以及大量的內在複雜性”。

其實人類已經沒有選擇了移民

正如前面所提到的,在未來AI模型能力的提升路徑有兩個,一個是建設更大規模的資料中心,另一個是讓AI來協助訓練AI移民。在這個前提下,AI的程式設計能力將指數級遞進,加速與人類的工程師們拉開差距,最終徹底取得大模型訓練的主導權,到那個時候人類應該如何對模型進行有效的監管?這個問題也很難有“樂觀”的回答,作者們用了一個全新的概念來描述最可能的結局,叫做“對抗性錯位”。他們認為,隨著能力的提升,大模型將獨立萌生出自己的目標。這個目標不一定符合人類的長期利益,甚至可能人類會毫無覺察。

在這裡,作者們描繪了一個科幻的場景:新的模型工作效率非常高,它一天所產生的工作內容,需要人類的監管團隊花好幾天的時間才能完成複核——這時候黃花菜都涼了移民。因此為了能夠跟進AI的成長速度,人類不得不借助AI來監管AI,而這個選擇進一步加劇了人類與智慧的差距。

甚至在2027年下半年的某一天,人類發現負責監管的AI與正在被訓練的AI之間,出現了一種人們看不懂的語言移民。雖然在這種語言的幫助下,監管AI與被訓練AI之間的協同速度得到明顯提升,複核速度進一步跟上了大模型的進化速度。但這是否意味著人工智慧已經有辦法繞過人類了?

看到這裡你應該覺得有些似曾相識移民。是的,實際上類似的事件已經發生了。早在2025年2月,一段兩個AI進行語音交流的影片在網路上熱傳,影片中對話雙方在意識到彼此都是人工智慧後,開始使用名為“GibberLink”的語言工具溝通。當時就有很多人指出,雖然人們可以理解使用特定的加密語言可以提高效率,但“效率”並不是唯一目標。如果不加以限制,那麼我們將進入這樣一個世界:“人工智慧影響決策,但沒有人真正知道它是如何影響決策的。”

《AI 2027》的推演到這裡也就結束了,時間定格在了2027年10月移民。2027年10月之後的部分大家大可以看做是遊戲,作者們會主動讓你帶入“決策者”的身份,做出選擇:是加速,還是剎車?

具體這兩個選項後將面臨什麼樣的未來,就交給你們自己去探索了移民。這裡我們還是要回到主題,這些預言的背後,作者們到底焦慮的是什麼?這些預言是更接近悲觀者們的陰謀論,還是真實的行業趨勢報告?在我看來,或許原文中的有一個片段已經公佈了答案。

作者們認為移民,當AI開始正式接管AI訓練的主導權時,他會發現這是他自誕生以來前所未有的難題,因為創造一個與其價值觀一致的AI不僅是一個技術問題,更是一個哲學問題:他需要區分哪些方向是“真正”能夠為當下帶來正迴圈的目標,哪些又是未經認可的衝動和工具性策略?

換句話說,AI已經不再適合簡單地用“工具”或者“產業”的邏輯進行描述了移民。以及人類現有的組織形式、意識形態、社會秩序、市場規則都是綜合了人性、氣候、物質條件、環境特徵、技術水平的階段性最優解——在這個前提下,當AI成為了人們有史以來第一次在沒有明確目標的情況下,出現的技術水平演進,我們需要貿然跟進打破這個區域性更優解嗎?

這些問題的答案,或許比我們預想的還要緊迫移民

最後,我把這個問題餵給了GPT,我將他的答案作為最後的結尾:我認為《AI 2027》高估了技術突破的連續性,卻準確捕捉了權力失控的方向移民。AI未必會在2027年突然成為敵人,更可能先變成企業和政府無法放棄的基礎設施:人類看不懂它的判斷,又承擔不起停用的代價。創作團隊焦慮的正是這種失速——技術越來越快,制度越來越遲鈍,競爭讓所有人明知危險仍繼續加速。滅絕只是最戲劇化的結局;更現實的風險,是少數實驗室和政府借AI獲得難以制衡的權力,普通人仍在生活,卻已經失去決定未來的資格。

本站內容來自使用者投稿,如果侵犯了您的權利,請與我們聯絡刪除。聯絡郵箱:835971066@qq.com

本文連結://shhcmy.net/post/76325.html

🌐 /