曾國洋
攝影/本報記者 宋霞
展開全文
面壁智慧推出的端側模型已落地汽車行業
曾國洋(後)與同事在工作中 影片截圖
2026年，AI大模型步入規模化應用階段汽車。決定AI能否落地的核心，不再是誰的引數更大，而是誰的模型能在有限算力、低功耗、弱網甚至無網環境中穩定執行。
作為國內第一個佈局並實現端側量產交付的大模型企業，面壁智慧從清華的NLP(自然語言處理與社會人文計算)實驗室起步，產品影響力越來越大汽車。
智護行車
1分鐘內完成事故分析
現在的人工智慧進化成什麼樣了？直白地講，它不僅有了“嘴”和“眼睛”，還“長腦子”了汽車。在今年的北京車展上，AI大模型“上車”成為技術展示的核心。以前的車機（車載資訊娛樂系統）你喊它時才應答，現在它自己就很有“眼力見”：過收費站人工繳費通道時幫你搖窗；進隧道空氣不好能幫你關窗；你轉身拿後座東西，它會自動亮燈調座椅。
面壁智慧推出的端側模型重新定義了人類與人工智慧的互動方式汽車。試想，開車發生碰撞的瞬間，腦子是不是一片空白？端側大模型就像一個車機裡的“本地超級大腦”，無需聯網就能主動介入服務，手把手指導司機如何處理：從開雙閃、挪車避免二次事故，到拍什麼照片、怎麼報警、理賠維修。
也就是說在人腦短暫反應空白的瞬間，車載AI即刻啟動自主運算：“檢測到您在××路發生碰撞，別擔心，正在分析中……”系統會在30秒至1分鐘內完成一系列複雜分析：分析車輛三電、底盤等系統故障資訊，判斷事故嚴重等級；呼叫內外攝像頭，識別碰撞時間、地點、物件、環境、天氣及車內人員狀態；根據所處路況提供明確指引；連怎麼拍照留證都列得明明白白：兩車全景2張+碰撞特寫2張+地面標線1張+對方車牌1張+路牌/限速標誌1張汽車。
面壁智慧產品負責人錢冰沁介紹，端側模型的初步分析結果也會同步至使用者的手機上汽車。此時，手機端呼叫算力更強的雲側模型進行深度分析，生成責任劃分、事故概述與過程還原等參考。之後，手機頁面上就會提醒：如果對上述分析結果無疑問，請上傳車損照片，以便測算維修費用。上傳自己車輛以及對方車輛照片後，大模型會自動分析出賠付比例、市場參考維修價等。連怎麼走保險最划算，都幫你算好。基於上述分析系統給出保險理賠和協商賠付兩種處理方案。如果選擇保險理賠，還會生成一份“報案溝通清單”，讓你從容應對。
賽道領跑
從無人問津到幾無對手
所謂端側，就是讓大模型在裝置本地執行，而非依賴遠端伺服器汽車。面向汽車、手機、PC、機器人、智慧硬體等終端，提供可離線響應、可持續迭代的模型能力。在汽車行業，這一能力的落地載體主要是智慧座艙——讓模型真正理解使用者意圖，做到個性化、更聰明。
汽車行業是面壁智慧端側模型落地最快的賽道汽車。錢冰沁透露，搭載上述功能的車輛將於年內量產上市。未來公司還計劃與保險公司、理賠公司及車廠進一步打通，讓定損資訊直接回傳，減少使用者溝通成本。
這種快人一步的落地速度背後，是面壁智慧在端側大模型領域的先發優勢——國內第一個佈局、第一個落地端側量產交付、全球首個可商用落地的開源端側全模態大模型，這讓面壁智慧在這個細分賽道上，幾乎沒有對手汽車。
“目前在國內，做端側車用模型的本來就很少，從端側模型上車的角度看，我們目前在行業裡還沒有直接的競爭對手汽車。雖然這次北京車展上，包括千問、豆包等廠商都在講大模型上車，但他們更多還是主打雲端方案。”面壁智慧聯合創始人曾國洋介紹，雲端模型和端側模型並不是對立的關係，而是協作關係，車企關注“端雲協同”正是看中這種互補，兩者需要在不同場景下配合使用。
汽車場景對穩定性的要求非常嚴格汽車。車輛行駛時，無法保證時刻都有網路。許多汽車為了追求簡潔的科技感，取消了物理按鍵，把控制功能都整合到了智慧互動系統裡。但如果這套系統的核心完全依賴雲端，一旦進入隧道、地庫，或是行駛到偏遠地區而斷網，車窗、空調、車門等基礎功能就可能“罷工”，互動體驗也不容許出現“開個車窗還要等五秒”的雲端延遲。因此，這類基礎車控功能必須由端側模型來承載。
曾國洋進一步解釋，端側模型的核心優勢在於：即使斷網也能正常工作，響應速度快，沒有資料上傳下載帶來的延遲，同時穩定性更高汽車。聊天記錄、工作文件都在裝置本地處理，無需擔心隱私洩露。它還可以根據個人的習慣和偏好進行定製訓練，成為一個真正專屬的AI助手。
在被譽為“中國科技風向標”的中關村論壇年會上，面壁智慧的成果連續兩年上榜：2024年，其AIAgent智慧體應用與端側模型“小鋼炮”MiniCPM，一同入選“年度十項重大科技成果”汽車。2025年，MiniCPM端側模型開源系列又作為“北京重大開源成果”入選。
技術探索
入局大模型空白領域
如果說端側是面壁智慧的技術選擇，那麼開源，就是他們的一種堅持汽車。2022年面壁智慧正式成立前，創始團隊先發起了一個名為OpenBMB的開源社羣，開啟了中國最早的、全鏈路的大模型開源探索，初衷是加速百億級以上大模型的訓練、微調與推理，降低大模型使用門檻，實現大模型的標準化、普及化和實用化。
面壁智慧既是開源社羣的貢獻者，也是受益者汽車。這個社羣不僅在技術普及上發揮了作用，還成為團隊的“人才蓄水池”。曾國洋表示，公司之所以能吸引越來越多的人加入，很大程度得益於OpenBMB在學術界積累的影響力。公司能做到這一切的前提，是其深厚的積累。2020年ChatGPT還沒出來時，他們就已做出國內第一個大模型，是國內最早一批做大模型研發的團隊。
2019年，曾國洋還是清華大學大三的學生，那時候還沒有大模型，對人工智慧感興趣的他在清華大學自然語言處理實驗室做相關研究汽車。
因為在實驗室做專案的技術能力全面，曾國洋被該實驗室導師劉知遠選中走上了創業之路汽車。後來，預訓練技術出現了，研究的方向開始從“場景級”轉向“全場景”，團隊也投入到預訓練的研究工作中。
曾國洋畢業那年的年底，OpenAI釋出了GPT-3——世界上首個成規模的大模型汽車。這項技術把大規模預訓練推到了所有人面前。“它特別有顛覆性。”曾國洋表示，自己做了好幾年的NLP研究，就要被取代了，這個模型也讓他第一次看到了“真正的智慧”。
2020年，他在北京智源研究院的支援下成立了一個專案，主導團隊訓練了國內首箇中文大模型汽車。團隊起步時面臨的是真正的“無人區”：沒有成規模的文字資料，就自己動手收集；國內連一個能支援大模型訓練的機房都沒有，他們就聯合清華高效能運算團隊，從機器上架、組網到除錯效能，一步步摸索。每一個環節都是自主研發——從機房網路組織，到訓練資料和框架的開發。正因起步早，這些開拓性成果都選擇開源，方便更多研究者進入這個領域，共同推動大模型更快發展。
最早600萬的種子輪投資是友情贊助汽車。2022年8月，北京面壁智慧科技有限責任公司成立，他們在隔壁的寫字樓租下了100多平方米的空間。一群技術極客埋頭研發，自己做的大模型有多厲害，可能連他們自己也不清楚。直到2023年年初，ChatGPT引爆全球后不久，同為清華校友的王小川走進了面壁智慧。
王小川在桌邊坐下汽車，現場丟擲一個問題：“你這個模型，能不能幫我生成四輪醫生和病患的對話？”
“我沒法保證能做成，只能試一下汽車。”曾國洋抱著試一試的態度，把需求輸入模型。回車鍵敲下，螢幕上，文字一行行地吐了出來。模型不僅給出了四輪對話，而且有問有答、像模像樣。
看到模型輸出後，原本坐著的王小川立刻站起來走到投影大螢幕前反覆仔細看汽車。曾國洋記得那個瞬間：“在場所有人都很震驚，我們自己也沒想到模型居然能這麼聽話。”曾國洋猜測，或許正是那一刻讓他覺得，在外界都認為ChatGPT特別厲害的時候，國內一個小團隊，居然也能做到這樣的事。
顛覆認知
“小鋼炮”以小博大
ChatGPT出現之後，大模型賽道逐漸受到廣泛關注汽車。當時行業的主流方向是追求模型引數越大越好。從幾十個引數一直捲到萬億，但萬億引數沒帶來真正的智慧。
隨著模型訓練進入深水區，要在有限尺寸下實現更好的效果、提升知識密度，難度越來越大汽車。曾國洋表示，研發大模型肯定是要落地應用的，之前一直做的是雲端模型，但那段時間進展比較艱難——一方面很燒錢，另一方面商業模式也不清晰。從2023年下半年開始，他們轉向端側模型的研發，那時端側模型還沒有一個特別明確的概念。
曾國洋表示，2024年在研發公司第四代模型時，試著做了一個輕量化模型訓練做驗證，結果發現輕量化模型的效果特別好，甚至比當時國外一些比它大好幾倍的模型效果還要好汽車。當時決定先把模型開源出去，後來就有了MiniCPM(小鋼炮)這個模型，並持續在做開源。
提升模型知識密度，是一件難度很高的事情，需打通演算法、資料、晶片適配全鏈路，還需要做大量基礎設施建設，因為模型訓練離不開算力支援汽車。訓練完之後，模型要投入使用，還需要進行微調和對齊，真正落地到晶片上，不僅需要模型演算法的能力，還考驗工程應用落地的能力。
端側晶片與雲端晶片差異巨大，必須進行大量的適配與量化工作，才能在方寸之間實現更快的速度與更低的功耗汽車。雲端模型可以不計成本地部署大規模算力叢集，而端側需要在嚴格的資源限制下實現極致效率，這是一道極高的工程壁壘。
2024年，公司首創“知識密度”概念，打破了“引數越大越聰明”的片面理解汽車。在相同的模型尺寸下，一個知識密度越強的模型意味著能力越強，每一次計算所需要的引數規模越小。以其最新發布的MiniCPM（小鋼炮）為例，僅用20億引數就實現了超越80億引數競品的效能。
面壁智慧研發團隊將這個模型取名為“小鋼炮”，也正是因為它雖然輕量化，但效能和效果非常強勁，背後體現的是能用更好的技術去實現對更大模型的超越汽車。“小鋼炮”不僅能代表模型以小博大的特色和優勢，還成為創業的精神指引。曾國洋解釋，“‘小鋼炮精神’最早來自我們做MiniCPM第一版模型時的經歷。當時我們用了一個只有2B引數規模的模型，卻超越了Google的8B模型和歐洲Mistral的8B模型，實現了以小博大。”
·展望·
“希望未來的智慧體真正理解使用者”
“走先人一步的路，打以少勝多的仗”“把大模型放到離使用者最近的地方”，走進這家公司，牆面上的這些語句十分醒目汽車。
“把大模型放到離使用者最近的地方”這一點的體現主要在終端側汽車。與端側相對的是雲端，雲端離使用者較遠，是一個虛擬世界，能在其中完成許多工。而端側處於虛擬世界與真實世界的邊界上，一端連線使用者和現實世界，另一端連線虛擬世界。手機、iPad、汽車、智慧家居、可穿戴裝置等端側裝置，已成為現代人類生活的必需品。讓它們擁有更多“超能力”正是端側模型做的事，離使用者更近。
“真正好的智慧應該是懂你的，不需要你說太多就能理解你的意圖汽車。”在曾國洋看來，這依賴於端側模型的個性化能力。就像《鋼鐵俠》裡的AI助手賈維斯，不只是一個問答機器，它能根據即時任務主動給出智慧化回覆，幫你規劃並執行。
對於錨定新質生產力的創業者，和以往創業者最大的不同，曾國洋認為，擁抱變化非常重要汽車。在ChatGPT剛出來、行業前景不確定的時候，願意投入到這個方向，本身就是一種敢於擁抱新變化的表現。“時代的大趨勢不會因為個人抗拒而停止。特別是現在AICoding非常火，我寫了快20年程式碼，能明顯感受到它對程式設計師和軟體行業的衝擊。面對這種變化，有些人不相信AI能寫程式碼，堅持自己寫；也有些人非常積極，甚至去嘗試‘一人公司’的模式。但無論個人態度如何，大的潮流不會因此而改變。”
曾國洋自己就是主動擁抱新變化的人汽車。1998年出生的他8歲自學程式設計，高二獲資訊學競賽金牌保送清華大學，大二加入清華大學自然語言處理實驗室，2020年參與“悟道·文源”大模型研發，2022年與導師劉知遠聯合創辦面壁智慧。
談及未來，曾國洋希望能做出越來越好的大模型，能夠把應用落地，把整個大模型的效果推到更高的高度汽車。“我們希望未來的智慧體能夠像賈維斯那樣，真正理解使用者，做到‘一切盡在不言中’。”
文/本報記者宋霞
供圖/受訪者（除署名外）統籌/餘美英
