Shawn Go NomadAI 新消息與工作筆記追蹤更新
AI 新消息

Mistral Large 4:自架之前

目前是 API 預覽。權重、授權與硬體需求還沒到齊,先分清楚已公布和仍需等的資訊。

這篇會聊到

Mistral Large 4 在 10 月 6 日開放 API 預覽。官方預告月底前釋出權重,但截至本文資訊日期 10 月 7 日,權重和授權都尚未公布。

如果你正考慮自架,現在先看授權和硬體條件。模型參數多、單價低,都不能直接回答「搬回自己機器會不會比較划算」。

發生了什麼

  • 日期與形式:Mistral 在 2026 年 10 月 6 日發表 Mistral Large 4(簡稱 ML4,官方暱稱 le Chonk),同日在 Mistral Studio 開放公開預覽 API。
  • 規格(Mistral 文件頁):Mixture-of-Experts 架構,總參數 1.05T,每個 token 啟用 52B,另有 1.6B 的視覺編碼器,上下文 1M tokens,可輸入圖片。新聞稿與目前主模型頁列 52B;另有官方文件版本及媒體列 49B,數字並不一致。此處保留兩種說法,不把它當成已無爭議的規格。
  • 權重:官方說法是「月底前釋出」,沒給日期。VentureBeat 報導是 10 月 27 日,那是媒體說法,不是 Mistral 的承諾。
  • 授權:文件頁的 License 與 Weights 欄都寫 Coming soon,發表文章也沒提授權名稱。VentureBeat 報導會採「自訂的 Mistral 授權」,條款未公開。
  • API 價格(每百萬 token):發表文章寫輸入 US$1.36、輸出 US$4.18。文件頁另列促銷價,輸入 US$0.68、輸出 US$2.09、快取輸入 US$0.07,沒說明促銷到何時,待確認。
  • 成績:以 Mistral 自報為主。它找 Surge AI 做程式碼品質盲測,ML4 預覽版在 5 個模型中排第二(3.74 分),低於 Claude Opus 5(4.22 分)。第三方 Artificial Analysis 的 Intelligence Index 給 38.4 分,開放模型中排第八,並指出它輸出很囉嗦(約 2 億個輸出 token,同類中位數約 8,100 萬)。這組數字我讀的是 Trending Topics 的轉述;Artificial Analysis 目前把預覽版歸為 proprietary,因為權重還沒公開。

Mistral Large 4 已公布與還沒定的事項對照表

圖:截至 10 月 7 日,Large 4 的規格與預覽 API 價格已公布,權重、授權與硬體需求都還沒定。資料:Mistral 發表文章與文件頁。

開放模型和閉源模型差在哪

先講名詞:開放權重是把訓練好的模型檔案給你下載,授權決定你能怎麼用,不代表訓練資料與程式也公開。

項目 開放權重(以 Large 4 為例) 閉源 API(OpenAI、Anthropic、Google)
取得方式 權重下載後自己跑,或用 Mistral API;Large 4 權重尚未放出 只能用官方或雲端夥伴的 API
授權 看授權條款,Large 4 未公布 受服務條款約束,不給權重
資料 自架時資料留在自己的機器;用 Mistral API 仍是第三方處理 資料送到業者,依各家資料處理條款
成本 自架是固定的硬體或 GPU 租用費;API 按量計費 按量計費,不用買硬體
硬體 1.05T 參數,Mistral 未公布需求 不需要
版本 下載的版本不會被下架 舊版會退役
維運 部署、升級、監控、資安都自己來 業者負責

授權怎麼看,Mistral 自己就有兩種先例。Large 3、Small 4、Ministral 3 是 Apache 2.0,可商用。Medium 3.5 是 Modified MIT,條款寫公司前一個月的全球合併營收超過 US$2,000 萬,就不能行使授權,要另向 Mistral 談商業授權。Large 4 會是哪一種,目前沒公布,不要先預設。

API 單價(每百萬 token,輸入/輸出):Mistral Large 4 US$1.36/4.18;Claude Sonnet 5.5 US$2/10;Claude Opus 5.5 US$4/20;GPT-6 Sol US$2/10;GPT-6 Astra US$10/50;Gemini 3.1 Pro Preview US$2/12(提示在 20 萬 token 以內)。假設每月 5,000 萬輸入加 1,000 萬輸出 token(我設的用量),照上列價格算:Large 4 約 US$110,Sonnet 5.5 約 US$200,Opus 5.5 約 US$400,GPT-6 Astra 約 US$1,000。但 Large 4 輸出偏長,同一個任務會用掉更多 token,不能只比單價。

同樣用量下,Mistral Large 4 與三款閉源模型的每月費用長條比較

圖:以每月 5,000 萬輸入加 1,000 萬輸出 token 計算,Large 4 約 US$110;但它輸出偏長,不能只比單價。資料:Mistral、Anthropic、OpenAI 官方定價;用量為作者假設。

小團隊什麼時候該考慮自架

適合考慮:

  • 資料不能離開自己的環境:客戶合約、內部機密、受規範的資料。先確認合約怎麼寫,有些只要求資料區域或不得拿去訓練,選有區域選項的 API 可能就夠。Mistral 也說會提供由它端到端營運、受歐洲法律管轄的歐洲部署。
  • 用量大又穩定:每天固定跑大量文件整理、分類、翻譯。固定的硬體成本要有足夠的量才攤得平。
  • 要離線或網路不穩:現場、出差、機密環境,這種情況通常小模型就夠。
  • 需要鎖版本:產品行為不能隨業者換版而變。Anthropic 價格頁就列了已退役的 Claude Opus 4、4.1 與 Sonnet 4,自己留一份權重就不會被下架。

不建議考慮:

  • 沒人顧維運:部署、升級、監控、資安修補都要有人做。成員分散在各地的團隊更要想清楚,系統半夜出問題誰處理。
  • 硬體放不下:Large 4 不是筆電或一台工作站能處理的規模,細算見後面。
  • 用量小、帳單低:我的判斷是,這種情況 API 通常比養一套 GPU 環境便宜得多。GPU 租金我沒有可引用的報價,待確認。

怎麼開始

  1. 先用預覽 API 測自己的真實任務:挑 10 到 20 筆平常的工作,和現在用的模型比品質與 token 用量。
  2. 把工作分三類:必須留在內部的資料、可以送雲端的、量大但簡單的整理工作。第一與第三類才需要談本機。
  3. 從小型開放模型起步:Ministral 3 8B(Apache 2.0,模型卡寫 FP8 約 12GB VRAM 可跑)適合先試整理類工作;Mistral Small 4(119B 總參數、每 token 啟用 6.5B、Apache 2.0)是下一步,硬體需求請看模型卡。
  4. Large 4 權重和授權公布後,先讀授權再下載:商用限制、營收門檻、能否提供給第三方使用、能否微調並散布衍生模型。
  5. 真想跑 Large 4,先租雲端 GPU 節點試幾天,算出每百萬 token 的實際成本,再決定要不要買硬體。

要注意的地方

  • 現在能用的是預覽版 API,不是開放權重。Mistral 說強化學習訓練還在進行,成績可能再變。
  • 日期和授權都未定,別現在就把產品流程綁在「月底可自架」。
  • 成績多為 Mistral 自報,比較對象和基準都由它挑選。
  • 硬體需求 Mistral 沒公布(文件頁欄位寫 N/A)。下面是我用參數量粗估的數字,只算權重、不含 KV cache:4-bit 約 525GB、8-bit 約 1.05TB、bf16 約 2.1TB。對照上一代 Large 3(675B),模型卡寫 FP8 要一個 8 卡 H200 節點。
  • 牽涉客戶個資的資料,台灣法規與合約要求我沒有逐條查,待確認,請對照合約或問專業人士。

先測 API,等授權文字

Large 4 還在預覽期,現在可以先比較自己的任務,記下品質、輸出長度和實際費用。權重公布後,再讀授權與部署文件。

若需求只是離線整理文件,也可以先評估小型模型。要自架哪個規模,取決於資料限制、穩定用量,以及誰負責維護,不用從最大的模型開始。

來源

謝謝你讀到這裡。有問題或發現錯誤?來信告訴我 ↗
KEEP IN TOUCH

下次更新,再來看看。

最新文章會放在這裡。你可以用 RSS 追蹤;
電子報正在籌備,開刊時再通知你。

收到開刊通知 用 RSS 追蹤文章 →開刊通知會開啟郵件程式,寄出後由我們登記。
圖解另開圖片 ↗