Baseten 是什麼、怎麼用、怎麼收費：面向生產環境的模型推理平台

本文根據 Baseten 官網定價頁整理，資料核對於 2026-10-11。功能與價格以官網為準。

是什麼

Baseten 是一家做模型推理基礎設施的公司，定價頁的口號是「不會拖垮你的產品、也不會拖垮你的預算的生產級推理」。它解決的問題是：把開源模型或自己訓練的模型，穩定、快速地跑成線上服務，由平台負責 GPU、擴縮容和性能優化。

能做什麼

定價頁列出的產品：

• Model APIs：直接調用預先優化好的模型，這些模型運行在官方所說的 Baseten Inference Stack 上，不需要自己部署。
• Dedicated Deployments（專屬部署）：把自己的模型部署到獨佔的計算資源上，只為實際使用的計算付費，精確到分鐘。
• Training（訓練）：按需提供的訓練計算資源和配套開發工具。
• Truss：Baseten 的開源模型打包與服務標準，官方稱適用於任意框架構建的模型。

導航裏還有 Dedicated Inference、Model Labs 等條目，頁面未展開說明。

怎麼上手

1. 在 baseten.co 註冊帳號，新帳號會獲得一筆試用額度。
2. 最快的方式是先用 Model APIs：在控制台生成 API Key，挑一個現成的模型發請求。
3. 要部署自己的模型，按官方文檔用 Truss 打包，再推送到 Baseten，選擇實例規格。
4. 在控制台觀察延遲、吞吐和費用，調整自動擴縮容設定。

打包與部署命令以官方文檔為準。

免費與付費

定價頁的說明（美元，2026-10 查詢）：

• 專屬部署按實例類型以分鐘或小時計價；常見問題裏說明只在模型佔用計算資源時收費（包括部署和擴容過程），空閒時不計費。
• Model APIs 的各模型單價、GPU 實例單價見定價頁，這裏不逐項抄錄。

適合誰 / 不適合誰

適合： 要把開源模型或自研模型做成線上功能、對延遲和穩定性有要求的產品團隊；不想自建 GPU 集群和推理優化團隊的創業公司。

不適合： 只是想體驗一下模型的個人用戶（聊天類產品或聚合平台更省事）；主要調用閉源大模型 API 的應用；預算極低、只做離線小實驗的場景。

注意事項

• 專屬部署如果設定了最小副本數不為零，就會持續計費；縮到零又會帶來冷啟動。
• 自己部署的模型要遵守模型許可證，是否可商用需自行確認。
• 試用額度的金額和有效期頁面沒有寫明，以註冊後控制台顯示為準。