本地端 AI Agent 專屬 AI 電腦
讓 AI Agent 在你的電腦上持續工作,整合 Local LLM、Coding Agent、MCP、RAG、Vector Database 及自動化工具。
這個方案是為誰而設?
這是一部為「AI 會自己做事」而設的電腦。與單純聊天不同,Agent 需要反覆讀取資料、呼叫工具、執行程式、搜尋知識庫、寫入檔案及處理多步驟任務,因此 RAM、SSD、穩定性與多服務並行能力都非常重要。
支援的 AI 模型與工具方向
以下列出的模型及工具是「適用方向」而非代表任何一個固定配置可以無限制高速運行所有項目。實際可用性取決於模型版本、量化格式、VRAM、Context、解析度及工作流。
模型 / 平台
- Qwen3
- Llama 系列
- DeepSeek 系列
- Vision / Embedding Models
- Coding Models
常見工作
- AI Coding Agent
- MCP Tool Calling
- RAG / Vector DB
- Local Knowledge Base
- Browser Automation
- Multi-Agent
適合人群
程式員、AI Developer、企業自動化、研究人員、需要私人知識庫及長時間 Agent 任務的專業用家。
建議硬件方向
Agent 工作站通常比一般 Chat PC 更需要 RAM 與 SSD,因為可能同時運行 LLM、Embedding、Vector DB、Open WebUI、Browser、IDE、Docker Container 及其他服務。若需要較大型 Vision / LLM,GPU VRAM 則成為主要限制。
配置邏輯
Local LLM → Open WebUI / API → MCP → Tools → RAG / Vector DB → Coding / Browser Agent → Automated Tasks。Claude Code、Codex、Manus 等屬於不同的外部工具或 Agent 工作流,不應直接當成「本地模型」;實際是否完全本地運行,需視各軟件的架構與帳戶服務而定。
模型容量與 VRAM:不要只看「幾 B」
模型大小 ≠ 實際所需顯存
模型參數量只是第一個指標。推理時還要考慮權重精度、量化格式、KV Cache、Context 長度、Batch Size、Framework 及其他 runtime 開銷。因此「14B / 32B / 70B」不能直接等同於一個固定 VRAM 數字。
量化與 Offload
4-bit、8-bit 等量化可以降低權重記憶體需求;CPU RAM Offload 則可以把部分資料放到系統記憶體,但通常會犧牲速度。多 GPU 亦需要從主機板 PCIe、電源及散熱整體規劃。
適合的實際工作流
| 工作流 | 建議方向 | 注意事項 |
|---|---|---|
| Local Chat | Ollama / LM Studio + 量化 LLM | VRAM 決定可載入模型的彈性;Context 越長,額外記憶體需求越高。 |
| RAG | Embedding + Vector DB + LLM | 資料庫規模、Embedding 模型及同時運行服務會增加 RAM / SSD 需求。 |
| AI Agent | LLM + Tool Calling + Browser / Files | 需要穩定長時間運行;Agent 工具本身未必是本地模型。 |
| 圖像 / 影片 | ComfyUI / Diffusion / Video Workflow | 解析度、模型、ControlNet、LoRA、幀數及 Upscale 都會影響 VRAM。 |
實際配機時,我們會看什麼?
① 先確認模型
先列出你真正會使用的模型、版本及量化格式,再估算權重、KV Cache、Context 與其他 Runtime 所需資源。這樣可以避免只按「8B、14B、32B」等參數量作錯誤判斷。
② 再確認工作流
同一張 GPU 用於 Local LLM、ComfyUI、AI Video、RAG 或 Agent,瓶頸可能完全不同。工作流會直接影響 VRAM、RAM、CPU、SSD、散熱及電源的比例。
③ 最後規劃升級
如果預計未來增加模型尺寸、加入 AI 圖像/影片、Fine-tuning 或 Agent,首次配置應預留 RAM、SSD、電源、機箱及 PCIe 擴充空間,避免短期內重新砌機。
直接告訴我們你想跑甚麼。
模型名稱 + 用途 + 預算,已經足夠作為第一次配機討論的起點。
