執行本地 AI 模型，就選 iBoomto AI

文件處理需要的本地 AI 模型，一個地方就能使用。免設定，馬上開始。

探索熱門離線 AI 模型的首選中心

iBoomto 致力於讓本地大語言模型（LLM）在你的文件處理流程中更好用、更容易上手。

主流模型，一站整合

直接執行各大主流品牌的 AI 模型，無須在不同工具間來回切換。

硬體規格，智慧配對

智慧分析你的電腦硬體規格，自動推薦最合適的 AI 模型。

按需應對，流程對接

你工作流程中的每個步驟，都有對應的專用 AI 模型可選。

一鍵下載，即刻執行

下載 iBoomto AI，即可零設定輕鬆調用各類本機 LLM。

模型庫

在 iBoomto AI 探索本地 AI 模型

深入了解每個模型的資訊，比較各自的優勢，挑選適合你工作流程的那一個。

Qwen3.8-27B

Qwen3
精選推薦多模態下載容量： 8GB

Qwen3.8-27B

Qwen3
精選推薦多模態下載容量： 8GB

Qwen3.5 9B

Qwen3
精選推薦多模態Works best with: 16GB RAM. 4 GB GPU memory. 7GB free storage

Qwen3.5 9B

Qwen3
精選推薦多模態下載容量： 5GB

DeepSeek R1 8B

DeepSeek
精選推薦純文字下載容量： 4.8GB

DeepSeek R1 8B

DeepSeek
精選推薦純文字下載容量： 4.8GB

Llama 3.2 Vision 11B

Llama
精選推薦多模態下載容量： 7GB

Llama 3.2 Vision 11B

Llama
精選推薦多模態下載容量： 7GB

Mixtral 8x7B

Mistral
純文字下載容量： 26GB

Mixtral 8x7B

Mistral
純文字下載容量： 26GB
選擇指南

如何挑選適合的本地 AI 模型

最適合的模型取決於你的輸入內容、期望的輸出與硬體規格。依照下列說明比較本地 LLM，挑出符合需求的那一個。

依輸入內容類型選擇 AI 模型

文字

一般情況下，純文字模型就足以處理以文字為主的文件，不論是電子郵件、教科書還是技術手冊皆可輕鬆勝任。

範例
Granite4 Micro 3B 純文字Llama3.2 3B 純文字以及更多

掃描文件

Instruct 指令模型可直接解析文件掃描檔，無須額外進行 OCR 文字辨識。若需處理更複雜的視覺分析，多模態模型則是極佳的選擇。

範例
Qwen3.8-27B 多模態Qwen3 Vision 8B 指令模型以及更多

資料與圖表

針對內文較少、以 CSV、表格與圖表為主的文件，多模態思考模型（Thinking Model）能輕鬆勝任邏輯推理、數值計算與逐步資料分析。

範例
Qwen3.8-27B 多模態Qwen3 Vision 2B 思考模型以及更多

依任務選擇 AI 模型

指令模型 (Instruct Model)

針對日常問答、內容擷取與文章摘要，指令模型速度極快且能滿足絕大多數需求。它能即時理解你的提示詞（Prompt），並提供精準直接的答覆。

範例
Qwen3.8-27BQwen3.6-27BGemma4 31BGemma4 E4B以及更多
適用任務
一般問答
資料擷取
摘要整理

思考模型 (Thinking Model)

面對資料分析、來源比對、規律辨識與撰寫報告等複雜任務，思考模型會進行更深入的推理，提供經過查證、附上引用的結果。

範例
Qwen3.6-27BQwen3.5 9BGemma4 31B以及更多
適用任務
數據分析
多源比對
報告撰寫

依你的優先考量選擇 AI 模型

上下文長度上限

本機 AI 模型的上下文長度上限，決定了單次請求能處理多少輸入與輸出。請務必查看模型設定的上限，光看參數量，無法得知能放進多少內容。

輸出品質

建議使用你自己的文件實測幾個模型，選擇結果可查證且符合你電腦規格的那一個。版本更新或參數量更大，並不代表一定更適合你的任務。

生成速度

若你最看重處理速度，輕量型模型通常是極佳選擇。但請注意，同款模型在不同硬體配置上的實際執行速度可能差異極大。

模型大小與記憶體

下載容量是指模型檔案佔用的儲存空間。執行時的記憶體用量，則取決於模型設定與處理內容長度。安裝前請確認兩者，並為系統與其他應用程式預留足夠空間。

本地執行

如何在 Windows 用 iBoomto AI 執行本地 LLM

告別繁瑣嘗試！一鍵取得最適合你電腦的本地 LLM。

在你的裝置上執行本地 AI 模型
1

安裝 iBoomto AI

下載 iBoomto AI，安裝到你的電腦。

2

選擇合適的模型

安裝時，iBoomto AI 會自動安裝符合你電腦硬體規格的模型。若想嘗試其他模型，可以展開「本機對話」下拉選單，點選模型名稱旁的資訊圖示，確認模型是否與你的電腦相容。系統推薦的模型會標示為「運作良好」，選擇後點選「下載」即可。

3

執行模型

選好模型後，就可以上傳文件開始處理。

處理文件
處理文件

如何使用本地 LLM 在 Windows 上進行 AI 文件處理

強大而簡單。透過 iBoomto AI 享受輕鬆流暢的工作流程。

將檔案上傳到本地對話
1

將檔案上傳到本地對話

開啟 iBoomto AI，進入「本機聊天」，匯入要處理的檔案。

設定模型偏好
2

設定模型偏好

選擇一個執行順暢的 LLM；若尚未安裝，亦可下載相容的模型。

描述任務並檢視結果
3

描述任務並檢視結果

請模型擷取重點、摘要文件、檢查可能的錯誤，或草擬報告。結果可以儲存成 .md 檔，使用前請對照原始檔案檢視。

免 API，不限次數

本地 AI 模型的文件處理流程範例

提問、摘要、批次處理。探索 iBoomto AI 的本地模型如何跨檔案與格式，高效完成實際工作。

摘要學術報告

結構清晰附引用依據Qwen3.8-27B (18 GB)

1. 新增文件

使用者檔案：金融分析師完整課程 - 財務項目

2. 生成摘要

提示詞：請摘要這份文件。

3. 檢視摘要結果

迅速生成檔案摘要，供你檢視。

4. 進行追問

與供應商談妥條件後，付款必須落在幾天內，才會被視為金融負債？

5. 確認答案

根據文件，付款必須在 180 天內，才會被列為流動負債，而非金融負債。公司與供應商約定超過 180 天才還款時，該義務會在資產負債表上被歸類為金融負債。

用本地 AI 摘要 PDF
提出問題並取得答案

比對多份發票檔案

清晰易辨即時回應Qwen3.5 4B 3.4GB

1. 新增多個檔案

使用者檔案：發票 1、發票 2

2. 指定要比對的項目

提示詞：這兩張發票的資料有哪些差異？

3. 對照兩張發票的比對結果

結果：主要發現：
發票 1 的計算正確：$85.00 + $8.50 = $93.50
發票 2 的計算有誤：$85.00 + $8.50 = $93.50，但最終的總計欄位顯示為 $63.50（相差 $30.00）
此外，發票 2 可能存在 OCR 或格式問題，文字層中的部分字元似乎彼此分開。
唯一實質的資料差異，是發票 2 的「總計」欄位數值，顯示的是 $63.50，而不是計算出的 $93.50。

用本地 AI 比對檔案
查看差異

擷取合約文字

多模態讀取辨識準確Gemma4 12B 12GB

1. 新增合約檔案

使用者檔案：合約範本

2. 輸入文字擷取提示詞

提示詞：將這個檔案轉成可編輯的檔案。

3. 取得結果並檢查擷取的文字

結果： 我已將合約範本轉換成可編輯的 Word 文件，你可以在下方位置找到： 輸出檔案：Contract_Template.docx 下載：Contract_Template.docx

用本地 AI 處理掃描檔
將檔案轉成可編輯文件
下載可編輯文件
常見問題

iBoomto AI 模型常見問題

使用 iBoomto AI 執行本地 LLM 前，你可能想了解的資訊。

還有其他問題？

聯絡我們
新手該如何選擇合適的 AI 模型？+-
建議先從與你電腦相容的輕量模型開始。這類模型的參數量通常在 4B 以下，檔案大小約 1–4 GB，只用 8 GB 記憶體（RAM）的 CPU 就能執行，不需要 GPU。
iBoomto AI 與內建的本地模型是什麼關係？+-
iBoomto AI 是智慧文件處理工具，整合多個本地模型，並直接在你的裝置上執行。透過這個軟體，你可以取得多種本地模型，並在同一個介面處理文件，不必在不同平台之間切換。
處理文件時，需要另外下載模型嗎？+-
iBoomto AI 內建可直接使用的雲端與本地模型，日常工作不需要另外安裝。不過，如果你想試試其他模型，隨時都可以從模型庫下載。
沒有 GPU 的電腦，需要符合哪些硬體規格？+-
部分本機模型執行環境支援純 CPU 運作，但相容性與速度取決於模型及其設定。模型庫中有多款本機 LLM 支援僅使用 CPU 執行且具備靈敏穩定的效能，例如 Qwen3 Vision 2B (指令/思考模型)、Llama3.2 3B、Granite4 Micro 3B 與 DeepSeek R1 1.5B。
最低電腦規格建議：
CPU：主流 4 核心（含）以上處理器
RAM：建議 8 GB 記憶體
Storage：最低 20 GB 可用儲存空間
檔案下載大小與執行時的記憶體用量有什麼不同？+-
下載大小是模型檔案佔用的儲存空間。執行時的記憶體（RAM/VRAM）則是模型運作時需要的空間，通常比檔案更多，因為還要存放你的對話或文件。例如，4 GB 的模型可能需要 5–6 GB 的可用記憶體，處理長文件時需要更多。
支援長上下文，代表文件長度不受限嗎？+-
不是。支援長上下文，代表模型單次請求可以處理並推理更多輸入內容，但仍然有上下文上限。上下文越長，佔用的記憶體越多，也可能拖慢推論速度，所以無法一次輸入無限量的內容。遇到特別長的檔案，建議將文件分段處理。
本地 AI 模型與 iBoomto AI 的線上功能有什麼不同？+-
本地模型直接在你的裝置上執行，整個流程從頭到尾都保持私密。可以離線使用，也沒有使用費用，但速度與表現取決於你的硬體與模型能力。 線上功能則透過雲端運作，不需要高規格的本機硬體，就能使用更大、更強的模型。不過需要連上網路，也可能有不同的收費方案。
本地 LLM 可以免費使用嗎？+-
可以。透過 iBoomto AI，你可以在 Windows 上安裝本地 LLM，並免費執行。
使用本地 LLM，Token 數量是無限的嗎？+-
沒有依 Token 計費，也沒有每月用量限制，所以可以不限次數地執行任務。不過要注意，本地 LLM 仍然有上下文上限，也就是單次請求能處理的輸入與輸出量有限。硬體與處理時間，同樣會限制實際使用。這項技術上的限制，與 App 的點數或使用政策是兩回事。
電腦不支援本地 LLM 時，該怎麼辦？+-
如果你的裝置無法執行特定的本地模型，可以改選需求較低的模型，或使用 iBoomto AI 中適合該任務的雲端服務。
本地 AI 模型如何處理長篇 PDF 或較大的上下文視窗？+-
不同的本機 AI 模型具備不同的上下文長度上限。如果把大型檔案載入上下文容量不足的模型，系統可能會將內容分段處理，或只擷取與你的提示詞最相關的資訊。硬體相容時，較大的上下文視窗可以讓單次請求容納更多內容，但不保證答案一定完整或更準確。
iBoomto AI 的本地 AI 模型會定期更新嗎？+-
會。隨著新版本與新模型推出，iBoomto AI 會持續更新本地 AI 模型庫。
常見問題

iBoomto AI 模型常見問題

使用 iBoomto AI 執行本地 LLM 前，你可能想了解的資訊。

新手該如何選擇合適的 AI 模型？+-
建議先從與你電腦相容的輕量模型開始。這類模型的參數量通常在 4B 以下，檔案大小約 1–4 GB，只用 8 GB 記憶體（RAM）的 CPU 就能執行，不需要 GPU。
iBoomto AI 與內建的本地模型是什麼關係？+-
iBoomto AI 是智慧文件處理工具，整合多個本地模型，並直接在你的裝置上執行。透過這個軟體，你可以取得多種本地模型，並在同一個介面處理文件，不必在不同平台之間切換。
處理文件時，需要另外下載模型嗎？+-
iBoomto AI 內建可直接使用的雲端與本地模型，日常工作不需要另外安裝。不過，如果你想試試其他模型，隨時都可以從模型庫下載。
沒有 GPU 的電腦，需要符合哪些硬體規格？+-
部分本機模型執行環境支援純 CPU 運作，但相容性與速度取決於模型及其設定。模型庫中有多款本機 LLM 支援僅使用 CPU 執行且具備靈敏穩定的效能，例如 Qwen3 Vision 2B (指令/思考模型)、Llama3.2 3B、Granite4 Micro 3B 與 DeepSeek R1 1.5B。
最低電腦規格建議：
CPU：主流 4 核心（含）以上處理器
RAM：建議 8 GB 記憶體
Storage：最低 20 GB 可用儲存空間
檔案下載大小與執行時的記憶體用量有什麼不同？+-
下載大小是模型檔案佔用的儲存空間。執行時的記憶體（RAM/VRAM）則是模型運作時需要的空間，通常比檔案更多，因為還要存放你的對話或文件。例如，4 GB 的模型可能需要 5–6 GB 的可用記憶體，處理長文件時需要更多。
支援長上下文，代表文件長度不受限嗎？+-
不是。支援長上下文，代表模型單次請求可以處理並推理更多輸入內容，但仍然有上下文上限。上下文越長，佔用的記憶體越多，也可能拖慢推論速度，所以無法一次輸入無限量的內容。遇到特別長的檔案，建議將文件分段處理。
本地 AI 模型與 iBoomto AI 的線上功能有什麼不同？+-
本地模型直接在你的裝置上執行，整個流程從頭到尾都保持私密。可以離線使用，也沒有使用費用，但速度與表現取決於你的硬體與模型能力。 線上功能則透過雲端運作，不需要高規格的本機硬體，就能使用更大、更強的模型。不過需要連上網路，也可能有不同的收費方案。
本地 LLM 可以免費使用嗎？+-
可以。透過 iBoomto AI，你可以在 Windows 上安裝本地 LLM，並免費執行。
使用本地 LLM，Token 數量是無限的嗎？+-
沒有依 Token 計費，也沒有每月用量限制，所以可以不限次數地執行任務。不過要注意，本地 LLM 仍然有上下文上限，也就是單次請求能處理的輸入與輸出量有限。硬體與處理時間，同樣會限制實際使用。這項技術上的限制，與 App 的點數或使用政策是兩回事。
電腦不支援本地 LLM 時，該怎麼辦？+-
如果你的裝置無法執行特定的本地模型，可以改選需求較低的模型，或使用 iBoomto AI 中適合該任務的雲端服務。
本地 AI 模型如何處理長篇 PDF 或較大的上下文視窗？+-
不同的本機 AI 模型具備不同的上下文長度上限。如果把大型檔案載入上下文容量不足的模型，系統可能會將內容分段處理，或只擷取與你的提示詞最相關的資訊。硬體相容時，較大的上下文視窗可以讓單次請求容納更多內容，但不保證答案一定完整或更準確。
iBoomto AI 的本地 AI 模型會定期更新嗎？+-
會。隨著新版本與新模型推出，iBoomto AI 會持續更新本地 AI 模型庫。

還有其他問題？

聯絡我們