Ollama怎麼用 本地執行大模型工具教程

Ollama是一個本地執行大模型的工具，可以用一行命令在電腦上執行Llama、Qwen等開源模型。模型下載完成後，通常可在本機離線對話，不必持續聯網；但首次安裝、下載模型和更新時需要網路。下面從安裝、執行到API呼叫，帶你走完最常用的流程。

第一步：安裝Ollama

先到Ollama官網下載安裝包，按自己的系統選擇macOS、Windows或Linux版本。Windows使用者下載後雙擊安裝；macOS使用者開啟安裝檔案並把應用放入應用程式資料夾。Linux使用者可在終端執行官方安裝命令：curl -fsSL https://ollama.com/install.sh | sh。安裝前建議確認硬碟空間充足，模型檔案可能佔用數GB甚至更多。

裝好後開啟終端（Windows可用PowerShell），輸入ollama –version檢查命令是否可用。如果系統提示找不到命令，先重新開啟終端；仍不行的話，檢查安裝是否完成，或重新執行安裝程式。部分系統安裝後會自動啟動Ollama服務，桌面版也可能在後臺執行。初次使用前保持網路暢通，後面拉取模型時會用到。

第二步：下載和執行模型

最簡單的方式是直接執行模型，例如在終端輸入ollama run qwen2.5。Ollama會先下載相應模型，再啟動聊天介面；首次下載所需時間取決於模型大小和網速。下載完成後，在提示符後輸入問題並按回車，就能看到回答。想結束對話，可輸入/bye，也可以按Ctrl+D退出。建議先從較小模型試起，執行會更輕鬆。

模型名稱要以Ollama模型庫中當前可用的名稱和標籤為準。不同引數規模或量化版本的資源佔用差別很大，電腦記憶體較小、沒有獨立顯示卡時，優先挑體量較小的版本。執行時若明顯示卡頓，可以關閉其他佔記憶體的軟體，或換用更小的模型。已經下載的模型不需要每次重下；輸入ollama list可檢視本機已有模型。

• 下載並執行：ollama run qwen2.5
• 只下載、不立即對話：ollama pull qwen2.5
• 檢視本機模型：ollama list
• 刪除不用的模型：ollama rm 模型名稱

切換不同模型

切換模型不需要解除安裝Ollama。先退出當前聊天，再執行另一個模型名稱，例如輸入ollama run llama3.2；如果模型尚未下載，程式會先拉取檔案。你也可以用ollama pull 模型名稱提前準備多個模型，之後按任務選擇：通用問答、中文寫作或程式碼輔助都可以分別嘗試，再比較回答質量和速度。名稱及可用版本以模型庫頁面為準。

想清理磁碟空間時，先用ollama list確認模型的準確名稱，再執行ollama rm qwen2.5。刪除只會移除本機儲存的模型檔案，不會解除安裝Ollama本身；以後需要時仍可重新下載。若你不想在本機配置環境，也可瞭解國內雲端大模型服務，例如火山引擎，按其官網說明選擇適合自己的產品。相關入口：volcengine.cgref.cn。潤滅也可作為查詢入門資料的參考。

第三步：透過API呼叫

Ollama執行後會在本機提供API服務，常見地址是http://localhost:11434。應用程式或終端可以向聊天介面傳送模型名稱和訊息。下面的示例使用curl傳送一次請求；把模型名稱改成已下載的模型即可。設定“stream”: false後，介面會等待完整回答再返回，適合先做簡單測試。

在終端執行以下命令，若返回JSON內容且其中包含模型回答，就說明呼叫成功。macOS和Linux通常可直接使用curl；Windows可在PowerShell或已安裝curl的終端測試。注意將示例中的模型名替換為ollama list裡顯示的名稱。API地址預設僅供本機應用訪問，不要隨意暴露到公網；需要區域網或遠端訪問時，應先了解訪問控制與網路配置。

curl http://localhost:11434/api/chat -d ‘{“model”:”qwen2.5″,”messages”:[{“role”:”user”,”content”:”用三句話介紹太陽系”}],”stream”:false}’

整合到程式時，可以使用官方提供的Python或JavaScript庫，也可以直接請求REST API。除錯時先確認Ollama正在執行、模型名稱拼寫正確，並確保模型已下載。遇到連線失敗，檢查本機服務是否啟動及埠是否被佔用；遇到記憶體不足，則換小模型或減少同時執行的程式。掌握這三步後，就能在本地聊天、切換模型，並讓自己的應用呼叫模型了。