Ollama怎麼用 本地執行大模型工具教程

Ollama是一個本地執行大模型的工具，安裝後用一行命令就能在電腦上執行Llama、Qwen、DeepSeek等開源模型。模型檔案下載完成後，日常對話可以離線進行；首次安裝和下載模型需要聯網。下面從安裝、執行到API呼叫，帶你完整走一遍。

第一步：安裝Ollama

先開啟Ollama官網，根據電腦系統下載安裝包。Windows下載後雙擊安裝；macOS下載應用並拖到“應用程式”；Linux可以在終端執行：curl -fsSL https://ollama.com/install.sh | sh。安裝結束後開啟終端或命令提示符，輸入ollama –version，如果顯示版本號，就說明命令列工具已就緒。

如果終端提示找不到命令，先關閉並重新開啟終端，再檢查是否安裝成功。Windows使用者也可以在PowerShell執行：irm https://ollama.com/install.ps1 | iex。安裝程式通常會啟動後臺服務；若後續提示連線不上服務，可先啟動Ollama應用，再重試命令。模型執行速度主要取決於記憶體、顯示卡和模型大小。

第二步：下載和執行模型

模型需要按名稱下載，初次使用要保持聯網。開啟終端，輸入ollama run qwen2.5，Ollama會拉取該模型並進入對話介面；模型名稱和版本標籤可在Ollama模型庫檢視。下載完成後，在提示符後輸入問題並回車即可聊天，輸入/bye退出。下載時間和佔用空間會隨模型大小變化。

執行時若記憶體不足或回答特別慢，先退出對話，換用更小的模型版本。想確認本機已經下載哪些模型，執行ollama list；檢視正在執行的模型可用ollama ps。刪除不再需要的模型可以輸入ollama rm 模型名稱，例如ollama rm qwen2.5。刪除後需要再次使用時，必須重新下載。

切換不同模型

切換模型不需要解除安裝Ollama：先退出當前對話，再執行另一條命令，例如ollama run llama3.2或ollama run deepseek-r1。想固定具體版本，就使用模型庫展示的完整名稱和標籤，例如ollama run 模型名:標籤。不同版本的體積、能力和硬體需求不同，選擇前先看清模型頁面資訊。

如果只想先下載、不馬上進入聊天，可以執行ollama pull 模型名稱，例如ollama pull qwen2.5；稍後再用ollama run qwen2.5啟動。模型檔案儲存在本機磁碟，建議預留足夠空間。模型一旦下載完成，通常無需網路就能再次執行，但安裝、更新或下載其他模型仍需要聯網。

第三步：透過API呼叫

Ollama服務執行後，預設在本機的http://localhost:11434提供介面。可用curl測試聊天API：curl http://localhost:11434/api/chat -d ‘{“model”:”qwen2.5″,”messages”:[{“role”:”user”,”content”:”你好，請介紹一下自己”}],”stream”:false}’。把qwen2.5改成本機已有的模型名，命令會返回JSON格式的回覆。

如果介面報“模型不存在”，先執行ollama list確認名稱，再用ollama pull 模型名稱下載。若程式需要流式輸出，可調整請求引數；初次除錯建議保留“stream”:false，方便一次讀取完整結果。預設介面用於本機訪問，除非明確配置網路訪問和安全措施，不要直接暴露給公網。

不想在本機安裝模型、或電腦資源有限時，也可以瞭解國內雲端方案，例如火山引擎：volcengine.cgref.cn。需要本地執行就從安裝Ollama、下載小模型開始；教程內容整理自“潤滅”。

“`