2025-06-20 811 次
以下是Ollama的常用命令及說明：
啟動服務(wù)
ollama serve
啟動Ollama服務(wù)器，默認監(jiān)聽localhost:11434。
指定端口啟動
ollama serve --port 11435
將服務(wù)端口改為11435。
拉取模型
ollama pull llama2
從Ollama庫下載模型（如llama2）?？赏ㄟ^--model-dir指定下載路徑。
列出本地模型
ollama list
顯示所有已下載的模型及其版本。
刪除模型
ollama rm llama2
刪除本地的llama2模型。
創(chuàng)建自定義模型
ollama create mymodel -f Modelfile
根據(jù)當前目錄下的Modelfile創(chuàng)建名為mymodel的自定義模型。
運行模型生成文本
ollama run llama2 "你好，世界"
使用llama2模型生成對"你好，世界"的回復(fù)。
啟動交互式對話
ollama chat llama2
啟動與llama2的交互式對話界面。
在Docker中啟動Ollama
docker run -d -p 11434:11434 --name ollama ollama/ollama
在Docker容器中運行Ollama服務(wù)。
進入Docker容器
docker exec -it ollama bash
進入運行中的Ollama容器執(zhí)行命令。
查看版本
ollama version
顯示Ollama的當前版本。
查看幫助信息
ollama --help
顯示所有可用命令和選項的幫助文檔。
在創(chuàng)建自定義模型時，Modelfile的示例內(nèi)容如下：
FROM llama2:7b PARAMETER temperature 0.8 ADJUST quantization q4_0
該文件可定義模型的基礎(chǔ)版本、參數(shù)和量化方式。
所有命令需在已安裝Ollama的環(huán)境中執(zhí)行。
部分高級功能（如分布式部署）可能需要額外配置。
如需持久化數(shù)據(jù)，可通過--model-dir參數(shù)指定存儲路徑。
