拉取镜像

docker pull ollama/ollama

GPU方式运行Ollama

docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

拉取模型

docker exec -it ollama ollama pull deepseek-r1:7b

运行

docker exec -it ollama ollama run deepseek-r1:7b

拉取openWebUI镜像并运行

docker run -d --privileged -p 3000:8080
--add-host=host.docker.internal:host-gateway
-v /data/openwebui:/app/backend/data
-e TRANSFORMERS_CACHE=/app/backend/data/huggingface/cache
-e HF_DATASETS_CACHE=/app/backend/data/huggingface/datasets
-e HF_ENDPOINT=https://hf-mirror.com
--name open-webui --restart always
ghcr.io/open-webui/open-webui:main