Ollama常用命令

1、下载Ollama

Linux系统的安装命令如下：

curl -fsSL https://ollama.com/install.sh | sh

2、进入llama3运行环境：

ollama run llama3

3、启动服务：

ollama serve

首次启动可能会出现以下两个提示：

Couldn’t find ‘/home/用户名/.ollama/id_ed25519’. Generating new private key.

该提示表示文件系统中不存在ssh私钥文件，此时命令将自动帮我们生成该文件，并在命令行中打印相应的公钥。

Error: listen tcp 127.0.0.1:11434: bind: address already in use

看到该提示，大概率服务已在运行中，可以通过

netstat -tulpn | grep 11434

命令进行确认。

若命令输出的最后一列包含“ollama”字样，则表示服务已启动，无需做额外处理。
否则，可尝试执行下列命令重启ollama：

4、重启ollama

systemctl daemon-reload
systemctl restart ollama

5、重启ollama服务

ubuntu/debian

sudo apt update
sudo apt install lsof
stop ollama
lsof -i :11434
kill <PID>
ollama serve

centos

sudo yum update
sudo yum install lsof
stop ollama
lsof -i :11434
kill <PID>
ollama serve

6、确认服务端口状态：

netstat -tulpn | grep 11434

7、配置服务

为使外网环境能够访问到服务，需要对HOST进行配置。

打开配置文件：

vim /etc/systemd/system/ollama.service

根据情况修改变量Environment：

服务器环境下：

Environment="OLLAMA_HOST=0.0.0.0:11434"

虚拟机环境下：

Environment="OLLAMA_HOST=服务器内网IP地址:11434"