为OpenClaw构建本模型服务Ollama。

用官方脚本安装

curl -fsSL https://ollama.com/install.sh | sh

升级就再来一遍

curl -fsSL https://ollama.com/install.sh | sh

我用n100来玩,找个最小的模型。

ollama pull qwen2.5:7b-instruct-q4_k_m

可以直接对话

ollama run qwen2.5:7b-instruct-q4_k_m

常用命令

ollama list                                 # 列出本地模型
ollama rm qwen2.5:7b-instruct-q4_k_m        # 删除模型

允许局域网访问,给OpenClaw提供服务,及小机子,只用一个模型,让它常驻,不卸载:

systemctl edit ollama

写入

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_KEEP_ALIVE=-1"

建议用systemctl edit ollama来配置ollama启动脚本,要不,升级后,又得重新设置。