为OpenClaw构建本模型服务Ollama。
用官方脚本安装
curl -fsSL https://ollama.com/install.sh | sh
升级就再来一遍
curl -fsSL https://ollama.com/install.sh | sh
我用n100来玩,找个最小的模型。
ollama pull qwen2.5:7b-instruct-q4_k_m
可以直接对话
ollama run qwen2.5:7b-instruct-q4_k_m
常用命令
ollama list # 列出本地模型
ollama rm qwen2.5:7b-instruct-q4_k_m # 删除模型
允许局域网访问,给OpenClaw提供服务,及小机子,只用一个模型,让它常驻,不卸载:
systemctl edit ollama
写入
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_KEEP_ALIVE=-1"
建议用systemctl edit ollama来配置ollama启动脚本,要不,升级后,又得重新设置。
