模型镜像

模型镜像是由大模型文件按照指定的格式打包的制品

模型镜像是由大模型文件按照指定的格式打包的制品。

下载模型

下载查询到的指定模型,在终端执行下载命令

ollama pull qwen3.5:9b

输出如下:

% ollama pull qwen3.5:9b
pulling manifest
pulling dec52a44569a: 100% ██████████████████████████████████▏ 6.6 GB
pulling 7339fa418c9a: 100% ██████████████████████████████████▏  11 KB
pulling 9371364b27a5: 100% ██████████████████████████████████▏   65 B
pulling be595b49fe22: 100% ██████████████████████████████████▏  475 B
verifying sha256 digest
writing manifest
success

查看本地已下载的模型

通过 ollama pull 和 ollama run 运行的模型会下载到本地,可以通过 ollama list 来查看本地已经下载的模型列表

 % ollama list
NAME          ID              SIZE      MODIFIED
qwen3.5:9b    6488c96fa5fa    6.6 GB    20 minutes ago

查看本地模型详情

模型详情可以在 Ollama Web页面上查看,如 https://ollama.com/library/qwen3.5

对于下载到本地的模型,也可以查看模型详情:

ollama show qwen3.5:9b

输出样例:

% ollama show qwen3.5:9b
  Model
    architecture        qwen35
    parameters          9.7B
    context length      262144
    embedding length    4096
    quantization        Q4_K_M
    requires            0.17.1

  Capabilities
    completion
    vision
    tools
    thinking

  Parameters
    presence_penalty    1.5
    temperature         1
    top_k               20
    top_p               0.95

  License
    Apache License
    Version 2.0, January 2004
    ...

运行模型

基于模型镜像运行模型,请阅读 模型服务 章节

删除本地模型

模型下载数量较多时,会消耗较多的磁盘存储。通过删除历史版本或者不需要的模型可以释放存储空间

对于不需要的模型,可以使用 ollama rm 命令删除

 % ollama rm qwen3.5:9b

模型复制

模型复制是为已有模型创建一个完全相同的副本并赋予新名称

ollama cp qwen3.5:9b my-custom-qwen3.5:9b

模型推送

可以将本地模型推送到远程仓库

 % ollama push qwen3.5:9b
 Pushing model qwen3.5:9b...
 Pushed model qwen3.5:9b
 Successfully pushed model qwen3.5:9b