0
点赞
收藏
分享

微信扫一扫

omdd ollama 模型下载工具一些说明

omdd 对于使用上文档使用上部分不是特别清晰,以下简单说明下

下载元数据以及模型内容

  • 通过omdd get 获取, 但是内容都是需要自己下载的,第一个是manifest,同时名称必须是这个
  • 数据文件以及其他的是其余的,比如实际的blob 以及license等
  • manifest 以及下载的内容应该放一起
  • 对于不同系统实际就是进行文件的copy 同时按需创建对应的文件夹,与实际ollama pull的效果类似
  • omdd install 的时候同时还会结合OLLAMA_MODELS 进行自定义模型位置关联,注意如果是基于systemd 环境变量指定的,使用命令行,注意手工指定下,否则不是与历史的合并一起,反而会使用默认的

一个参考元数据效果

  • 比如nomic-embed-text的

Fetching direct download link for model: nomic-embed-text
# 下边第一个是manifest,同时命名必须是manifest
Manifest download link: https://registry.ollama.ai/v2/library/nomic-embed-text/manifests/latest
Download links for layers:
# 以下是数据文件
1 - https://registry.ollama.ai/v2/library/nomic-embed-text/blobs/sha256:970aa74c0a90ef7482477cf803618e776e173c007bf957f635f1015bfcfef0e6
2 - https://registry.ollama.ai/v2/library/nomic-embed-text/blobs/sha256:c71d239df91726fc519c6eb72d318ec65820627232b2f796219e87dcf35d0ab4
3 - https://registry.ollama.ai/v2/library/nomic-embed-text/blobs/sha256:ce4a164fc04605703b485251fe9f1a181688ba0eb6badb80cc6335c0de17ca0d
4 - https://registry.ollama.ai/v2/library/nomic-embed-text/blobs/sha256:31df23ea7daa448f9ccdbbcecce6c14689c8552222b80defd3830707c0139d4f
Generated download links for model: nomic-embed-text
Finished successfully!

说明

omdd 是一个比较有意思的工具,值得尝试下,可以解决ollama 模型离线化的问题,尽管直接copy 也是一种不错的选择,但是omdd 使用好了作为ci/cd 部分会比较方便,实际上也有一些其他类似工具,omdd 还是值得试用下的,至少比较轻量

参考资料

https://amirrezadev1378.github.io/ollama-model-direct-download/docs/Installing%20A%20Model

https://github.com/amirrezaDev1378/ollama-model-direct-download/issues/8

举报

相关推荐

0 条评论