- 版本：v0.31.2
- 大小：1.33GB
- 支持度：80 %
- 更新：2026-07-29
软件简介
ollama是一个开源的、强大的本地推理大模型平台，旨在简化大型语言模型的本地部署、管理和推理工作流。ollama是一个功能强大、易于使用且支持多种大型语言模型的本地推理平台，适用于多种应用场景。
ollama支持从官方模型库或自定义模型库拉取预训练模型，并在本地保存和加载，同时兼容onnx、pytorch、tensorflow等多种流行的模型格式。通过gpu/cpu加速，ollama提供高效的模型推理，适合本地化应用或需要控制数据隐私的场景。它支持多种接口访问推理服务，包括命令行(cli)、http接口，并可通过openai客户端实现更广泛的集成。此外，用户还可以通过灵活的环境变量自定义推理设备(gpu/cpu)、缓存路径、并发数、日志级别等。
ollama软件特色
1.主流模型一键拉取
内置模型仓库，支持 llama 3、deepseek、qwen、mistral、gemma 等主流大模型，一条命令即可下载并运行。
2.完全本地化运行
所有模型推理均在本机完成，数据不经过任何第三方服务器，彻底保护企业与个人的对话隐私，无网络连接也可正常使用。
3.rest api 轻松集成
提供兼容 openai 格式的 rest api，可与 open-webui、chatbox、langchain 等主流 ai 应用无缝集成，快速搭建私有 ai 助手。
4.gpu 加速高效推理
自动识别并调用 nvidia cuda 与 amd rocm 显卡加速，大幅提升推理速度;无独立显卡时自动切换 cpu 模式，兼容性极强。
ollama软件特色
1.主流模型一键拉取
内置模型仓库，支持 llama 3、deepseek、qwen、mistral、gemma 等主流大模型，一条命令即可下载并运行。
2.完全本地化运行
所有模型推理均在本机完成，数据不经过任何第三方服务器，彻底保护企业与个人的对话隐私，无网络连接也可正常使用。
3.rest api 轻松集成
提供兼容 openai 格式的 rest api，可与 open-webui、chatbox、langchain 等主流 ai 应用无缝集成，快速搭建私有 ai 助手。
4.gpu 加速高效推理
自动识别并调用 nvidia cuda 与 amd rocm 显卡加速，大幅提升推理速度;无独立显卡时自动切换 cpu 模式，兼容性极强。
