Ollama是一个基于Go语言开发的本地大模型运行框架，旨在简化大型语言模型的本地部署、管理和推理工作流。
Ollama允许用户在本地机器上拉取、管理、运行大模型，并提供多种访问方式，包括本地CLI、HTTP接口以及通过OpenAI客户端的集成。其核心功能包括：
本地模型管理：Ollama支持从官方模型库或自定义模型库拉取预训练模型，并在本地保存和加载。它支持各种流行的模型格式，如ONNX、PyTorch、TensorFlow等1。
高效推理：通过GPU/CPU的加速，Ollama提供高效的模型推理，适合本地化应用或需要控制数据隐私的场景1。
多种接口访问：Ollama支持命令行（CLI）、HTTP接口访问推理服务，并通过OpenAI客户端实现更广泛的集成1。
环境变量配置：通过灵活的环境变量，用户可以自定义推理设备（GPU/CPU）、缓存路径、并发数、日志级别等1。
此外，Ollama还提供了类似于OpenAI API的简单接口，用户可以快速上手并调用模型进行内容生成。同时，它也包含一个类似ChatGPT的聊天界面，可以直接与模型进行交互。Ollama支持macOS、Linux和Windows操作系统，让用户能够在不同平台上本地运行大型语言模型。它还支持热切换模型，灵活多变，并允许用户自定义和创建自己的模型2。
总的来说，Ollama是一个强大的本地推理大模型平台，通过简化部署和使用流程，让更多人能够在个人计算机上运行复杂的大型语言模型，从而推进AI技术的广泛普及和创新应用2。
参考文章：
ollama大模型运行： https://zhuanlan.zhihu.com/p/720546185