Ollama

• Ollama 可以在本机运行 AI 大模型的工具。
• 本地电脑跑大模型 （LLM）工具
• Ollama可以理解为 本地 AI 模型管理器 + 运行环境
• 可以通过python调用Ollama模型 (支持调用本地 Ollama、调用远端的Ollama)
  • 本地大模型能力嵌入到自己的 Python 程序
  • 也支持调用远端的Ollama模型，指定base_url/host来调用

场景

• 本地化AI助手
• 隐私敏感的数据处理
  • 如果数据不方便发到外部 API，比如合同、财务报表、内部文档、客户信息、日志等，可以用 Ollama 在本地或公司内网跑模型
• Rag本地知识库