Skip to content

TaoEngine/ollama_tocloud

Repository files navigation

Ollama toCloud

Ollama toCloud 是一个第三方Ollama服务器 & 云端模型协议转换器, 它是为了解决我使用HomeAssistant不能自定义第三方模型而制作的

它是基于 Dart的Shelf 开发的 若想使用它,可以把它部署在和HomeAssistant同级的 Docker 上面

它实现了Ollama的两个协议

  • /api/tags 显示可用模型
  • /api/chat 和云端模型聊天

如何使用它

如果你的家庭服务器安装了 Docker 你可以按照以下步骤部署它

# 构建镜像
docker build . -t ollama_tocloud

# 运行容器
docker run -it \
    --name ollama_tocloud_container \
    -p 11434:11434 \
    -e SERVICE_IPV6=false \
    -e OLLAMA_ADDRESS=x.x.x.x \
    -e OLLAMA_PORT=11434 \
    -e OPENAI_URL=https://xxx.com/v1  \
    -e OPENAI_KEY=sk-*** \
    ollama_tocloud

然后你就使用浏览器访问这个服务,并按照其中的内容进行操作,即可在HomeAssistant部署成功第三方模型

写的文档比较粗糙,有小伙伴帮我润色和纠错嘛😅