侧边栏壁纸
博主头像
DoGuaWの小破站 博主等级

遇见更好的自己

  • 累计撰写 4 篇文章
  • 累计创建 3 个标签
  • 累计收到 2 条评论

目 录CONTENT

文章目录

管管你的羊毛API吧!两个docker容器实现大模型API管理&分发以及负载均衡、额度分摊

DoGuaW
2025-01-13 / 0 评论 / 0 点赞 / 1 阅读 / 0 字
温馨提示:
本文最后更新于2025-01-13,若内容或图片失效,请留言反馈。 部分素材来自网络,若不小心影响到您的利益,请联系我们删除。

076thum2.png

One-hub

docker run -d -p 3300:3000 \
  --name one-hub \
  --restart always \
  -e TZ=Asia/Shanghai \
  -e USER_TOKEN_SECRET="user_token_secret" \
  -e SESSION_SECRET="session_secret" \
  -v /Users/dino/docker/one-api:/data \
  ghcr.io/martialbe/one-api 复制

管理员:root
密码:123456

Open-WebUI

docker run -d -p 3311:8080 \
    -v /Users/dino/docker/openwebui/data:/app/backend/data \
    --name open-webui \
    --restart always \
    ghcr.io/open-webui/open-webui:main 复制

首次登陆需要注册管理员账户

github 模型市场地址

https://github.com/marketplace/models/catalog

谷歌 Gemini API

https://aistudio.google.com/app/apikey

0

评论区