酒馆SillyTarven接入Gemini 2.5 Pro使用New API进行轮询
本文最后更新于 10 天前,其中的信息可能已经有所发展或是发生改变。

查看更多教程!使用DeepSeek R1接入酒馆SillyTavern – Shiina’s Bulog

从0开始搭建云端酒馆SillyTarven – Shiina’s Bulog

优点:自动轮询,可查看使用量,便于自己管理,有时候会出现不回复

缺点:无法调整Top P\Top K,可能会遇到些bug

之前的文章中,我们介绍了:使用DeepSeek R1接入酒馆SillyTavern – Shiina’s Bulog

由于DeepSeek R1癫疯的文学功底,其Role Play一直饱受诟病,而Claude和OpenAI的成本太高,Grok目前暂未开放API使用,谷歌的Gemini就成为了我们的首选

Gemini目前的最佳SillyTarven版本是Gemini 2.5 Pro,由于自带思维链,他们的阶段频率比之前高了不少,建议使用好点的破限来反制截断情况

准备工具:谷歌账户(个人使用建议3个以上),一个美国或者支持Gemini使用的VPS

首先打开:Get API key | Google AI Studio

使用自己的谷歌账户登陆后获取API Key,创建之后可能需要等待几分钟,等待变为Free层级才能使用

如果单账户需要创建更多的Key,点击边上的Set up Billing,进入Google Cloud后台,新建项目即可,然后回到API Key界面,选择你创建的新项目,来获取新Key,每个项目的Key都有独立的额度,但不能创建太多项目,容易被封Google Cloud,然后这个号就没有API的功能了

保存你获取的Key,然后连上你的VPS,这里其实可以直接使用1Panel,之前的文章说过了安装方法,通过1Panel我们可以更便捷的安装和管理我们所需的东西:从0开始搭建云端酒馆SillyTarven – Shiina’s Bulog

我们将使用Calcium-Ion/new-api 来轮询,如果配置较低则可以使用One-API,但还是推荐new-api来做轮询。

在1panel中点击容器,随后点击创建编排

基于官方Docker Composer自行修改下

version: '3.4'

services:
  new-api:
    image: calciumion/new-api:latest
    container_name: new-api
    restart: always
    command: --log-dir /app/logs
    ports:
      - "3000:3000"
    volumes:
      - ./data:/data
      - ./logs:/app/logs
    environment:
      - SQL_DSN=root:123456@tcp(mysql:3306)/new-api  # Point to the mysql service
      - REDIS_CONN_STRING=redis://redis
      - TZ=Asia/Shanghai
    #      - SESSION_SECRET=random_string  # 多机部署时设置,必须修改这个随机字符串!!!!!!!
    #      - NODE_TYPE=slave  # Uncomment for slave node in multi-node deployment
    #      - SYNC_FREQUENCY=60  # Uncomment if regular database syncing is needed
    #      - FRONTEND_BASE_URL=https://openai.justsong.cn  # Uncomment for multi-node deployment with front-end URL

    depends_on:
      - redis
      - mysql
    healthcheck:
      test: ["CMD-SHELL", "wget -q -O - http://localhost:3000/api/status | grep -o '\"success\":\\s*true' | awk -F: '{print $$2}'"]
      interval: 30s
      timeout: 10s
      retries: 3

  redis:
    image: redis:latest
    container_name: redis
    restart: always

  mysql:
    image: mysql:8.2
    container_name: mysql
    restart: always
    environment:
      MYSQL_ROOT_PASSWORD: 123456  # Ensure this matches the password in SQL_DSN
      MYSQL_DATABASE: new-api
    volumes:
      - mysql_data:/var/lib/mysql
    # ports:
    #   - "3306:3306"  # If you want to access MySQL from outside Docker, uncomment

volumes:
  mysql_data:

由于使用的是MYSQL 8.2,这也是为什么推荐使用内存大于1G的机器,当然也可以通过开SWAP来抗一抗
服务启动成功后,访问http://服务器IP:3000即可进入系统。
默认管理员账号: root
默认管理员密码: 123456
可选择步骤:点击1Panel创建网站,选择反向代理,代理地址填127.0.0.1:3000,上面的域名填写你自己的域名,随后在证书中申请证书回来开启SSL即可

进入New-API之后,记得先修改密码,同时关闭注册,避免他人恶意刷量

系统设置中开启自用模式,在系统设置的系统设置中关闭新用户注册

接下来添加key即可,模型选择自定义,目前版本是gemini-2.5-pro-preview-03-25,可在AIStudio中自行查看,key多可以选择批量创建

随后点击API令牌,添加令牌即可,到酒馆中选择自定义接口,填入你的New-API地址,后面记得跟上v1,再粘贴你的令牌,点击连接即可,如果刷新出了我们的模型,那就算是成功

目前GEMINI免费层级的速率限制是1分钟2次,可能需要6-8个key来轮询才能满足个人的RP使用,同时由于酒馆的一个bug,上下文token过长时,如果输出超过一定token(似乎是5000?),可能会超过酒馆限制的最长响应时间,有概率会出现aborted错误,这时候请自行限制输出token或者输出文字数量,可在破限中自行设置。

 

暂无评论

发送评论 编辑评论


				
|´・ω・)ノ
ヾ(≧∇≦*)ゝ
(☆ω☆)
(╯‵□′)╯︵┴─┴
 ̄﹃ ̄
(/ω\)
∠( ᐛ 」∠)_
(๑•̀ㅁ•́ฅ)
→_→
୧(๑•̀⌄•́๑)૭
٩(ˊᗜˋ*)و
(ノ°ο°)ノ
(´இ皿இ`)
⌇●﹏●⌇
(ฅ´ω`ฅ)
(╯°A°)╯︵○○○
φ( ̄∇ ̄o)
ヾ(´・ ・`。)ノ"
( ง ᵒ̌皿ᵒ̌)ง⁼³₌₃
(ó﹏ò。)
Σ(っ °Д °;)っ
( ,,´・ω・)ノ"(´っω・`。)
╮(╯▽╰)╭
o(*////▽////*)q
>﹏<
( ๑´•ω•) "(ㆆᴗㆆ)
😂
😀
😅
😊
🙂
🙃
😌
😍
😘
😜
😝
😏
😒
🙄
😳
😡
😔
😫
😱
😭
💩
👻
🙌
🖕
👍
👫
👬
👭
🌚
🌝
🙈
💊
😶
🙏
🍦
🍉
😣
Source: github.com/k4yt3x/flowerhd
颜文字
Emoji
小恐龙
花!
上一篇