查看更多教程!使用DeepSeek R1接入酒馆SillyTavern – Shiina’s Bulog
从0开始搭建云端酒馆SillyTarven – Shiina’s Bulog
优点:自动轮询,可查看使用量,便于自己管理,有时候会出现不回复
缺点:无法调整Top P\Top K,可能会遇到些bug
之前的文章中,我们介绍了:使用DeepSeek R1接入酒馆SillyTavern – Shiina’s Bulog
由于DeepSeek R1癫疯的文学功底,其Role Play一直饱受诟病,而Claude和OpenAI的成本太高,Grok目前暂未开放API使用,谷歌的Gemini就成为了我们的首选
Gemini目前的最佳SillyTarven版本是Gemini 2.5 Pro,由于自带思维链,他们的阶段频率比之前高了不少,建议使用好点的破限来反制截断情况
准备工具:谷歌账户(个人使用建议3个以上),一个美国或者支持Gemini使用的VPS
首先打开:Get API key | Google AI Studio
使用自己的谷歌账户登陆后获取API Key,创建之后可能需要等待几分钟,等待变为Free层级才能使用
如果单账户需要创建更多的Key,点击边上的Set up Billing,进入Google Cloud后台,新建项目即可,然后回到API Key界面,选择你创建的新项目,来获取新Key,每个项目的Key都有独立的额度,但不能创建太多项目,容易被封Google Cloud,然后这个号就没有API的功能了
保存你获取的Key,然后连上你的VPS,这里其实可以直接使用1Panel,之前的文章说过了安装方法,通过1Panel我们可以更便捷的安装和管理我们所需的东西:从0开始搭建云端酒馆SillyTarven – Shiina’s Bulog
我们将使用Calcium-Ion/new-api 来轮询,如果配置较低则可以使用One-API,但还是推荐new-api来做轮询。
在1panel中点击容器,随后点击创建编排
基于官方Docker Composer自行修改下
version: '3.4' services: new-api: image: calciumion/new-api:latest container_name: new-api restart: always command: --log-dir /app/logs ports: - "3000:3000" volumes: - ./data:/data - ./logs:/app/logs environment: - SQL_DSN=root:123456@tcp(mysql:3306)/new-api # Point to the mysql service - REDIS_CONN_STRING=redis://redis - TZ=Asia/Shanghai # - SESSION_SECRET=random_string # 多机部署时设置,必须修改这个随机字符串!!!!!!! # - NODE_TYPE=slave # Uncomment for slave node in multi-node deployment # - SYNC_FREQUENCY=60 # Uncomment if regular database syncing is needed # - FRONTEND_BASE_URL=https://openai.justsong.cn # Uncomment for multi-node deployment with front-end URL depends_on: - redis - mysql healthcheck: test: ["CMD-SHELL", "wget -q -O - http://localhost:3000/api/status | grep -o '\"success\":\\s*true' | awk -F: '{print $$2}'"] interval: 30s timeout: 10s retries: 3 redis: image: redis:latest container_name: redis restart: always mysql: image: mysql:8.2 container_name: mysql restart: always environment: MYSQL_ROOT_PASSWORD: 123456 # Ensure this matches the password in SQL_DSN MYSQL_DATABASE: new-api volumes: - mysql_data:/var/lib/mysql # ports: # - "3306:3306" # If you want to access MySQL from outside Docker, uncomment volumes: mysql_data:
由于使用的是MYSQL 8.2,这也是为什么推荐使用内存大于1G的机器,当然也可以通过开SWAP来抗一抗
服务启动成功后,访问http://服务器IP:3000即可进入系统。
默认管理员账号: root
默认管理员密码: 123456
可选择步骤:点击1Panel创建网站,选择反向代理,代理地址填127.0.0.1:3000,上面的域名填写你自己的域名,随后在证书中申请证书回来开启SSL即可
进入New-API之后,记得先修改密码,同时关闭注册,避免他人恶意刷量
系统设置中开启自用模式,在系统设置的系统设置中关闭新用户注册
接下来添加key即可,模型选择自定义,目前版本是gemini-2.5-pro-preview-03-25,可在AIStudio中自行查看,key多可以选择批量创建
随后点击API令牌,添加令牌即可,到酒馆中选择自定义接口,填入你的New-API地址,后面记得跟上v1,再粘贴你的令牌,点击连接即可,如果刷新出了我们的模型,那就算是成功
目前GEMINI免费层级的速率限制是1分钟2次,可能需要6-8个key来轮询才能满足个人的RP使用,同时由于酒馆的一个bug,上下文token过长时,如果输出超过一定token(似乎是5000?),可能会超过酒馆限制的最长响应时间,有概率会出现aborted错误,这时候请自行限制输出token或者输出文字数量,可在破限中自行设置。