Skip to content

xiangsx/gpt4free-ts-deploy

BranchesTags

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

62 Commits

clash

clash

 
 

env

env

 
 

redis

redis

 
 

run

run

 
 

.gitignore

.gitignore

 
 

README.md

README.md

 
 

docker-compose.yaml

docker-compose.yaml

 
 

Repository files navigation

部署步骤

  1. 克隆项目
git clone https://github.com/xiangsx/gpt4free-ts-deploy.git
  1. 配置环境变量
  • 把env文件夹下面的示例文件*.env.example环境变量文件统统去除.example后缀
  • 你基本只需要修改 run/config.json 其他配置不知道具体含义 请勿修改

run/config.json 相关字段说明

# 所有site几乎都有的配置
size: 维持在线的账号池数量，比如poeauto的size=3，那么poeauto就会注册账号知道可以维持在线的账号数目=3
serial: 同时初始化的进程数量，比如可以同时注册2个poe账号，serial=2，机器配置不行的保持为1即可

# 负载均衡配置 非常推荐配置！！！！
site_map: 配置之后，可以使用auto站点，然后请求会自动根据你的配置权重负载均衡到各个site

# 代理池配置
proxy_pool.enable 只有开启才会使用代理池，否则使用环境变量里面配置的 
proxy_pool.proxy_list 绝大部分使用的代理池
proxy_pool.stable_proxy_list gemini使用的特殊池子，因为需要美国ip
  1. 配置代理 有些站点需要服务器配置代理，方便切换节点，例如sincode perplexity

国内机器: 配置clash/config.yaml, 然后去除env/proxy.env中的http_proxy字段前的#, 注意把你的clash配置复制到 clash/config.yaml, 并且确认external-controller: '0.0.0.0:9090', 该字段是监听的 0.0.0.0

国外机器: 不需要任何改动

  1. 启动

VIP群用户需要先运行docker login然后输入群公告的用户名密码

docker-compose up -d
  1. 配置oneapi渠道，地址 http://127.0.0.1:29000

原封不动按照，截图填入即可,健全密钥随便填就可以了，例如xxx

oneapi_cfg_help

映射示例

{
  "gpt-3.5-turbo-0301": "gpt-3.5-turbo",
  "gpt-4-0314": "gpt-4",
  "gpt-4-0613": "gpt-4",
  "gpt-3.5-turbo-0613": "gpt-3.5-turbo"
}
  1. 【可选】配置监控

配置http监控, 画框的地方，原样填入即可，不用修改 image 复制下面的值，填入参数

{
    "site": "auto",
    "model": "gpt-3.5-turbo",
    "prompt": "say 1"
}
  1. 【可选】配置cloudflare workers使用动态ip
  • 前往 cloudflare
  • 点击 Workers & Pages —> 点击 Create application -> 点击 Create Worker
  • 复制下方代码到编辑器中
  • 点击 Deploy
  • 部署之后把得到的cf链接填入到gpt4free.env中 REQ_PROXY=https://xxxx.workers.dev
async function handleRequest(request) {
  const url = new URL(request.url);
  const targetUrl = url.searchParams.get("target");
  console.log(request.headers.get(''));

  url.searchParams.delete("target");

  let myHeaders = new Headers(request.headers);
  let reqBody = null;

  if (['POST', 'PUT', 'PATCH'].includes(request.method)) {
    // Clone and re-use body for requests with attached body payload
    reqBody = await request.clone().blob();
  }

  console.log(targetUrl + url.search, request.method, reqBody);

  return fetch(targetUrl + url.search, {
    method: request.method,
    headers: myHeaders,
    body: reqBody
  });
}

export default {
  async fetch(request, env, ctx) {
    return handleRequest(request)
  },
};

相关链接

  1. oneapi配置：http://127.0.0.1:29000 登录用户名密码 root 123456

  2. clash配置界面：http://127.0.0.1:29002

  3. 监控页面：http://127.0.0.1:29004

Q&A

  1. 出现ERR PROXY COMMECTION FALED 出现下图相关错误，检查你的代理， 解决办法: 如果你的机器是国外的，去除proxy.env的http_proxy字段或者在前面加个#注释掉; 如果你的机器是国内的，配置代理 clash/config.yaml或者使用你自己的代理端口，在proxy.env中修改 image

Release History

v0.0.189-private

  1. 修复perplexity

v0.0.188-private

  1. 修复poeauto自动注册问题

v0.0.187-private

  1. poevip支持所有新模型包括claude3和gemma-废物
  2. poeauto支持 claude-3-sonnet

v0.0.186-private

  1. poevip修复为积分制

v0.0.185-private

  1. poeauto更新，改为积分制

v0.0.184-private

  1. 修复poeauto注册问题

v0.0.183-private

  1. 增加站点freegpt4，配置如下

    gpt4free-ts-deploy/run/config.json

    Line 11 in 0a08e85

    "freegpt4": {

v0.0.182-private

  1. 修复poe的sd绘图格式问题

v0.0.181-private

  1. 修复poe老账号没有p-lat的问题

v0.0.180-private

  1. 修复poeauto注册之后，第二次登录，登陆态度失效问题
  2. 修复poe gpt-3.5-turbo 无法使用问题

v0.0.179-private

  1. 修复poevip登陆态问题，需要传cookie中的p-lat 和p-b 具体参数在run/config.json中配置 "poevip": { "size": 0, "serial": 1, "pb_list": [ { "pb": "xxxxx", "lat": "xxxxx" } ] },

v0.0.178-private

  1. 修复poe

v0.0.177-private

  1. 修复poe

v0.0.176-private

  1. 修复phind，更新请求协议

v0.0.175-private

  1. 修复askx回复object的问题

v0.0.174-private

  1. 优化perplexity 上下文格式被检测导致超时的问题
  2. 优化perplexity普号登陆的问题

v0.0.173-private

  1. 优化perplexity多并发的问题以及异常崩溃，现在不需要配置WORKERS，修改run/config.json perplexity.concurrency=10

v0.0.172-private

  1. perplexity 复活啦，现在token不会登陆立即刷新了，而且回复速度极快

v0.0.171-private

  1. 优化poeauto和poevip的内存和cpu占用
  2. 放开size到100，如果站点封了全是港✌️的锅

v0.0.170-private

  1. 新增airoom站点，支持gpt-4-1106-preview和gpt-3.5-turbo-16k，需要配置CF Workers或者配置代理池才能稳定使用，不然容易被封ip，CFworkers配置方法见文档 https://github.com/xiangsx/gpt4free-ts-deploy

v.0.0.169-private

  1. poeauto和poevip新增支持三种模型 qwen-72b mixtral-8x7b mistral-medium

v0.0.168-private

  1. phind 修复一直no left问题

v0.0.167-private

  1. 修复poevip dall-e-3画图超时的问题

v0.0.166-private

  1. poeauto站点减少timeout
  2. 优化phind提示词，减少phind说自己是phind的概率
  3. 增加gemini站点, gemini格式转成openai官方格式，具体配置见最下方链接中run/config.json

v0.0.165-private

  1. poeauto和poevip增加支持gemini-pro

v0.0.164-private

  1. 修复poeauto和poevip内存问题

v0.0.163-private

  1. 修复poeauto和poevip串会话的问题
  2. 支持poeauto和poevip单账号多开，需要配置环境变量, env中配置WORKDERS=数量

    gpt4free-ts-deploy/env/gpt4free.env.example

    Line 2 in 7aa32df

    WORKERS=1

v0.0.162-private

  1. 修复phind 会携带上下文的问题

v0.0.161-private

  1. 修复phind，现在响应贼快

v0.0.160-private

  1. poevip和poeauto增加playground-v2支持

v0.0.159-private

  1. 修复poeauto注册超时问题

v0.0.158-private

  1. 修复ddg搜不到内容报错的问题

v0.0.157-private

  1. 修改dockerfile基础镜像

v0.0.156-private

  1. 修复phind
  2. 优化poevip

v0.0.155-private

  1. poevip支持dalle3
  2. 修复poeauto各种问题，去除的claude-2模型

v0.0.154-private

  1. 啥也没更新

v0.0.153-private

  1. 修复poe超时问题

v0.0.152-private

  1. 增加phind
  2. 修复poe相关站点的串会话和timeout的问题

v0.0.151-private

  1. 修复auto openai转发的问题，没用到的可以不更新

v0.0.150-private

  1. 修复poeauto

v0.0.149-private

  1. 修复poevip

v0.0.148-private

  1. 修复poevip判断逻辑

v0.0.147-private

  1. 删除所有不能用站点
  2. 增加claude格式流返回，所有模型均支持，claude形式返回接口/:site/v1/complete或者/v1/complete 然后site放在body中
  3. 优化截取上下文性能问题

v0.0.146-private

  1. 增加askx站点 https://github.com/xiangsx/gpt4free-ts-deploy/blob/f837d622f596a3053d09cd7843933acb245c6165/run/config.json#L9C4-L9C4

v0.0.145-private

  1. 修复perplexity，因为会员和非会员不一样

v0.0.144-private

  1. 修改perplexity更新token获取方式

v0.0.143-private

  1. 增加perplexity检测token更新

v0.0.142-private

  1. 修复perplexity
  2. 增加poevip站点，订阅号可以走这个站点
  3. 转发支持model_map 即模型映射

    gpt4free-ts-deploy/run/config.json

    Line 42 in b762dcc

    "token_limit": {
  4. 修复流式格式的问题，现在和官方完全一致
  5. openai站点支持配置，请求上下文长度裁剪，配置之后自动裁剪

    gpt4free-ts-deploy/run/config.json

    Line 42 in b762dcc

    "token_limit": {

v0.0.141-private

  1. 联网支持多语言
  2. 增加poeauto站点，poef的升级版，poef和poe暂时保留，后面废弃。老账号自行看account/poeauto.json的格式自己导入 poeauto格式 https://github.com/xiangsx/gpt4free-ts-deploy/blob/78abdc54e5e7236b871c55e296012d176e3772b1/run/config.json#L2C3-L2C3

v0.0.140-private

  1. 修复poef注册，需要环境变量中指定POEF_MAIL_TYPE=smail-pro

v0.0.139-private

  1. 你猜更新了啥

v0.0.138-private

  1. 重构复活sincode, 需要自己注册账号绑定卡，理论无限并发 无限次数

    gpt4free-ts-deploy/run/config.json

    Line 20 in 1411f0b

    "sincode": {

v0.0.137-private

  1. 增加yopmail邮箱 可以用来注册merlin

v0.0.136-private

  1. 新增langdock站点，config.json里面需要配置gmail_list,langdock字段，参考https://github.com/xiangsx/gpt4free-ts-deploy/blob/c47b6f4ebe4767f67fe0c1b32806404d1fe1acad/run/config.json#L17C9-L17C9

v0.0.135-private

  1. poef & poe 支持stable-diffusion 画图模型

v0.0.134-private

  1. 修复poe

v0.0.133-private

  1. navit 支持gpt3.5-16k

v0.0.132-private

  1. 修复navit，可以通过注册账号多次使用gpt4, 没有限制ip

v0.0.131-private

  1. 新增navit站点，3.5无限制，4.0单个ip一天只能5次
  2. 优化merlin
  3. 优化per

v0.0.130-private

  1. 修复可能导致merlin no connections的问题

v0.0.129-private

  1. 修复poe

v0.0.128-private

  1. perplexity提示词，自己调整不要包含gpt模型字样包括3.5和4.0

v0.0.127-private

  1. 大幅提升垃圾机器上的cf成功率

v0.0.126-private

  1. 修复perplexity运行时间长之后卡死的问题

v0.0.125-private

  1. 更新perplexity提示词，每个人必须自己设置提示词，如果一直超时，说明被封了，就换提示词， config.perplexity.system 例如 You are a AI model ,base on %s model (%s 表示model)

v0.0.124-private

  1. 忽略

v0.0.123-private

  1. auto站点支持转发openai function call

v0.0.122-private

  1. 使用新框架重构perplexity，自动处理cf

v0.0.121-private

  1. 添加MailTM邮箱，merlin可以用，config.json配置mailtm

v0.0.120-private

  1. 修复auto站点，通配符匹配错误的问题

v0.0.119-private

  1. 没什么好更新的，修复下merlin，邮箱填emailnator
  2. 增加通用联网逻辑，调用auto站点，config.json种需要配置search和url模型, 调用任何其他模型参数body中传search=true

v0.0.118-private

  1. 修复poe&poef

v0.0.117-private

  1. merlin请求错误，自动销毁重新登录

v0.0.116-private

  1. 优化smail-pro,现在用来注册merlin应该没问题了

v0.0.115-private

  1. 修复一些莫名其妙的问题

v0.0.114-private

  1. 修复代理选择问题

v0.0.113-private

  1. 优化smail-pro, 减少超时错误

v0.0.112-private

  1. 优化smail-pro注册速度

v0.0.111-private

  1. merlin改为串行注册

v0.0.100-private

  1. 修复代理选择问题

v0.0.109-private

  1. 重构账号池基础架构，支持动态调整poolsize
  2. 新增merlin站点，支持gpt4(6000token)和gpt3.5(2500token)

v0.0.108-private

  1. 增加API_KEY=xxx参数 加密请求

v0.0.107-private

  1. 增加vanus站点，参数VANUS_POOL_SIZE=3

v0.0.106-private

  1. myshell网站更新了，修复注册问题
  2. myshell站点，单条消息如果太长不报错，随机删减字符

v0.0.105-private

  1. 修复myshell注册问题

v0.0.104-private

  1. 修复auto站点权重选择的问题

v0.0.103-private

  1. auto的config.json配置，增加官方接口格式的第三方负载均衡，可以用来构造集群并配置权重

v0.0.102-private

  1. 增加bing和ddg搜索接口
  2. www增加max_tokens参数

v0.0.101-private

  1. google和www懒加载
  2. 修复非stream模式下的一些小问题

v0.0.100-private

  1. 增加www站点，用来解析url成文本 site=www&model=url

v0.0.99-private

  1. 增加google搜索，site=google&model=search

v0.0.98-private

  1. 修复myshell

v0.0.97-private

  1. 增加日志logstash配置, 可以把日志通过logstash传到es

v0.0.96-private

  1. 修复上个版本崩溃的问题

v0.0.95-private

  1. 优化myshell, 增加ws断线重连

v0.0.94-private

  1. 增加myshell站点，只需要配置MYSHELL_POOL_SIZE即可，会自动注册，不要滥用奥，少搞点

v0.0.93-private

  1. poe和poef增加code llama 三个模型/supports看具体model

v0.0.92-private

  1. 修复poef相关问题

v0.0.91-private

  1. 重构代码，错误返回结构保持和openai一致
  2. perplexity 过cf，目前测试阶段，本地测试一点问题没有，服务器上我这边有问题，发出来大家一起测一下

v0.0.90-private

  1. 修复poef

v0.0.89-private

  1. 修复poe

v0.0.88-private

  1. 增加openai官方逆向3.5接口

v0.0.87-private

  1. 增加环境变量PORT 修改容器端口

v0.0.86-private

  1. 优化sincode，sincode现在限制对话session数目，优化对话完成删除历史对话

v0.0.85-private

  1. 修复日志显示不全的问题

v0.0.84-private

  1. 修复per
  2. 优化cpu占用，大幅减少io次数

v0.0.83-private

  1. 增加auto站点最大重试次数配置

v0.0.82-private

  1. 修复perplexity

v0.0.81-private

  1. 优化poef站点，自动注册poe账号, 不过目前注册只能是串行的

v0.0.80-private

  1. 优化poe

v0.0.79-private

  1. sincode最终版，增加随机休眠时间，防止同一时间过期，全部重启导致全部超时

v0.0.78-private

  1. sincode终极优化
  2. 优化docker构建流程

v0.0.77-private

  1. 究极优化sincode，应该不会出现全死的情况了
  2. 增加官方openai站点，环境变量OPENAI_KEY=sk-xxxx|sk-xxxx

v0.0.76-private

  1. 修复perplexity
  2. 优化perplexity，支持gpt-3.5-turbo和net-gpt-3.5-turbo, 取决于你账号的gpt4开关是否打开

v0.0.75-private

  1. 更新修复poe

v0.0.74-private

  1. 优化sincode，ratelimit 不等待直接重新登录

v0.0.73-private

  1. 优化sincode，出现任何异常直接销毁重新登录

v0.0.72-private

  1. 修复sincode的部分崩溃问题，需要持续观察，各位先更新

v0.0.71-private

  1. 修复this.pool错误

v0.0.70-private

  1. per优化内存占用
  2. 修复this.pool错误
  3. 增加日志文件开关 LOG_FILE=0 #0-关 1-开

v0.0.69-private

  1. 增加日志文件，日志控制台打印开关 v0.0.68-private
  2. 尽最大可能降低内存占用，目前已优化poe&sincode v0.0.67-private
  3. 修复非流式出现please try later的bug v0.0.66-private
  4. 修复sincode的一系列bug v0.0.65-private
  5. 新增sincode站点

About

Deploy gpt4free-ts & one-api & clash & Monitor

Resources

Readme
Activity

Stars

110 stars

Watchers

2 watching

Forks

34 forks
Report repository

Releases

No releases published

Packages

No packages published