duckai

DuckDuckGo AI to OpenAI

• API身份验证
• 支持IP代理池
• 流式/非流式API
• 内存占用极小

模型

模型映射，不支持的模型默认为gpt-4o-mini

• gpt-4o-mini -> (gpt-4o-mini)
• claude-3-haiku -> (claude-3-haiku-20240307)
• llama-3.1-70b -> (meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo)
• mixtral-8x7b -> (mistralai/Mixtral-8x7B-Instruct-v0.1)

对话

curl --request POST 'http://127.0.0.1:8080/v1/chat/completions' \
  --header 'Content-Type: application/json' \
  --data '{
    "messages": [
      {
        "role": "user",
        "content": "Rust example."
      }
    ],
    "model": "gpt-4o-mini",
    "stream": true
  }'

命令

$ duckai -h
DuckDuckGo AI to OpenAI

Usage: duckai
       duckai <COMMAND>

Commands:
  run      Run server
  start    Start server daemon
  restart  Restart server daemon
  stop     Stop server daemon
  log      Show the server daemon log
  ps       Show the server daemon process
  gt       Generate config template file (yaml format file)
  help     Print this message or the help of the given subcommand(s)

Options:
  -h, --help     Print help
  -V, --version  Print version

$ duckai run -h
Run server

Usage: duckai run [CONFIG_PATH]

Arguments:
  [CONFIG_PATH]  Configuration filepath [default: duckai.yaml]

Options:
  -h, --help  Print help

安装

1. 安装

• cargo

cargo install vproxy

• Dokcer

docker run --rm -it ghcr.io/penumbra-x/duckai:latest run

2. 使用

• 生成配置模版

duckai gt # 生成duckai.yaml文件（当前目录）

# 调试模式
debug: false

# 监听地址
bind: 0.0.0.0:8080

# 客户端超时
timeout: 60

# 客户端连接超时
connect_timeout: 10

# 客户端 tcp keepalive
tcp_keepalive: 90

# 最大 tcp 连接
concurrent: 100

# 代理池
proxies: []

# 启用 TLS
tls_cert: null
tls_key: null

# 验证 api 密钥
api_key: null

3. 代理池

IP代理池类型支持三种类型（优先级：CIDR > Proxy > Interface，使用轮训策略）:

• URL，支持http/https/socks4/socks5/socks5h
• Interface，即绑定本地网络接口地址
• CIDR，支持IPv4/IPv6子网，前提是子网路由正常通信

代理池配置填写模版:

• 绑定本地Interface: ["192.168.1.10", "192.168.1.11"]

• 绑定CIDR: ["2001:470:e953::/48"]

• 绑定代理URL: ["http://127.0.0.1:6152", "socks5://127.0.0.1:6153"]

贡献

如果您想提交贡献，请打开 Pull Request

获取帮助

您的问题可能已在 issues 中得到解答

赞助商

如果您觉得这个项目有帮助，请考虑赞助我以支持持续开发：

USDT-TRC20: TCwD8HfHnJ7236Hdj3HF5uZKR2keeWeqZe