xz-provider

LLM 服务商抽象：统一的 complete / complete_stream 接口，经协议适配器对接 OpenAI Chat、OpenAI Responses、Anthropic Messages 等。

架构（收敛后）

CompletionRequest ──► ProtocolAdapter ──► HTTP ──► ProtocolAdapter ──► Response / StreamEvent
                              ▲
                              │
                     OpenAiChat / Responses / Anthropic
                              │
                       GenericProvider（唯一 HTTP 栈）
                              │
                       ProviderBuilder / ProviderRouter

• 不要再寻找 OpenAiCompatibleProvider：已删除，OpenAI 兼容端点一律 GenericProvider + adapter。
• 共享编解码在 protocol/openai_wire.rs。

最小用法

use xz_provider::{
    ProviderBuilder, ProviderConfig, CompletionRequest, Message, RequestOptions, RouteContext,
};

let router = ProviderBuilder::new()
    .with_config(ProviderConfig::from_json(r#"{ ... }"#)?)
    .build()
    .await?;

let resp = router
    .complete(
        &RouteContext::default(),
        CompletionRequest::new("gpt-4o", vec![Message::user("hi")]),
        RequestOptions::default(),
    )
    .await?;

Features

模块导航