Module chat 

Modules

batch_utils

批处理工具函数

Structs

BatchResult

批处理结果，包含成功和失败的响应

ChatCompletionChunk

流式响应的数据块

ChoiceDelta

流式响应的选择项增量

MessageDelta

消息增量

ModelInfo

模型信息

ModelPermission

模型权限

Traits

ChatApi

通用的聊天API接口，定义所有AI服务的核心能力