quantum_log-0.3.2 has been yanked.
QuantumLog
QuantumLog 是一个为高性能计算场景打造的异步日志库,支持文件、标准输出、数据库等多种输出目标,提供灵活的配置选项、优雅的关闭机制以及详细的诊断能力。
🚀 核心特性
- 异步高性能:基于 Tokio 的异步架构,支持高并发日志写入
- 多输出目标:支持 stdout、文件、数据库等多种输出方式
- 灵活配置:支持 TOML 配置与代码方式配置
- 优雅关闭:完善的关闭机制,确保日志不丢失
- 诊断能力:内置诊断信息,便于监控日志系统性能
- MPI 支持:面向 HPC 环境优化,支持 MPI
- 背压处理:高负载下的智能背压处理
- 结构化日志:支持结构化日志与多种输出格式
📦 安装
在你的 Cargo.toml 中添加依赖:
[]
= "0.3.2"
= { = "1.0", = ["full"] }
= "0.1"
# 可选特性(示例)
[]
= "0.3.2"
= ["database", "mpi_support", "tls"] # 启用数据库、MPI 和 TLS 支持
🎯 快速开始
基础用法
use ;
use ;
async
使用带关闭句柄的初始化 API
use init_quantum_logger;
use ;
async
API 选择指南
init(): 简单初始化,适用于大多数应用场景,使用全局shutdown()函数关闭init_quantum_logger(): 返回关闭句柄,适用于需要精确控制关闭时机的场景init_with_config(): 使用自定义配置初始化,适用于需要特定配置的场景
🆕 0.3.2 变更日志
QuantumLog 0.3.2 带来更强大的功能与更好的稳定性,主要变更:
📊 InfluxDB 时序数据库支持
- 新增 InfluxDB Sink:完整支持将日志写入 InfluxDB 时序数据库
- 兼容 InfluxDB 1.x 和 2.x 版本
- 支持 Token 认证和基本用户名/密码认证
- 批量写入机制提高性能(可配置批次大小和刷新间隔)
- 异步处理架构,支持自动重连和错误恢复
- 结构化数据模型:measurement、tags、fields 完整映射
- 时序数据分析优化:为 HPC 和监控场景提供专业的时序日志存储
🏗️ 项目架构重构
- 独立 Examples Crate:将测试和示例代码重构为独立的
examplescrate- 每个子目录专门负责单个 sink 的测试样例
- 提供完整的编译和运行环境
- 包含 console、file、database、influxdb、network 等完整示例
- 项目结构优化:合并
test/和examples/目录,提升代码组织性 - 文档系统完善:更新
.gitignore,排除构建产物和设计文档
🧪 测试框架改进
- 完整测试覆盖:所有 sink 类型的独立测试样例
- 集成测试增强:InfluxDB、数据库、网络等模块的完整集成测试
- 示例代码验证:确保所有示例代码可编译和运行
- 回归测试完善:覆盖所有功能模块的回归测试套件
🔒 安全加固
- 数据库连接字符串脱敏:防止敏感信息泄露
- 文件权限安全检查:确保日志文件访问权限正确
- 缓冲区溢出保护:增强内存安全性
- TLS网络传输加密:全面支持TLS/SSL加密传输
- 支持TLS证书验证(服务器证书和主机名验证)
- 支持自定义CA证书文件和客户端证书认证
- 可配置的TLS验证策略,提升网络传输安全性
- 网络连接重连机制优化:支持可配置的重连次数和延迟
⚡ 性能优化
- 减少字符串分配和克隆操作
- 优化HashMap转换性能
- 改进数据库操作效率
- 优化文件路径处理
- InfluxDB 批量写入性能优化
🛠️ 代码质量改进
- 网络模块TLS安全增强:完整实现TLS加密传输功能
- 新增TLS配置字段:
tls_verify_certificates、tls_verify_hostname、tls_ca_file、tls_cert_file、tls_key_file - 实现自定义TLS验证器,支持灵活的证书验证策略
- 优化网络重连机制:
max_reconnect_attempts、reconnect_delay_ms
- 新增TLS配置字段:
- InfluxDB 模块实现:完整的 InfluxDB sink 实现,支持企业级时序数据存储
- 修复QuantumLoggerConfig字段缺失问题
- 修复PipelineBuilder导入问题
- 移除未使用的导入和变量
- 所有测试用例通过验证
迁移提示(MPI 动态加载):自 0.3.2 起,运行时代码不再读取自定义
MPI_LIB_PATH。请使用平台标准环境变量(LD_LIBRARY_PATH/PATH/DYLD_LIBRARY_PATH)覆盖或指定库路径。MPI_LIB_PATH仅在构建阶段作为信息展示,运行时不依赖该变量。
🔧 启用 MPI 动态加载
QuantumLog 支持在运行时动态加载 MPI 库,无需在编译期进行静态/动态链接。启用方式:
[]
= "0.3.0"
= ["mpi_support", "dynamic_mpi"]
亮点:
- 运行时检测:启动时自动检测可用的 MPI 库
- 跨平台支持:适配不同系统的库文件命名
- Linux:
libmpi.so,libmpi.so.12,libmpi.so.40 - Windows:
mpi.dll - macOS:
libmpi.dylib
- Linux:
- 灵活部署:构建环境无需安装 MPI 开发包
- 优雅降级:当 MPI 不可用时自动禁用相关功能,程序继续运行
示例:
use init_quantum_logger;
async
库查找配置: 系统按以下顺序查找 MPI 动态库:
- 标准系统路径:系统默认的库搜索路径
- 环境变量路径:
LD_LIBRARY_PATH(Linux)、PATH(Windows)、DYLD_LIBRARY_PATH(macOS) - 构建期检测到的常见安装路径:
/usr/lib/x86_64-linux-gnu/openmpi/lib/usr/lib64/openmpi/lib/opt/intel/oneapi/mpi/latest/lib/usr/local/lib
如需指定自定义库路径,请配置相应的系统环境变量。
注意:使用动态加载时,请确保目标系统已安装兼容的 MPI 运行时。
环境变量与路径覆盖:
- 运行时动态加载遵循系统库搜索路径与常见库名;当前实现不直接读取自定义
MPI_LIB_PATH运行时变量。 - 如需覆盖或指定特定库位置,请在启动前配置:
- Linux:
export LD_LIBRARY_PATH=/path/to/mpi/lib:$LD_LIBRARY_PATH - macOS:
export DYLD_LIBRARY_PATH=/path/to/mpi/lib:$DYLD_LIBRARY_PATH - Windows(PowerShell):
$env:PATH = "C:\\Path\\to\\MPI\\bin;" + $env:PATH
- Linux:
- 构建阶段如检测到常见目录,会通过
MPI_LIB_PATH输出构建环境信息,但运行时不依赖该变量。
平台指引:
- Linux(推荐 OpenMPI 或 MPICH):
- Ubuntu/Debian:
sudo apt-get install libopenmpi-dev openmpi-bin或sudo apt-get install mpich - CentOS/RHEL:
sudo yum install openmpi openmpi-devel或sudo yum install mpich
- Ubuntu/Debian:
- Windows(MS-MPI):
- 安装 Microsoft MPI(MS-MPI)Runtime 与 SDK,并确保包含
mpi.dll的目录在PATH中 - 常见路径示例:
C:\\Program Files\\Microsoft MPI\\Bin
- 安装 Microsoft MPI(MS-MPI)Runtime 与 SDK,并确保包含
- macOS(Homebrew OpenMPI):
brew install open-mpi,并在必要时将$(brew --prefix)/lib加入DYLD_LIBRARY_PATH
🧪 测试
运行测试:
# 运行全部测试
# 按特性运行测试
# 运行示例
📊 InfluxDB 支持
QuantumLog 支持将日志写入 InfluxDB,适用于需要时序数据分析的场景。
配置示例
# InfluxDB 配置
[]
= true
= "INFO"
= "http://localhost:8086"
= "quantum_logs"
# 对于 InfluxDB 2.x,使用 token 认证
# token = "your-influxdb-token"
# 对于 InfluxDB 1.x,使用用户名/密码认证
= "quantum_user"
= "quantum_password"
= 100
= 5
= false
= true
特性
- 批量写入:通过批量处理提高写入性能
- 双版本支持:兼容 InfluxDB 1.x 和 2.x
- 认证支持:支持 Token 和基本认证
- 异步处理:基于 Tokio 的异步架构
- 自动刷新:定时刷新机制确保数据及时写入
数据模型
日志数据在 InfluxDB 中的存储结构:
- Measurement: 日志目标模块名
- Tags:
level: 日志级别hostname: 主机名thread: 线程名mpi_rank: MPI 排名(如果启用)
- Fields:
message: 日志消息file: 文件路径line: 行号module: 模块路径username: 用户名- 自定义字段
📝 许可证
本项目基于 Apache-2.0 许可证发布。详见 LICENSE。
🤝 贡献
欢迎贡献!请阅读 CONTRIBUTING.md 了解如何参与项目开发。
📞 支持
如果你遇到问题或有建议,请:
- 查看 在线文档
- 在 GitHub 上搜索或创建 Issue
- 参与 Discussions