技术实践
OpenAI借助Codex将Habitat存储服务改写为Rust
概述
Habitat为OpenAI产品提供在线数据访问,案例披露其已覆盖近40个地区,处理超过500PB数据和每秒7000多万次请求。早期采用Python有利于快速迭代,但单次用户请求可能引发数百次数据库访问,最慢调用会影响体验,尾延迟因此成为主要问题。团队先通过细致优化和多进程配置延长原有架构寿命,再在2026年第二季度由两名工程师结合Codex与GPT-5.5将服务改写为Rust。新服务已承担95%的生产流量。官方报告相对Python版本CPU效率提升6倍、内存效率提升15倍,平均与尾延迟也降低;这些是该服务的自述结果,不是所有Python到Rust迁移的通用收益。