开源项目

Timber:经典ML编译器

kossisoroyce/timber

模型推理推理加速

概述

Timber是一个把经典机器学习模型编译为原生C代码的优化编译器,面向需要低延迟推理服务的工程团队,支持XGBoost、LightGBM、scikit-learn、CatBoost、ONNX等多种模型来源。工程并纳入当期新工程,README标示Apache-2.0许可,提供pip安装及模型编译、服务、预测命令,编译产物可直接在目标环境部署运行。