开源项目

Laya-CoreML:在 Apple 设备上执行类型化决策

mizorewww/laya-coreml

AI 基础设施模型推理判别式推理与决策模型部署Jev

概述

Laya-CoreML 是在 Apple 设备上执行类型化决策的本地推理工具,将候选项判断交给 Core ML 和神经网络引擎。 项目将类型化决策模型移植到Core ML和Neural Engine,提供速度与能耗测试;约5毫秒结果限于所测M3 Max短任务。