开源项目
llama.cpp修正Jinja工具参数浮点数序列化精度
llama.cpp b11622
概述
llama.cpp的Jinja模板会参与聊天提示、工具定义和参数的序列化。此次更新改用保留往返精度的浮点表示,修复旧实现默认六位有效数字造成的值变化,例如48.858844变为48.8588,以及1.0被表示为1的类型/表示问题。依赖浮点参数或严格JSON表示的工具链可能因此收到与上游不同的输入。该变化改善服务框架的数值正确性,和SYCL解码加速属于不同技术问题,分别计数。MIT许可;用户仍应以真实工具参数测试端到端往返,发布材料未给出任务成功率增幅。