开源项目

Diff Knapsack:可微背包与Top-k算子实现

google-deepmind/diff-knapsack

模型训练预训练

概述

Diff Knapsack 提供可微的背包和 Top-k 选择算子,使离散选择能够参与梯度训练。 项目将离散选择写成动态规划,通过正则化递推提供可微松弛,支持并行前向及反向向量雅可比积计算。