RUBEN：检索增强 LLM 系统的基于规则的解释

本文演示了 RUBEN，这是一种交互式工具，用于发现最小规则来解释数据驱动应用程序中检索增强 大语言模型 (LLM) 的输出。我们利用新颖的修剪策略来有效地识别包含所有其他规则的最小规则集。我们进一步展示了这些规则在 LLM 安全方面的新颖应用，特别是测试安全训练的弹性和对抗性即时注入的有效性。