通过多模式多代理协作实现透明且可控的推荐过滤

虽然个性化推荐系统擅长内容发现，但它们经常让用户接触到不受欢迎或令人不适的信息，这凸显了对以用户为中心的过滤工具的迫切需求。当前利用 大语言模型 (LLM) 的方法面临两个主要瓶颈：它们缺乏多模态意识来识别视觉上不适当的内容，并且很容易出现“过度关联”——错误地概括用户的特定厌恶（例如引起焦虑的营销）以阻止良性的教育材料。这些不受限制的幻觉会导致大量误报，最终损害用户代理。为了克服这些挑战，我们引入了一种新颖的框架，该框架集成了端到云协作、多模式感知和多代理编排。我们的系统采用基于事实的裁决流程来消除推理幻觉。此外，它构建了一个动态的两层偏好图，允许显式的人机交互修改（通过 Delta 调整），明确防止算法灾难性地忘记细粒度的用户意图。在包含 473 个高度混乱样本的对抗数据集上进行评估，所提出的架构有效地抑制了过度关联，将误报率降低了 74.3%，并实现了传统纯文本基线的近两倍的 F1 分数。此外，对 19 名参与者进行的为期 7 天的纵向实地研究表明，意图一致并提高了治理效率。用户反馈证实，该框架极大地提高了算法透明度，重建了用户控制，并减轻了错过的恐惧（FOMO），为个性化信息流中透明的人类与人工智能共同治理铺平了道路。