论文

生成式AI用户反馈机制的设计与原型验证

Designing the Future of User Feedback for Generative AI

应用与实践个人助理

摘要

部署后的用户反馈可以成为一种成本有效、可扩展且具有代表性的方式,用于监测和改善生成式AI系统与功能。有效实施时,提供反馈可提高用户参与度及其对GenAI系统的信任。政府法规和行业指南要求部署后用户参与,但如何设计既方便消费者、又能为产品团队提供可行动信息的机制,仍缺少指导。我们开展了一项学术研究者与eBay合作的多阶段研究。对当前行业做法的基准评估发现了一些常见问题,包括入口不易发现、术语不清楚、对用户价值关注不足。基于这些发现,我们形成最佳实践建议,并设计和测试了反馈收集工具原型。工具旨在让用户高效、灵活且积极地提供反馈,同时以可用形式向产品团队提供丰富的性能和潜在问题数据。