论文
Greenhouse 项目:迈向完全开放和主权的 Agentic 的进展
Project Greenhouse: Progress Toward Fully Open and Sovereign Agentic Search
摘要
Greenhouse 项目代表了我们对一个简单论文的探索:我们相信只需适度的计算资源就可以为 agentic 搜索构建完全开放和主权的模型。作为第一个里程碑,我们描述了如何使用简单的两步方法构建一个有竞争力的仅逐点解码器重排序器,包括从头开始预训练,然后是仅从常用数据集开始的监督微调。与文献中的主流方法相反,我们不依赖第三方现有的开放权重骨干网,因此我们从头到尾完全控制模型训练。我们仅使用少量 GPU 就能完成大部分实验。该报告阐明了我们方法的重要性和好处,并且我们分享了能够透明、独立地再现模型训练各个方面的工件。除了记录我们努力的数据、代码和配置之外,我们还为我们的 Gaggle 模型系列发布了检查点,展示了我们方法的可行性并提供 这是验证我们更广泛的论文的第一步。