Anthropic用真实设备与受控实验评估小模型自复制风险

Anthropic Frontier Red Team披露AI自复制风险实验：在自购电视盒子上验证分布式模型运行，再评估小模型在不同硬件上建立推理服务的能力。自建Memento基于Pi编码Agent，在长任务中保留工作区与简短尝试记录，并用新的Agent实例重新审视失败，减少持续沿用错误假设。 另一组实验在隔离的模拟节点中检查完整传播和推理建立链路，使用简化的访问条件和独立推理服务器。较强模型在这些条件下完成链路，小模型虽然能完成多个单独环节，端到端组合仍可能失败。文中还检查尝试记录的继承和更强模型建议是否帮助后续部署。 本条是实际实验方法和结果的公开披露，不是新模型首发，也不是声称现实网络已经出现同等自主扩散。对未来数月能力的推测保留为作者预测，不转写为已经实现的结论。