论文
算法判断的地理学:LLM 住房搜索中的中介、地点身份和种族引导
The Geography of Algorithmic Judgment: LLM Intermediaries, Place Identity, and Racial Steering in Housing Search
摘要
大语言模型 (LLM) 通过将列表平台集成到对话界面中,在城市环境中协调信息、搜索和推荐的访问,迅速在住房搜索中发挥中介作用。我们通过对美国四个城市的七个开放权重和闭源 LLM 进行行为审计,在三个迭代提示条件下测试位置建议,这些条件逐步添加生活方式偏好背景并反映公平住房配对测试方法,从而扩展了 LLM 中种族引导的先前工作。我们发现,转向是模型解释许可的紧急行为,而不是主要的静态属性。引导是用户身份、偏好表达和空间逻辑相互作用的结果,模型已经内化了学习到的给定城市中的地点、偏好和机会的表示,以及不同类型的用户如何与之相关。虽然存在转向,但在评估的条件下,转向的方向或幅度并不统一。偏好条件测试通常会增加或重新配置相对于基线条件表现出转向行为的模型数量,这表明 LLM 可能会根据用户的种族身份来解释相同的住房偏好的不同含义。我们的研究结果还表明,该城市并不是基于地方的行业中 LLM 评估的中立测试单位,并且不能假设一个本地市场的结果可以推广到另一个本地市场。住房部门需要当地和领域的专业知识,以确保在采用调解空间访问的人工智能工具时,对公平住房的法律和制度承诺不会受到损害。