论文
LLM 辅助正则化能改善低数据迁移流预测吗?
Can LLM-assisted regularization increase forecast accuracy for migration flows in low data regimes?
摘要
对于传统的基于重力的预测模型来说,预测移民流量仍然是一个重大挑战,该模型主要依赖于结构化的社会经济指标,例如经济差距、政治稳定性和地理距离。这项工作研究了大语言模型 (LLM) 是否可以通过从新闻文章中提取上下文迁移相关信号并通过特定特征的正则化惩罚将其合并到加权 Lasso 预测框架中来改进迁移预测。拟议的框架使用分层 LLM 推理管道对新闻数据中与移民相关的推拉信号进行分类,并评估 2021 年 11 月至 2022 年 11 月期间多个移民走廊的预测性能,包括墨西哥 - 美国、乌克兰 - 波兰和叙利亚 - 土耳其。实验结果显示,迁移走廊和建模策略的性能参差不齐,并且在所有实验中,没有任何一种正则化方法始终优于其他方法。表现最好的墨西哥配置由基于重力的模型和所提出的推拉比增强组成,实现了 17.15% 的平均绝对百分比误差 (MAPE),而最强的叙利亚配置使用 Direct LLM-Lasso 实现了 29.29% 的 MAPE。对于乌克兰,性能最佳的配置使用了 LLM 辅助正则化 (AR),并实现了 41.05% 的 MAPE。总体而言,结果表明,尽管迁移走廊特征、文章量和超参数配置强烈影响性能,但上下文文章衍生的特征和 LLM 引导的正则化可以在某些条件下改善迁移预测。
