论文
TraXion:重新思考 预训练 移动及其他框架
TraXion: Rethinking Pre-training Frameworks for Mobility and Beyond
摘要
人员流动性在三个结构方面不同于文本和通用时间序列:访问是元组值事件,其含义取决于位置、时间和活动的联合分布;用户在整个轨迹上携带持久签名;并且不同用户之间的访问并不是独立的,因为共享地点的共同定位是主要信号。现有的 预训练 移动性配方从语言建模中导入目标,将轨迹视为句子,将访问视为标记,这种类比对上述三个属性中的每一个都失败了。这些属性定义了更广泛的类、多实体时空事件流 (MESES),涵盖企业身份验证日志、电子健康记录以及实体共享基础设施、计划或上下文的其他事件流域。我们将这些属性精确地定义为 MESES 的任何 预训练 框架都应满足的三个公理,并引入 TraXion,其目标和架构是为了满足这些公理而共同设计的。每个数据集的单个 TraXion 检查点在六个公共出行数据集的每项任务上都优于特定于任务的基线,涵盖异常检测、下一个 POI 推荐、下次访问预测和社交链接预测。同样的方法,未经修改地应用于企业身份验证日志和 ICU 死亡率预测,匹配或超过了之前在这两个方面的工作,表明来自移动、安全和医疗保健等不同领域的事件流可以在单一框架下建模。