论文

结合文本证据与因素验证的风险辅助评估

Beyond Risk Prediction: Evidence Grounding and Psychosocial Factor Verification for Explainable Suicide Risk Assessment

模型训练模型评测应用与实践监督微调与指令调优鲁棒性、公平性与可信度评测行业应用

摘要

从社交网络服务 (SNS) 帖子中识别自杀风险对于检测在线环境中与自杀相关的信号非常重要。然而,风险分类本身对预测背后的文本证据和社会心理因素的洞察力有限。本研究基于 IEEE BigData 2026 可解释的自杀风险检测挑战赛,提出了一个由风险评估、证据基础和因素识别组成的框架。风险评估使用基于长度的路由来适应不同长度的帖子。证据基础识别支持短语并使用风险证据约束来保持与风险预测的一致性。对于因素识别,使用两个验证器。分类验证器侧重于因子语义,而证据感知验证器使用特定于因子的词汇语义线索来选择信息丰富的积极训练单元。它们的预测概率相结合以产生最终的因子预测。这三个任务使用特定于任务的 F1 分数测量进行评估。风险评估取得了 加权 F1 为 0.8088,证据Grounding实现了 0.7605 的测试宏行 F1,因子识别实现了 0.5562 的宏 F1。结果表明,该框架可以提供风险预测,以及支持文本证据和有关心理社会因素的细粒度信息。总体而言,拟议的框架将自杀风险评估扩展到风险水平预测之外,并提供了对 SNS 帖子的更可解释的分析。

结合文本证据与因素验证的风险辅助评估:论文原图
图 1:拟议的以因素为中心的框架概述,支持风险评估和证据基础以及事后 3ST 知情解释。