论文
端侧小语言模型的数据模型分类与成本感知混合方案
Small Language Models for Smart Data Model Classification at the Edge: A Cost-Aware Hybrid Approach
摘要
物联网 (IoT) 中异构数据源在智慧城市、能源管理和环境监测等领域的快速扩散,需要高效且可扩展的数据标准化方法。智能数据模型 (SDM) 的有效分类对于促进互操作性至关重要。然而,现有方法通常受到高资源消耗的限制,并且在计算能力有限的边缘环境中缺乏适用性。为了弥补这一差距,本研究评估了轻量级开源语言模型 (LM) 的性能,以在资源受限的条件下根据其相应的最佳拟合 SDM 表示解析输入数据实体。它跨多个特定领域的数据集系统地对各种模型进行基准测试,包括通用 (GP)、推理专用 (RS) 和代码专用 (CS) 架构。针对当前文献中对轻量级、资源高效型解决方案的遗漏,该调查为优化准确性和效率的模型选择、任务制定和部署策略提供了重要且有价值的见解。一项补充实验还在同一任务上将调查的大语言模型 (LLM) 与两个接近零成本的相似性基线(词频-逆文档频率 (TF-IDF) 和轻量级句子编码器)进行了比较,为解释边缘平台上基于 LLM 的分类的实用价值提供了强有力的参考点。