CircuitFormer：根据自然语言提示进行模拟拓扑设计的电路语言模型

自动化模拟电路设计仍然是电子设计自动化 (EDA) 领域的一个长期挑战。虽然基于 Transformer 的 大语言模型 (LLM) 彻底改变了软件代码生成，但它们在模拟硬件设计中的应用受到两个关键限制的阻碍：(i) 包含设计自然语言描述及其相应网表的模拟设计数据集的稀缺性，以及 (ii) 通用分词器（例如字节对编码 (BPE)）在捕获固有特性方面效率低下。电路的图形结构。为了弥补这一差距，首先，我们整理了迄今为止最大的模拟电路网表注释数据集，其中包括所有主要电路类别的 31,341 个网表-自然语言描述对。此外，我们提出了电路分词器（CKT），这是一种新颖的电路图分词器，旨在通过显式挖掘频繁子电路来编码网表连接性。在可扩展性方面，CKT 克服了现有电路图序列化方法的瓶颈，其中词汇量大小与数据集中的最大组件数 n_max (O(n_max)) 线性缩放；相反，CKT 将词汇量增长与电路复杂性解耦，实现恒定的 O(1) 复杂性。根据经验，CKT 在电路拓扑表示方面优于标准 BPE，将序列长度减少了 57%，并使用大小为 512 的紧凑固定词汇实现了 2.3 倍的卓越压缩比。利用这种优化的标记化，我们训练了一个特定于电路的语言模型 CircuitFormer，它是一个 511M 参数编码器-解码器 Transformer。我们的模型在所有主要模拟电路类别中实现了 100% 的语法正确性和 83% 的功能成功率，分别比最先进的开源 LLM 提高了 10% 和 14%，同时需要的参数减少了 240 倍。该数据集可在 https://huggingface.co/datasets/touhid314/cktformer-dataset 上公开获取。