面向柔性电子高效函数逼近的模拟柯尔莫哥洛夫-阿诺德网络

1. 引言

本文提出了一种新颖、系统的方法，利用柯尔莫哥洛夫-阿诺德网络的模拟实现，在柔性电子中进行函数逼近。其解决的核心挑战是柔性电子在计算能力与物理尺寸、功耗预算和制造成本等严格约束之间固有的权衡。对于可穿戴设备和物联网传感器等柔性电子应用，传统的数字方法在面积和功耗上变得极其昂贵。所提出的解决方案利用一个模拟构建模块库来构建基于样条的KAN，为将智能的近传感器处理直接嵌入柔性基板提供了一条通用且硬件高效的途径。

2. 背景与动机

2.1 柔性电子约束

柔性电子通常基于氧化铟镓锌等材料，为可穿戴设备、医疗贴片和环境传感器实现了新颖的外形。然而，与硅基CMOS相比，其具有更大的特征尺寸，使得复杂的数字电路面积效率低下。此外，应用需要超低功耗以延长电池寿命或兼容能量收集。这催生了对硬件资源天生节俭的计算范式的迫切需求。

2.2 柯尔莫哥洛夫-阿诺德网络

KANs最近由刘等人（2024年）重新激活，为传统的多层感知机提供了一个引人注目的替代方案。KANs不在节点上使用固定的激活函数，而是在网络的边（权重）上放置可学习的单变量函数（通常是样条）。柯尔莫哥洛夫-阿诺德表示定理支撑了这一点，该定理指出，任何多元连续函数都可以表示为有限个单变量连续函数与加法的组合。这种结构天然适合高效的模拟实现，因为复杂函数被分解为更简单、可组合的操作。

3. 提出的模拟KAN架构

3.1 模拟构建模块

该方法的基础是一组预先表征的低功耗模拟电路，它们执行基本的数学运算：加法、乘法和平方。这些模块的设计考虑了柔性电子工艺变化和寄生效应。其模块化特性允许进行系统性组合。

3.2 使用ABB构建样条

KAN中每个可学习的单变量函数（一个样条）通过组合ABB来构建。由节点间分段多项式定义的样条，可以通过选择性地激活和累加配置了多项式系数的乘法器和平方器模块的输出实现。这种模拟样条取代了数字查找表或算术单元，从而显著节省了面积。

3.3 KAN网络组装

一个完整的KAN层通过将输入变量连接到一组模拟样条块（每个边/权重一个）来组装。汇聚到同一节点的样条输出使用加法ABB进行求和。重复此过程以构建网络深度。参数（样条系数）通过离线训练确定，然后硬连线到模拟电路的偏置和增益中。

4. 技术实现与细节

4.1 数学公式

KAN层的核心通过可学习的单变量函数 $\Phi_{q,p}$ 将输入向量 $\mathbf{x} \in \mathbb{R}^n$ 转换为输出向量 $\mathbf{y} \in \mathbb{R}^m$： $$\mathbf{y} = \left( y_1, y_2, ..., y_m \right)$$ $$y_q = \sum_{p=1}^{n} \Phi_{q,p}(x_p), \quad q = 1,...,m$$ 在模拟实现中，每个 $\Phi_{q,p}(\cdot)$ 是一个物理样条电路。求和运算由电流模式或电压模式的加法器ABB执行。

4.2 电路设计与寄生效应

乘法器ABB可以基于吉尔伯特单元或跨线性原理以实现低压工作。平方器可以从输入相连的乘法器衍生而来。关键的非理想因素包括：影响系数精度的晶体管失配；导致负载误差的有限输出阻抗；以及限制带宽的寄生电容。这些因素共同导致了测量到的逼近误差。

5. 实验结果与分析

5.1 硬件效率指标

所提出的模拟KAN与在兼容柔性电子工艺中具有8位精度的等效数字样条实现进行了基准测试。结果引人注目：

• 面积： 缩减125倍。模拟设计消除了用于LUT的大型数字寄存器、乘法器和存储器。
• 功耗： 节省10.59%。模拟计算避免了数字电路时钟和开关的高动态功耗。

5.2 逼近误差分析

硬件效率的权衡是计算精度。该系统引入了最大7.58%的逼近误差。该误差主要源于两个来源：

1. 设计误差： 使用有限数量的样条片段来逼近目标函数所固有的误差。
2. 寄生误差： 由ABB中的模拟非理想因素（失配、噪声、寄生效应）引入的误差。

6. 案例研究与框架示例

场景： 为柔性心率监测器实现一个轻量级异常检测器。该设备需要从两个输入计算一个简单的健康指数 $H$：心率变异性 $x_1$ 和脉搏波形偏度 $x_2$。已知的经验关系 $H = f(x_1, x_2)$ 存在，但它是非线性的。

框架应用：

1. 函数分解： 使用所提出的框架，$f(x_1, x_2)$ 被一个结构为 [2, 3, 1] 的2层KAN逼近。该网络在数据集上进行离线训练。
2. ABB映射： 第一层6条边和第二层3条边上训练得到的单变量函数（样条）被映射为多项式系数。
3. 电路实例化： 对于每个样条，确定所需的分段多项式段数。相应的乘法器和平方器ABB根据KAN图，用系数（作为偏置电压/电流）配置，并与加法器ABB互连。
4. 部署： 该模拟KAN电路直接制造在柔性贴片上。它持续消耗微瓦级功率，实时处理传感器数据以标记异常，而无需对原始数据进行数字化或无线传输。

7. 应用前景与未来方向

近期应用：

• 智能生物医学贴片： 用于心电图、脑电图或肌电图的片上信号处理，在数据传输前实现局部特征提取（例如QRS波检测）。
• 环境传感器集线器： 用于物联网节点中温度、湿度和气体传感器的原位校准和数据融合。
• 可穿戴手势识别： 对来自柔性应变或压力传感器阵列的数据进行超低功耗预处理。

1. 容错训练： 开发训练算法，共同优化KAN参数，以实现精度和对模拟电路非理想因素的鲁棒性（类似于硬件感知的神经网络训练）。
2. 自适应与可重构ABB： 探索样条系数可以在制造后进行微调以补偿工艺变化或适应不同任务的电路。
3. 与传感集成： 设计可直接与特定传感器类型（例如光电二极管、压阻元件）接口的ABB，迈向真正的模拟传感器-处理器融合。
4. 向更深网络的可扩展性： 研究架构技术和电路设计，以管理更深层模拟KAN中用于更复杂任务的噪声和误差累积。

8. 参考文献

1. Z. Liu 等人，“KAN: Kolmogorov-Arnold Networks，” arXiv:2404.19756， 2024。（复兴KANs的开创性论文）。
2. Y. Chen 等人，“柔性混合电子学：综述，”《先进材料技术》，第6卷，第2期，2021年。
3. M. Payvand 等人，“基于新兴存储技术的存内计算：综述，”《IEEE会报》，2023年。（关于替代性高效计算范式的背景）。
4. J. Zhu 等人，“模拟神经网络：概述，”《IEEE电路与系统杂志》，2021年。（关于模拟机器学习硬件的背景）。
5. 国际器件与系统路线图，“超越摩尔”白皮书，2022年。（讨论了异构集成和柔性电子等专用硬件的作用）。
6. B. Murmann，“用于深度神经网络推理的混合信号计算，”《IEEE超大规模集成电路系统汇刊》，2021年。（与精度-效率权衡分析相关）。

9. 原创分析与专家评论