適用於可撓式電子元件高效能函數逼近之類比科爾莫哥洛夫-阿諾德網路

1. 簡介

本論文提出一種新穎、系統化的方法，利用科爾莫哥洛夫-阿諾德網路 (KANs) 之類比實作，在可撓式電子元件 (FE) 中進行函數逼近。所解決的核心挑戰在於可撓式電子元件中，計算能力與物理尺寸、功率預算及製造成本等嚴格限制之間固有的權衡取捨。對於穿戴式裝置和物聯網感測器等可撓式電子應用，傳統的數位方法在面積和功耗上變得過於昂貴。所提出的解決方案利用一個類比建構方塊 (ABB) 函式庫來建構基於樣條函數的KAN，為將智慧型、近感測器處理直接嵌入可撓式基板，提供了一條通用且硬體效率高的途徑。

2. 背景與動機

2.1 可撓式電子元件限制

可撓式電子元件通常基於氧化銦鎵鋅 (IGZO) 等材料，為穿戴式裝置、醫療貼片和環境感測器實現了新穎的外形規格。然而，與矽CMOS相比，它們具有較大的特徵尺寸，使得複雜的數位電路面積效率低下。此外，應用需要超低功耗以延長電池壽命或符合能量採集相容性。這創造了對硬體資源本質上節約的計算範式的迫切需求。

2.2 科爾莫哥洛夫-阿諾德網路 (KANs)

KANs 最近由 Liu 等人 (2024) 重新賦予活力，為傳統的多層感知器 (MLPs) 提供了一個引人注目的替代方案。KANs 不在節點上使用固定的激活函數，而是在網路的邊（權重）上放置可學習的單變數函數（通常是樣條函數）。科爾莫哥洛夫-阿諾德表示定理支持了這一點，該定理指出任何多變數連續函數都可以表示為單變數連續函數和加法的有限組合。這種結構自然適合高效的類比實作，因為複雜的函數被分解為更簡單、可組合的操作。

3. 所提之類比KAN架構

3.1 類比建構方塊 (ABBs)

此方法的基礎是一組預先特性化、低功耗的類比電路，用於執行基本的數學運算：加法、乘法和平方。這些方塊的設計考慮了可撓式電子製程變異和寄生效應。其模組化特性允許系統化的組合。

3.2 使用ABB建構樣條函數

KAN中每個可學習的單變數函數（一個樣條函數）是通過組合ABB來建構的。由節點之間分段多項式定義的樣條函數，可以通過選擇性地啟動和加總配置了多項式係數的乘法器和平方器方塊的輸出來實現。此類比樣條函數取代了數位查找表 (LUT) 或算術單元，節省了大量面積。

3.3 KAN網路組裝

完整的KAN層是通過將輸入變數連接到一組類比樣條函數方塊（每個邊/權重一個）來組裝的。匯聚在同一節點上的樣條函數輸出使用加法ABB進行加總。重複此過程以建構網路深度。參數（樣條係數）通過離線訓練確定，然後硬連線到類比電路的偏壓和增益中。

4. 技術實作與細節

4.1 數學公式

KAN層的核心通過可學習的單變數函數 $\Phi_{q,p}$ 將輸入向量 $\mathbf{x} \in \mathbb{R}^n$ 轉換為輸出向量 $\mathbf{y} \in \mathbb{R}^m$： $$\mathbf{y} = \left( y_1, y_2, ..., y_m \right)$$ $$y_q = \sum_{p=1}^{n} \Phi_{q,p}(x_p), \quad q = 1,...,m$$ 在類比實作中，每個 $\Phi_{q,p}(\cdot)$ 是一個物理樣條電路。加總由電流模式或電壓模式的加法器ABB執行。

4.2 電路設計與寄生效應

乘法器ABB可以基於吉爾伯特單元或跨線性原理以實現低電壓操作。平方器可以從輸入端相連的乘法器推導出來。關鍵的非理想因素包括：影響係數準確性的電晶體失配 ($\sigma_V_T$)；導致負載誤差的有限輸出阻抗；以及限制頻寬的寄生電容。這些因素共同導致了測量到的逼近誤差。

5. 實驗結果與分析

5.1 硬體效率指標

所提出的類比KAN在一個與可撓式電子相容的製程中，與具有8位元精度的等效數位樣條函數實作進行了基準測試。結果非常顯著：

• 面積： 縮減125倍。類比設計消除了用於查找表的大型數位暫存器、乘法器和記憶體。
• 功率： 節省10.59%。類比計算避免了數位電路時脈和切換的高動態功率。

5.2 逼近誤差分析

硬體效率的代價是計算精度。該系統引入了最大7.58%的逼近誤差。此誤差主要源於兩個方面：

1. 設計誤差： 使用有限數量的樣條片段來逼近目標函數所固有的誤差。
2. 寄生誤差： 由ABB中的類比非理想因素（失配、雜訊、寄生效應）引入的誤差。

6. 案例研究與框架範例

情境： 為一個可撓式心率監測器實作一個輕量級異常偵測器。該裝置需要從兩個輸入計算一個簡單的健康指數 $H$：心率變異性 (HRV) $x_1$ 和脈搏波形偏度 $x_2$。存在一個已知的經驗關係 $H = f(x_1, x_2)$，但它是非線性的。

框架應用：

1. 函數分解： 使用所提出的框架，$f(x_1, x_2)$ 由一個結構為 [2, 3, 1] 的2層KAN逼近。該網路在資料集上進行離線訓練。
2. ABB映射： 將第一層6個邊和第二層3個邊上訓練好的單變數函數（樣條函數）映射為多項式係數。
3. 電路實例化： 對於每個樣條函數，確定所需的分段多項式片段數量。相應的乘法器和平方器ABB根據KAN圖，使用係數（作為偏壓電壓/電流）進行配置，並與加法器ABB互連。
4. 部署： 此類比KAN電路直接製造在可撓式貼片上。它持續消耗微瓦級功率，即時處理感測器資料以標記異常，無需對原始資料進行數位化或無線傳輸。

7. 應用展望與未來方向

近期應用：

• 智慧型生物醫學貼片： 用於心電圖 (ECG)、腦電圖 (EEG) 或肌電圖 (EMG) 的貼片內訊號處理，在資料傳輸前實現本地特徵提取（例如QRS波偵測）。
• 環境感測器樞紐： 用於物聯網節點中溫度、濕度和氣體感測器的現場校正和資料融合。
• 穿戴式手勢辨識： 對來自可撓式應變或壓力感測器陣列的資料進行超低功耗預處理。

1. 容錯訓練： 開發訓練演算法，共同優化KAN參數以兼顧準確性和對類比電路非理想因素的穩健性（類似於硬體感知神經網路訓練）。
2. 自適應與可重配置ABB： 探索樣條係數可以在製造後微調以補償製程變異或適應不同任務的電路。
3. 與感測整合： 設計能直接與特定感測器類型（例如光電二極體、壓阻元件）介接的ABB，邁向真正的類比感測器-處理器融合。
4. 擴展至更深層網路： 研究用於管理更深層類比KAN中雜訊和誤差累積的架構技術和電路設計，以應對更複雜的任務。

8. 參考文獻

1. Z. Liu 等人, "KAN: Kolmogorov-Arnold Networks," arXiv:2404.19756, 2024. (復興KANs的開創性論文).
2. Y. Chen 等人, "Flexible Hybrid Electronics: A Review," Advanced Materials Technologies, 卷 6, 期 2, 2021.
3. M. Payvand 等人, "In-Memory Computing with Emerging Memory Technologies: A Review," Proceedings of the IEEE, 2023. (關於替代性高效能計算範式的背景).
4. J. Zhu 等人, "Analog Neural Networks: An Overview," 於 IEEE Circuits and Systems Magazine, 2021. (關於類比機器學習硬體的背景).
5. 國際裝置與系統發展藍圖 (IRDS™), "More than Moore" 白皮書, 2022. (討論異質整合和特定應用硬體如可撓式電子的角色).
6. B. Murmann, "Mixed-Signal Computing for Deep Neural Network Inference," IEEE Transactions on Very Large Scale Integration (VLSI) Systems, 2021. (與精度-效率權衡分析相關).

9. 原創分析與專家評論