情報的邊緣：神經型態運算如何改變人工智慧

想像一下，空拍機在倉庫中編織，帶有昆蟲樣反射，或假肢即時適應其使用者。這些並非遙遠的未來概念。它們是神經形態學運算的早期驗證點，這是全新類別的人工智慧 （AI） 硬體，專為模擬人類大腦而設計。

神經形態晶片使用激盪神經網路 （SNN） 處理資料，該網路僅活化有意義的輸入，類似於生物神經元。與分開記憶體和處理單元的中央處理器 （CPU） 和圖形處理器 （GPU） 不同，神經形態運算整合了這些元件，可實現高效率的平行資料處理 （參見圖 1）。

結果是大幅降低了功耗、更快的反應時間，以及緊湊的設計，適合邊緣受限的環境。這比以往任何時候都更重要，全球邊緣基礎設施支出預計在 2025 年達到 2，610 億美元，在 2028 年達到 3，800 億美元。

圖 1. BrainScaleS-2 單神經形態晶片是神經形態運算應用系統之一。‬資料來源：開啟 Neuromorphic。

神經形態運算如何運作

神經形態晶片將記憶體和運算整合在確切的位置。這種設計避免了 von Neumann 瓶頸，當資料在獨立處理和記憶體單元之間不斷移動時就會發生瓶頸。這些晶片並非不斷通過資料，而是在感測器輸入改變時，以非同步方式運作並觸發運算。與傳統系統相比，此事件驅動模型可將不必要的處理降至最低，並減少高達 100 倍的功耗。

舉例來說，Intel 的 Loihi 使用 70 毫瓦模擬超過一百萬個神經元。執行類似工作負載的傳統 GPU 可能會消耗數瓦甚至千瓦，這限制了它們在遠端或行動環境中的使用。

神經形態運算的優勢

神經形態運算與邊際收益無關。這代表人工智慧在邊緣端運作方式的結構性改變。

超低能耗

透過模仿神經元僅在必要時如何起火，神經形態晶片最多可減少閒置電力達 100 倍。

低延遲

Spiking 網路支援 100 毫秒以下的回應時間，對於機器人、即時診斷和封閉迴路控制系統至關重要。

平行處理

非同步執行可讓這些系統同時處理多個感測器輸入，而不會造成瓶頸。

雜訊容差

神經形態晶片非常適合混亂的環境，而且可以比傳統人工智慧模型更有效地處理不完整或非結構化的資料。

精巧設計

降低的功率和熱需求允許部署在嵌入式裝置中，無需大型冷卻系統或卸載到雲端。

這些功能共同表明，神經形態系統可以在資料中心之外支援有效率的自主人工智慧。

神經形態運算使用案例

醫療

目前正在探索神經形態晶片，以進行低功耗 ECG 分析，以及回應即時動作的適應性義體（參見圖 3）。SpiNNaker 和 BrainScaleS 等平台已證實在醫療環境中類似大腦的處理能力。Intel 的 Loihi 等較新的晶片在腦機器介面中展現了承諾，解碼神經訊號以控制機器人肢體，為行動恢復鋪路（參見圖 2）。

使用 SNN 對分子模擬和蛋白質折疊的研究有助於降低能源成本，從而可能提高藥物開發和醫療治療的效率和可負擔性。

圖 2. 影像 A（左）：由研究作者 Yuval Zaidel 展示的神經形態控制輪椅安裝機械臂原型。影像 B（右）：控制架構：用於即時位置修正的拼字神經網路處理加速度計資料。‬資料來源：Frontiers | 輪椅安裝機械臂的適應性控制，具有神經形態整合的速度讀數和線上學習。

氣候建模和物理

在 CERN，以神經形態學原理為靈感的事件式感測器，已用於在吵雜、高通量的環境中追蹤顆粒。Sandia National Laboratories 使用類似的晶片來降低氣候模擬所需的能源，氣候模擬是傳統上由超級電腦主導的領域。

機器人和物聯網

Massachusetts Institute of Technology （MIT） 的 Grasping Neural Process 已展示出 SNN 驅動的機械手臂，受過 1，000 個幾何形狀和 5，000 個物件的訓練，能夠在倉庫等動態環境中可靠取件。

研究人員使用以視網膜為靈感的動態視覺感測器 （DVS） 來捕捉光線變化。這些感測器讓無人機能夠以昆蟲般的敏捷性和超低延遲來駕馭擁擠的空間

Prophesee 這樣的公司擁有商業化的事件式視覺系統，用於智慧監控，減少頻寬和能源需求。其感測器每秒可達到超過 10，000 幀，同時消耗較少的電力。

圖 3. 體感神經義體的發展仰賴三大支柱：（1） 使用電腦模型模擬神經系統對觸摸的反應（藍色區段）；（2） 對動物進行測試以驗證神經刺激策略（橘色區段）；DRG—肱骨根神經節。（3） 對人體進行臨床試驗，以評估技術在現實生活中的有效性（綠色部分）。‬資料來源：自然溝通。

金融與網路安全

IBM 已探索使用 SNN 進行詐騙偵測。他們訓練模型，以高精度辨識金融交易的模式。這些系統能以最少的資料適應新興威脅。

基礎架構的需求

支援神經形態系統需要在邊緣端進行超過逐步升級。它需要專門構建的基礎設施（見圖 4），可隨需求擴展，適應不斷變化的工作負載，並適合空間或電源受限的環境。

例如，直接晶片液體冷卻可以比單獨使用空氣更有效地管理零星的熱量。Vertiv Coolchip 方法結合液體和空氣冷卻，有助於維持穩定的效能，同時減少整體能源使用。同樣地，電力供應系統必須迅速回應急遽的電流變化，而不會過度建造，這會增加成本和實際佔用空間。高速互連技術也是支援快速本地化資料處理的必要技術。

在操作方面，神經形態工作負載需要不同的心態。SNN 和非同步架構與大多數人工智慧訓練流程所使用的模型基本上不同。團隊必須瞭解如何使用事件驅動系統，以及如何維護系統。工程師必須根據無法預測的負載和動態行為進行設計。

圖 4.舉例來說，Vertiv 的基礎設施解決方案與 Vertiv 的 CoolChip 等模組化解決方案，結合了直接晶片液體冷卻與可調適的空氣側策略，已設計成能夠處理神經形態運算等邊緣端的高效能工作負載。

為下一步做準備

神經形態運算並不是一個概念。它已經改變了邊緣智慧的運作方式。從機器人、醫療保健到氣候建模和網路安全，這些應用程式都在這裡。落後的是基礎架構。

如果您打算在邊緣端部署人工智慧，您將需要專為支援這些新工作負載而設計的系統。這意味著評估機櫃密度、熱策略和功率響應性。這也意味著投資瞭解這種全新人工智慧範例的人：零件神經科學、零件工程、零件系統設計。

邊緣人工智慧的演進取決於目前的基礎架構如何因應新興的需求。

造訪 Vertiv ViacomCBS AI Hub，探索專為神經形態效能打造的基礎設施解決方案，無論是邊緣、即時、且具有擴充效率。