Chipy inspirowane mózgiem przenoszą sztuczną inteligencję poza centrum danych, umożliwiając podejmowanie decyzji w czasie rzeczywistym w urządzeniach. Spełnienie tej obietnicy wymaga jednak ponownego przemyślenia infrastruktury, zaczynając od krzemu.
Wyobraź sobie drona przemykającego przez magazyn z refleksem godnym owada lub protezę dostosowującą się do użytkownika w czasie rzeczywistym. To nie są koncepcje przyszłości. Są to wczesne dowody na skuteczność obliczeń neuromorficznych, nowej klasy sprzętu sztucznej inteligencji (AI) zaprojektowanego w celu naśladowania ludzkiego mózgu.
Układy neuromorficzne przetwarzają dane przy użyciu sieci neuronowych typu spiking (SNN), które aktywują się tylko w przypadku znaczących danych wejściowych, podobnie jak neurony biologiczne. W przeciwieństwie do procesorów centralnych (CPU) i procesorów graficznych (GPU), które oddzielają pamięć od jednostek przetwarzających, komputery neuromorficzne integrują te komponenty w celu zapewnienia wydajnego równoległego przetwarzania danych (patrz rysunek 1).
W rezultacie uzyskano znacznie niższe zużycie energii, krótszy czas reakcji oraz kompaktową konstrukcję dostosowaną do ograniczonych warunków w środowiskach brzegowych. Ma to większe znaczenie niż kiedykolwiek wcześniej, biorąc pod uwagę, że globalne wydatki na infrastrukturę brzegową mają osiągnąć poziom 261 mld dolarów w 2025 r. i 380 mld dolarów w 2028 r.
Ilustracja 1. Pojedynczy układ neuromorficzny BrainScaleS-2 jest jednym z systemów wykorzystywanych w zastosowaniach obliczeniowych opartych na neuromorficzności. Źródło: Open Neuromorphic.
Jak działa przetwarzanie neuromorficzne
Układy neuromorficzne integrują pamięć i obliczenia w dokładnie określonym miejscu. Ta konstrukcja pozwala uniknąć wąskiego gardła von Neumanna, które występuje, gdy dane są stale przesyłane między oddzielnymi jednostkami przetwarzającymi i pamięciowymi. Zamiast nieustannie przetwarzać dane, układy te działają asynchronicznie i uruchamiają obliczenia tylko wtedy, gdy zmienia się sygnał wejściowy czujnika. Ten model oparty na zdarzeniach pozwala zminimalizować niepotrzebne przetwarzanie danych i zmniejszyć zużycie energii nawet 100-krotnie w porównaniu z konwencjonalnymi systemami.
Na przykład procesor Loihi firmy Intel symuluje ponad milion neuronów, zużywając zaledwie 70 miliwatów. Tradycyjne procesory graficzne wykonujące podobne zadania mogą zużywać kilka watów, a nawet kilowatów, co ogranicza ich zastosowanie w środowiskach zdalnych lub mobilnych.
Zalety obliczeń neuromorficznych
Obliczenia neuromorficzne nie polegają na marginalnych korzyściach. Stanowi to zmianę strukturalną w sposobie działania sztucznej inteligencji na obrzeżach sieci (edge).
Bardzo niskie zużycie energii
Naśladując sposób, w jaki neurony aktywują się tylko wtedy, gdy jest to konieczne, układy neuromorficzne zmniejszają zużycie energii w stanie spoczynku nawet 100-krotnie.
Niskie opóźnienie
Sieci typu spiking zapewniają czas reakcji poniżej 100 milisekund, co jest niezbędne w robotyce, diagnostyce w czasie rzeczywistym i systemach sterowania w pętli zamkniętej.
Przetwarzanie równoległe
Asynchroniczne wykonywanie pozwala tym systemom przetwarzać wiele sygnałów z czujników jednocześnie, bez tworzenia wąskiego gardła.
Tolerancja hałasu
Układy neuromorficzne doskonale sprawdzają się w chaotycznych środowiskach i mogą przetwarzać niekompletne lub nieustrukturyzowane dane skuteczniej niż konwencjonalne modele sztucznej inteligencji.
Kompaktowa budowa
Zmniejszone zapotrzebowanie na moc i temperaturę pozwala na wdrożenie w urządzeniach wbudowanych, eliminując potrzebę stosowania dużych systemów chłodzenia lub przenoszenia ich do chmury.
Wszystkie te cechy razem sugerują, że systemy neuromorficzne mogą wspierać wydajną, autonomiczną sztuczną inteligencję poza centrum danych.
Przypadki użycia obliczeń neuromorficznych
Opieka zdrowotna
Chipy neuromorficzne są badane pod kątem analizy EKG o niskim poborze mocy oraz protez adaptacyjnych, które reagują na ruch w czasie rzeczywistym (patrz rysunek 3). Platformy takie jak SpiNNaker i BrainScaleS wykazały przydatność przetwarzania podobnego do mózgowego w kontekście medycznym. Nowsze chipy, takie jak Loihi firmy Intel, wykazały się obiecującym potencjałem w zakresie interfejsów mózg-maszyna, dekodując sygnały neuronowe w celu sterowania kończynami robotycznymi, torując drogę do przywrócenia sprawności ruchowej (patrz rysunek 2).
Badania nad symulacjami molekularnymi i procesami składania białek z wykorzystaniem sieci neuronowych SNN mogą pomóc w obniżeniu kosztów energii, potencjalnie poprawiając wydajność i przystępność cenową opracowywania leków i terapii medycznych.
Ilustracja 2. Obraz A (po lewej): Sterowany neuromorfologicznie prototyp ramienia robota montowanego na wózku inwalidzkim, wykazany przez autora badań, Yuvala Zaidela. Zdjęcie B (prawe): Architektura sterowania: Zwiększanie danych akcelerometru przetwarzania sieci neuronowej w celu dostosowania pozycji w czasie rzeczywistym. Źródło: Frontiers | Adaptacyjna kontrola ramienia robota montowanego na wózku inwalidzkim z neuromorficznie zintegrowanymi odczytami prędkości i uczeniem się online.
Modelowanie i fizyka klimatu
W CERN wykorzystano czujniki oparte na zdarzeniach, zainspirowane zasadami neuromorficznymi, do śledzenia cząstek w hałaśliwych środowiskach o wysokiej przepustowości. Sandia National Laboratories wykorzystuje podobne chipy, aby zmniejszyć energię potrzebną do symulacji klimatu, pola tradycyjnie zdominowanego przez superkomputery.
Robotyka i IoT
Projekt Grasping Neural Process realizowany przez Massachusetts Institute of Technology (MIT) zaprezentował ramię robota oparte na sieci neuronowej SNN, które zostało przeszkolone na 1000 geometrii i 5000 obiektach, umożliwiając niezawodne podnoszenie przedmiotów w dynamicznych środowiskach, takich jak magazyny.
Naukowcy wykorzystali czujniki dynamicznego widzenia (DVS), kamery inspirowane siatkówką oka, do rejestrowania zmian w oświetleniu. Czujniki te umożliwiają dronom poruszanie się w zatłoczonych przestrzeniach z gibkością owadów i ultra niskim opóźnieniem.
Firmy takie jak Prophesee wprowadziły na rynek systemy wizyjne oparte na zdarzeniach, przeznaczone do inteligentnego nadzoru, które zmniejszają zapotrzebowanie na przepustowość i energię. Ich czujniki mogą osiągać ponad 10 000 klatek na sekundę, zużywając mniej energii.
Ilustracja 3. Rozwój neuroprotezy somatosensorycznej opiera się na trzech głównych filarach: (1) Wykorzystanie modeli komputerowych do symulacji reakcji układu nerwowego na dotyk (niebieski segment); (2) Testy na zwierzętach w celu walidacji strategii neurostymulacji (pomarańczowy segment); DRG – zwoje korzeniowe grzbietowe. (3) Prowadzenie badań klinicznych z udziałem ludzi w celu oceny skuteczności technologii w rzeczywistych scenariuszach (segment zielony). Źródło: Komunikacja przyrodnicza.
Finanse i cyberbezpieczeństwo
IBM zbadał wykorzystanie SNN do wykrywania oszustw. Przeszkolili modele, które z dużą precyzją identyfikują wzorce w transakcjach finansowych. Systemy te mogą dostosowywać się do pojawiających się zagrożeń przy minimalnym wykorzystaniu danych.
Czego potrzebuje infrastruktura
Wspieranie systemów neuromorficznych wymaga czegoś więcej niż tylko stopniowych ulepszeń na obrzeżach sieci. Wymaga on specjalnie zbudowanej infrastruktury (patrz rys. 4), która skaluje się wraz z zapotrzebowaniem, dostosowuje się do zmieniających się obciążeń i pasuje do środowisk o ograniczonej przestrzeni lub mocy.
Na przykład bezpośrednie chłodzenie cieczą chipów pozwala skuteczniej radzić sobie z sporadycznym wydzielaniem ciepła niż samo chłodzenie powietrzem. Rozwiązanie Vertiv™ Coolchip, łączące chłodzenie cieczą i powietrzem, pomaga utrzymać stabilną wydajność przy jednoczesnym zmniejszeniu całkowitego zużycia energii. Podobnie systemy zasilania muszą szybko reagować na gwałtowne zmiany zapotrzebowania na prąd bez konieczności nadmiernej rozbudowy, która zwiększa zarówno koszty, jak i zajmowaną powierzchnię. Szybkie połączenia międzykomputerowe są również niezbędne do obsługi szybkiego, lokalnego przetwarzania danych.
Jeśli chodzi o operacje, obciążenia neuromorficzne wymagają innego podejścia. Sieci SNN i architektury asynchroniczne różnią się zasadniczo od modeli stosowanych w większości procesów szkolenia sztucznej inteligencji. Zespoły muszą rozumieć, jak pracować z systemami sterowanymi zdarzeniami i jak je utrzymywać. Inżynierowie muszą projektować z uwzględnieniem nieprzewidywalnych obciążeń i zachowań dynamicznych.
Rysunek 4. Na przykład rozwiązania modułowe, takie jak Vertiv™ Infrastructure Solutions z Vertiv™ CoolChip, które łączą bezpośrednie chłodzenie cieczą chipów z elastycznymi strategiami po stronie powietrza, są już zaprojektowane do obsługi wysokowydajnych obciążeń na obrzeżach sieci, takich jak obliczenia neuromorficzne.
Przygotowanie do tego, co będzie dalej
Obliczenia neuromorficzne nie są tylko koncepcją. Już teraz zmienia to sposób działania Edge Intelligence. Od robotyki i opieki zdrowotnej po modelowanie klimatu i cyberbezpieczeństwo – zastosowania są już dostępne. To, co pozostaje w tyle, to infrastruktura.
Jeśli planujesz wdrożyć sztuczną inteligencję na brzegu sieci, będziesz potrzebować systemów zaprojektowanych do obsługi tych nowych obciążeń. Oznacza to ocenę gęstości szaf, strategii termicznych i reakcji na moc. It also means investing in people who understand this new AI paradigm: part neuroscience, part engineering, part systems design.
Rozwój sztucznej inteligencji brzegowej zależy od tego, w jaki sposób obecna infrastruktura odpowiada na pojawiające się wymagania.
Odwiedź Vertiv™ AI Hub, aby zapoznać się z rozwiązaniami infrastrukturalnymi stworzonymi z myślą o wydajności neuromorficznej na brzegu sieci, w czasie rzeczywistym i ze skalowalną wydajnością.
