Chipy inspirowane mózgiem wypychają sztuczną inteligencję poza centrum danych, umożliwiając podejmowanie decyzji w czasie rzeczywistym na urządzeniach. Ale dotrzymanie obietnicy wymaga ponownego przemyślenia infrastruktury z krzemu.
Wyobraź sobie drona tkającego w magazynie z odruchami przypominającymi owady lub protezę kończyny dostosowującą się do użytkownika w czasie rzeczywistym. To nie są koncepcje przyszłości. Są wczesnymi punktami dowodowymi obliczeń neuromorficznych, nowej klasy sprzętu sztucznej inteligencji (AI) zaprojektowanego do naśladowania ludzkiego mózgu.
Chipy neuromorficzne przetwarzają dane za pomocą sieci neuronowych (SNN), które aktywują się tylko w celu uzyskania znaczącego wejścia, podobnego do neuronów biologicznych. W przeciwieństwie do centralnych jednostek przetwarzających (CPU) i jednostek przetwarzających grafiki (GPU), które oddzielają pamięć i jednostki przetwarzające, obliczenia neuromorficzne integrują te komponenty w celu wydajnego równoległego przetwarzania danych (patrz rysunek 1).
Rezultatem jest znacznie niższy pobór mocy, krótszy czas reakcji i kompaktowe konstrukcje dostosowane do ograniczonych środowisk brzegowych. Ma to większe znaczenie niż kiedykolwiek wcześniej, ponieważ przewiduje się, że globalne wydatki na infrastrukturę brzegową osiągną wartość 261 mld USD w 2025 r. do 380 mld USD w 2028 r.
Ilustracja 1. Pojedynczy chip neuromorficzny BrainScaleS-2 jest jednym z systemów używanych do obliczeń neuromorficznych. Źródło: Otwarta neuromorfika.
Jak działa neuromorficzne obliczenia
Układy neuromorficzne integrują pamięć i obliczenia w dokładnej lokalizacji. Ta konstrukcja pozwala uniknąć wąskiego gardła von Neumanna, które występuje, gdy dane stale przemieszczają się między oddzielnymi jednostkami przetwarzania i pamięci. Zamiast ciągłego przechodzenia przez dane, układy te działają asynchronicznie i uruchamiają obliczenia tylko wtedy, gdy zmienia się wejście czujnika. Ten oparty na zdarzeniach model może zminimalizować niepotrzebne przetwarzanie i zmniejszyć zużycie energii nawet 100 razy w porównaniu z konwencjonalnymi systemami.
Na przykład Loihi firmy Intel symuluje ponad milion neuronów przy użyciu zaledwie 70 miliwatów. Tradycyjne układy GPU o podobnych obciążeniach mogą zużywać kilka watów, a nawet kilowatów, co ogranicza ich wykorzystanie w środowiskach zdalnych lub mobilnych.
Zalety obliczeń neuromorficznych
Obliczenia neuromorficzne nie polegają na marginalnych zyskach. Reprezentuje strukturalną zmianę w sposobie działania AI na krawędzi.
Bardzo niskie zużycie energii
Naśladując sposób, w jaki neurony wystrzeliwują tylko wtedy, gdy jest to konieczne, chipy neuromorficzne zmniejszają zużycie energii bezczynności nawet 100 razy.
Niskie opóźnienie
Wzrastające sieci obsługują czas reakcji poniżej 100 milisekund, co jest niezbędne dla robotyki, diagnostyki w czasie rzeczywistym i systemów sterowania w pętli zamkniętej.
Przetwarzanie równoległe
Asynchroniczne wykonanie pozwala tym systemom przetwarzać wiele wejść czujników jednocześnie bez tworzenia wąskiego gardła.
Tolerancja hałasu
Chipy neuromorficzne są dobrze przystosowane do chaotycznych środowisk i mogą przetwarzać niekompletne lub nieustrukturyzowane dane bardziej efektywnie niż konwencjonalne modele AI.
Kompaktowa budowa
Zmniejszone zapotrzebowanie na moc i temperaturę pozwala na wdrożenie w urządzeniach wbudowanych, eliminując potrzebę stosowania dużych systemów chłodzenia lub przenoszenia ich do chmury.
Łącznie te cechy sugerują, że systemy neuromorficzne mogą wspierać wydajną, autonomiczną sztuczną inteligencję poza centrum danych.
Przypadki użycia obliczeń neuromorficznych
Opieka zdrowotna
Układy neuromorficzne są badane pod kątem analizy EKG o małej mocy i adaptacyjnych protez, które reagują na ruch w czasie rzeczywistym (patrz rysunek 3). Platformy takie jak SpiNNaker i BrainScaleS wykazały żywotność przetwarzania mózgu w kontekście medycznym. Nowsze układy, takie jak Loihi firmy Intel, okazały się obiecujące w interfejsach mózg-maszyna, dekodując sygnały neuronowe do sterowania robotami, torując drogę do przywrócenia mobilności (patrz rysunek 2).
Badania nad symulacjami molekularnymi i składaniem białek przy użyciu SNN mogą pomóc w zmniejszeniu kosztów energii, potencjalnie poprawiając wydajność i przystępność cenową opracowywania leków i leczenia medycznego.
Ilustracja 2. Obraz A (po lewej): Sterowany neuromorfologicznie prototyp ramienia robota montowanego na wózku inwalidzkim, wykazany przez autora badań, Yuvala Zaidela. Zdjęcie B (prawe): Architektura sterowania: Zwiększanie danych akcelerometru przetwarzania sieci neuronowej w celu dostosowania pozycji w czasie rzeczywistym. Źródło: Frontiers | Adaptacyjna kontrola ramienia robota montowanego na wózku inwalidzkim z neuromorficznie zintegrowanymi odczytami prędkości i uczeniem się online.
Modelowanie i fizyka klimatu
W CERN wykorzystano czujniki oparte na zdarzeniach, zainspirowane zasadami neuromorficznymi, do śledzenia cząstek w hałaśliwych środowiskach o wysokiej przepustowości. Sandia National Laboratories wykorzystuje podobne chipy, aby zmniejszyć energię potrzebną do symulacji klimatu, pola tradycyjnie zdominowanego przez superkomputery.
Robotyka i IoT
Proces chwytaków neuronowych opracowany przez Massachusetts Institute of Technology (MIT) zademonstrował zrobotyzowane ramię SNN, przeszkolone w zakresie 1000 geometrii i 5000 obiektów, umożliwiając niezawodne odbieranie w dynamicznych środowiskach, takich jak magazyny.
Naukowcy wykorzystali dynamiczne czujniki wizyjne (DVS), kamery inspirowane siatkówką, aby uchwycić zmiany w świetle. Czujniki te umożliwiają dronom poruszanie się po zatłoczonych przestrzeniach dzięki zwinności podobnej do owadów i ultraniskim opóźnieniom
Firmy takie jak Prophesee skomercjalizowały systemy wizyjne oparte na zdarzeniach w celu inteligentnego nadzoru, zmniejszając zapotrzebowanie na przepustowość i energię. Ich czujniki mogą osiągnąć ponad 10 000 klatek na sekundę, zużywając mniej energii.
Ilustracja 3. Rozwój neuroprotezy somatosensorycznej opiera się na trzech głównych filarach: (1) Używanie modeli komputerowych do naśladowania reakcji układu nerwowego na dotyk (segment niebieski); (2) Testowanie na zwierzętach w celu walidacji strategii neurostymulacji (segment pomarańczowy); DRG - ganglion korzenia grzbietowego. (3) Prowadzenie badań klinicznych z udziałem ludzi w celu oceny skuteczności technologii w rzeczywistych scenariuszach (segment zielony). Źródło: Komunikacja przyrodnicza.
Finanse i cyberbezpieczeństwo
IBM zbadał wykorzystanie SNN do wykrywania oszustw. Przeszkolili modele, które z dużą precyzją identyfikują wzorce w transakcjach finansowych. Systemy te mogą dostosowywać się do pojawiających się zagrożeń przy minimalnym wykorzystaniu danych.
Czego potrzebuje infrastruktura
Obsługa systemów neuromorficznych wymaga więcej niż stopniowych aktualizacji na krawędzi. Wymaga on specjalnie zbudowanej infrastruktury (patrz rys. 4), która skaluje się wraz z zapotrzebowaniem, dostosowuje się do zmieniających się obciążeń i pasuje do środowisk o ograniczonej przestrzeni lub mocy.
Na przykład chłodzenie cieczą bezpośrednio do układu może zarządzać sporadycznym ciepłem bardziej efektywnie niż samo powietrze. Podejście Vertiv™ Coolchip, które łączy chłodzenie cieczą i powietrzem, pomaga utrzymać stabilną wydajność przy jednoczesnym zmniejszeniu ogólnego zużycia energii. Podobnie systemy dostarczania energii muszą szybko reagować na ostre zmiany prądu bez przebudowy, co zwiększa zarówno koszty, jak i ślad fizyczny. Szybkie połączenia są również niezbędne do obsługi szybkiego, zlokalizowanego przetwarzania danych.
Ze strony operacyjnej obciążenia neuromorficzne wymagają innego sposobu myślenia. SNN i architektury asynchroniczne zasadniczo różnią się od modeli stosowanych w większości potoków szkoleniowych AI. Zespoły muszą rozumieć, jak pracować z systemami opartymi na zdarzeniach i jak je utrzymywać. Inżynierowie muszą projektować wokół nieprzewidywalnych obciążeń i dynamicznego zachowania.
Na przykład rozwiązania modułowe, takie jak Vertiv™ Infrastructure Solutions with Vertiv™ CoolChip, które łączą chłodzenie cieczą bezpośrednio na chipie z adaptowalnymi strategiami po stronie powietrznej, są już zaprojektowane do obsługi wysokowydajnych obciążeń na brzegu, takich jak obliczenia neuromorficzne.
Przygotowanie do tego, co będzie dalej
Obliczenia neuromorficzne nie są pojęciem. Zmienia to już sposób działania Edge Intelligence. Od robotyki i opieki zdrowotnej po modelowanie klimatyczne i cyberbezpieczeństwo – aplikacje są tutaj. To, co się opóźnia, to infrastruktura.
Jeśli planujesz wdrożyć sztuczną inteligencję na brzegu sieci, będziesz potrzebować systemów zaprojektowanych do obsługi tych nowych obciążeń. Oznacza to ocenę gęstości szaf, strategii termicznych i reakcji na moc. Oznacza to również inwestowanie w ludzi, którzy rozumieją ten nowy paradygmat sztucznej inteligencji: neuronauka części, inżynieria części, projektowanie systemów części.
Ewolucja Edge AI zależy od tego, w jaki sposób obecna infrastruktura odpowiada na pojawiające się potrzeby.
Odwiedź Vertiv™ AI Hub, aby poznać rozwiązania infrastrukturalne stworzone z myślą o wydajności neuromorficznej – na brzegu sieci, w czasie rzeczywistym i z wydajnością, która się skaluje.
