뇌에서 영감을 받은 칩은 AI를 데이터센터 이상으로 끌어올려 디바이스에서 실시간 의사 결정을 가능하게 합니다. 그러나 약속을 이행하려면 실리콘에서 인프라를 다시 생각해야 합니다.
곤충과 같은 반사를 가진 창고를 통한 드론 직조 또는 사용자에게 실시간으로 조정되는 의지의 모습을 상상해 보십시오. 이는 아직 미래 개념이 아닙니다. 이는 인간의 뇌를 모방하도록 설계된 새로운 종류의 인공 지능(AI) 하드웨어인 신경형태 컴퓨팅의 초기 증거 포인트입니다.
뉴로모픽 칩은 생물학적 뉴런과 유사하게 의미 있는 입력만을 위해 활성화되는 스파이킹 신경망(SNN)을 사용하여 데이터를 처리합니다. 메모리와 처리 장치를 분리하는 중앙 처리 장치(CPU)와 그래픽 처리 장치(GPU)와 달리 신경형태 컴퓨팅은 효율적인 병렬 데이터 처리를 위해 이러한 구성 요소를 통합합니다(그림 1 참조).
그 결과 전력 소비가 극적으로 감소하고 응답 시간이 빨라지며 에지의 제한된 환경에 적합한 컴팩트한 설계가 가능합니다. 글로벌 엣지 인프라 지출이 2025년 2,610억 달러에서 2028년 3,800억 달러에 이를 것으로 예상됨에 따라 이는 그 어느 때보다 중요합니다.
그림 1. BrainScaleS-2 단일 신경형태 칩은 신경형태 컴퓨팅 응용 분야에 사용되는 시스템 중 하나입니다. 출처: 개방 신경형태.
신경형태 컴퓨팅의 작동 방식
Neuromorphic 칩은 메모리와 컴퓨팅을 정확한 위치에 통합합니다. 이 설계는 데이터가 별도의 처리 장치와 메모리 장치 사이에서 지속적으로 이동할 때 발생하는 von Neumann 병목 현상을 방지합니다. 이러한 칩은 데이터를 지속적으로 통과하는 대신 비동기적으로 작동하며 센서 입력이 변경될 때만 계산을 트리거합니다. 이 이벤트 중심 모델은 기존 시스템에 비해 불필요한 처리를 최소화하고 전력 소비를 최대 100배까지 줄일 수 있습니다.
예를 들어 Intel의 Loihi는 70밀리와트만으로 백만 개 이상의 뉴런을 시뮬레이션합니다. 유사한 워크로드를 수행하는 기존 GPU는 몇 와트 또는 심지어 킬로와트를 소비할 수 있으며, 이는 원격 또는 모바일 환경에서의 사용을 제한합니다.
신경형태 컴퓨팅의 장점
신경형태 컴퓨팅은 한계 이득에 관한 것이 아닙니다. 이는 엣지에서 AI가 실행되는 방식의 구조적 변화를 나타냅니다.
초저 에너지 소비
뉴런이 필요한 경우에만 어떻게 발사되는지 모방함으로써 뉴로모픽 칩은 유휴 전력 사용을 최대 100배까지 줄입니다.
낮은 지연 시간
스파이킹 네트워크는 로보틱스, 실시간 진단 및 폐쇄 루프 제어 시스템에 필수적인 100밀리초 미만의 응답 시간을 지원합니다.
병렬 처리
비동기 실행을 통해 이러한 시스템은 병목 현상을 일으키지 않고 여러 센서 입력을 동시에 처리할 수 있습니다.
잡음 내성
Neuromorphic 칩은 혼란스러운 환경에 매우 적합하며 기존 AI 모델보다 불완전하거나 구조화되지 않은 데이터를 더 효과적으로 처리할 수 있습니다.
컴팩트한 디자인
전력 및 열 요구가 감소하여 임베디드 장치에 배치할 수 있으므로 대규모 냉각 시스템이 필요 없거나 클라우드로 오프로드할 필요가 없습니다.
이러한 기능들은 함께 뉴로모픽 시스템이 데이터센터 외부에서 효율적인 자율 AI를 지원할 수 있음을 시사합니다.
신경형태 컴퓨팅 사용 사례
의료
실시간 운동에 반응하는 저전력 ECG 분석 및 적응성 보철을 위해 신경형태 칩을 탐색하고 있다(그림 3 참조). SpiNNaker 및 BrainScaleS와 같은 플랫폼은 의학적 맥락에서 뇌와 유사한 처리의 실행 가능성을 입증했습니다. Intel의 Loihi와 같은 최신 칩은 뇌-기계 인터페이스, 로봇 팔다리를 제어하기 위한 신경 신호 디코딩, 이동성 복원을 위한 길을 열어주는 가능성을 보여주었습니다(그림 2 참조).
SNN을 사용한 분자 시뮬레이션 및 단백질 접힘에 대한 연구는 에너지 비용을 절감하는 데 도움이 될 수 있으며, 잠재적으로 약물 개발 및 의학적 치료의 효율성과 경제성을 개선할 수 있습니다.
그림 2. 이미지 A(왼쪽): 연구 저자 Yuval Zaidel이 입증한 신경형태 제어 휠체어 장착 로봇 암 프로토타입. 이미지 B(오른쪽): 제어 아키텍처: 실시간 위치 조정을 위해 가속도계 데이터를 처리하는 신경망 스파이킹. 출처: Frontiers | 신경형태 통합 속도 판독 및 온라인 학습을 통해 휠체어 장착 로봇 팔의 적응형 제어.
기후 모델링 및 물리학
CERN에서는 신경형태 원리에서 영감을 받은 이벤트 기반 센서가 시끄러운 고처리량 환경에서 입자를 추적하는 데 사용되었습니다. Sandia National Laboratories는 유사한 칩을 사용하여 기후 시뮬레이션에 필요한 에너지를 줄이고 있으며, 이는 전통적으로 슈퍼컴퓨터가 지배하는 분야입니다.
로봇공학 및 IoT
Massachusetts Institute of Technology(MIT)의 Grasping Neural Process는 1,000개의 기하학적 구조와 5,000개의 물체에 대해 훈련된 SNN 기반 로봇 팔을 보여주어 창고와 같은 동적 환경에서 신뢰할 수 있는 픽업을 가능하게 합니다.
연구자들은 빛의 변화를 포착하기 위해 망막에서 영감을 받은 카메라인 동적 시력 센서(DVS)를 사용했습니다. 이 센서를 통해 드론은 곤충과 같은 민첩성과 초저 지연 시간으로 혼잡한 공간을 탐색할 수 있습니다.
Prophesee와 같은 기업은 스마트 감시를 위한 이벤트 기반 비전 시스템을 상용화하여 대역폭과 에너지 요구를 줄였습니다. 센서는 초당 10,000프레임 이상을 달성하면서 전력 소비를 줄일 수 있습니다.
그림 3. 체성감각 신경인공삽입물의 발달은 세 가지 주요 기둥에 의존합니다. (1) 컴퓨터 모델을 사용하여 신경계가 접촉에 반응하는 방식(파란색 분절)을 모방함; (2) 신경자극 전략(주황색 분절)을 검증하기 위한 동물 시험; DRG—배근 신경절. (3) 실제 시나리오(녹색 세그먼트)에서 기술의 효과를 평가하기 위해 인간을 대상으로 임상시험을 수행. 출처: 자연 커뮤니케이션.
재무 및 사이버 보안
IBM은 사기 탐지를 위한 SNN의 사용을 탐색했습니다. 이들은 재무 거래 패턴을 높은 정밀도로 식별하는 모델을 교육했습니다. 이러한 시스템은 최소한의 데이터로 새로운 위협에 대응할 수 있습니다.
인프라에 필요한 것
신경형태 시스템을 지원하려면 엣지에서 점진적인 업그레이드 이상의 것이 필요합니다. 수요에 따라 확장되고, 변화하는 워크로드에 적응하며, 공간 또는 전력이 제한된 환경에 적합한 특수 목적의 인프라(그림 4 참조)가 필요합니다.
예를 들어, 직접 칩 액체 냉각은 공기 단독보다 산발적 열을 더 효과적으로 관리할 수 있다. 액체와 공기 냉각을 결합한 Vertiv™ Coolchip 접근 방식은 안정적인 성능을 유지하는 동시에 전반적인 에너지 사용을 줄이는 데 도움이 됩니다. 마찬가지로, 전력 공급 시스템은 과도한 구축 없이 급격한 전류 변화에 신속하게 대응해야 하며, 이로 인해 비용과 물리적 설치 공간이 모두 증가합니다. 고속 인터커넥트는 또한 신속한 현지화된 데이터 처리를 지원하는 데 필요합니다.
운영 측면에서 신경형태 워크로드는 다른 사고방식을 요구합니다. SNN과 비동기 아키텍처는 대부분의 AI 트레이닝 파이프라인에 사용되는 모델과 근본적으로 다릅니다. 팀은 이벤트 기반 시스템을 사용하는 방법과 이를 유지하는 방법을 이해해야 합니다. 엔지니어는 예측할 수 없는 부하와 동적 동작을 중심으로 설계해야 합니다.
그림 4.예를 들어, Vertiv™ 인프라 솔루션과 Vertiv™ CoolChip과 같은 모듈식 솔루션은 직접 칩 냉각과 적응 가능한 에어사이드 전략을 결합하여 이미 신경형태 컴퓨팅과 같은 엣지에서 고성능 워크로드를 처리하도록 설계되었습니다.
다음 단계를 위한 준비
신경형태 컴퓨팅은 개념이 아닙니다. 이미 엣지 인텔리전스의 작동 방식을 바꾸고 있습니다. 로보틱스 및 헬스케어에서 기후 모델링 및 사이버 보안에 이르기까지 애플리케이션이 여기에 있습니다. 후행하는 것은 인프라입니다.
엣지에 AI를 배포할 계획이라면 이러한 새로운 워크로드를 지원하도록 설계된 시스템이 필요합니다. 즉, 랙 밀도, 열 전략 및 전력 반응성을 평가해야 합니다. 이는 또한 부품 신경과학, 부품 엔지니어링, 부품 시스템 설계 등 이 새로운 AI 패러다임을 이해하는 사람들에게 투자하는 것을 의미합니다.
엣지 AI의 진화는 현재의 인프라가 새로운 수요를 해결하는 방식에 달려 있습니다.
Vertiv™ AI 허브를 방문하여 엣지에서 실시간으로 그리고 확장 가능한 효율성으로 신경형태 성능을 위해 구축된 인프라 솔루션을 살펴보십시오.