[테크 리포트] 노르딕, 엣지 AI가 여는 지능형 IoT 시대

AI를 떠올릴 때 대중은 주로 ChatGPT·DeepSeek·Google Gemini·LLM·텍스트 기반 이미지 생성 시스템을 연상한다. 그러나 IoT는 수십억 개 커넥티드 기기로 구성되며, 이들 기기 내부 인텔리전스 형태의 AI가 IoT에서 중요 역할을 한다. 엣지 AI 기반으로는 다수 커넥티드 기기의 실시간·저전력 인텔리전스 구현이 가능하며, 엣지 AI 확산은 IoT 전반의 혁신 기회를 확대한다.

IoT 기기 내부 AI 구현 추세를 가속하는 요인으로는 실시간 의사결정 요구와 개인정보보호 강화가 꼽힌다. 여기에 애플리케이션이 생성하는 데이터의 대규모화와 데이터 기반 의사결정 필요도 기기 내부 AI 구현 추세를 앞당기고 있다.

이 같은 흐름의 대안 구조로는 클라우드 전면 의존 대신 로컬 실행이 제시된다. 로컬 실행 대상은 특정 작업에 최적화된 고효율 모델이며, 최소 리소스·에너지 조건에서 구동된다. 이를 통해 수백억 개 초저전력 기기 전반으로 인텔리전스 기능을 확장할 수 있다.

기회 규모를 설명하기 위해 실제 애플리케이션 사례를 제시할 필요가 있으며, 그 사례로 빌딩의 에너지 사용이 거론된다. 빌딩은 전 세계 에너지 사용의 약 30%를 차지하며, 특히 냉장·HVAC 시스템의 소비 영향이 상당하다.

일반적 스마트 온도조절기는 단순 일정 예약·수동 입력 기반으로 온도를 조절하지만, 진정한 지능형 온도조절기는 재실 감지 센서·외부 기상 정보·전력망 실시간 요금 신호 데이터를 종합 처리한다. 이와 함께 빌딩의 열적 특성과 거주자 이용 패턴을 학습하며, 이러한 학습을 바탕으로 비피크 시간대에 사전 난방·냉방을 가동할 수 있다. 비피크 시간대에는 더 저렴하고 청정 에너지를 사용할 수 있으며, 공간이 공실일 때는 출력을 감축할 수 있다.

이런 제어 방식을 전 세계 수십억 개의 시스템에 적용하면 효과는 더욱 확대될 수 있다. 많은 애플리케이션에서 에너지 절감 효과는 20 ~ 40%에 이르며, 이에 따라 운영 비용 감소와 탄소 배출량 감소로 이어진다.

전 세계 의료 시스템은 이미 과부하 상태로 평가된다. 이런 상황에서 AI 기반 웨어러블 기기는 환자 건강 지표와 관련한 방대한 데이터를 수집하고, 수집한 데이터를 분석한 뒤 유의미한 정보를 선별해 진료에 필요한 핵심 정보만 의료진에게 전달함으로써 의료진의 부담을 대폭 경감할 수 있다. 이를 통해 의료 자원을 효율적으로 활용할 수 있고, 환자 맞춤형 의료 서비스를 제공할 수 있으며, 조기 진단과 환자 원격 모니터링, 처방 준수 여부 관리도 가능하다.

한편 IoT 등장 이후 산업 분야의 커넥티드 기기는 데이터를 수집한 뒤 클라우드로 전송하고, 처리가 완료되기를 기다렸다가 그 결과에 따라 동작하는 방식을 취해 왔다. 이 같은 기존 접근방식은 대체로 효과적이었다.

다만 엣지로 확장하는 인텔리전스의 맥락에서 보면 기존 접근방식은 막대한 대역폭을 소모하고 수백 밀리초~수 초의 지연시간을 유발하는 한계가 있다. 해당 지연시간은 실시간에 가까운 동작을 요구하는 애플리케이션에는 매우 긴 시간이다.

클라우드 중심 처리의 대안으로는 인텔리전스를 클라우드가 아닌 데이터 생성 지점인 기기로 이동하는 해결책이 제시된다. 이 같은 '엣지 AI'는 AI 분야 내 가장 빠른 성장 영역으로 꼽힌다. 엣지 AI는 성능·리소스 제약을 받는 IoT 기기의 스마트성·자율성·에너지 효율을 향상시키는 효과가 있다.

초저전력 엣지 AI는 동일 에코시스템 내의 상호 보완 기술을 활용하는 방식으로 구현된다. 사례로는 노르딕 세미컨덕터의 뉴튼(Neuton) 모델과 노르딕 세미컨덕터의 액손(Axon) 신경망 프로세싱 유닛(NPU)이 있다. 뉴튼 모델은 노르딕 제품 포트폴리오 전반에 유연하게 적용할 수 있으며, 뉴런 단위 자동화 프로세스로 구현된다. 이를 통해 기존 아키텍처의 오버헤드 없이 매우 컴팩트하고 효율적인 신경망을 생성하고, 메모리·컴퓨팅 요구량을 대폭 줄여 리소스 제한 기기에 용이하다.

액손 NPU는 노르딕의 AI 가속기 코어다. 이 NPU는 nRF54LM20B SoC 등 일부 디바이스에 직접 통합된다. 이를 통해 고성능이 요구되는 워크로드를 에너지 효율적이고 고속으로 처리하는 데 쓰인다.

엣지 AI 기능을 구현하려면 첨단 칩에 내장된 초저전력 프로세싱 성능이 필요하다. 예시 칩으로는 노르딕 nRF54L 시리즈가 제시된다. nRF54L 시리즈 SoC는 전체 동작 시간의 99%를 딥 슬립 모드로 유지하며, 수 마이크로초 내에 웨이크업한다.

웨이크업한 뒤에는 센서 데이터를 읽고, 추론을 실행한다. 필요할 경우에는 소량 데이터 패킷을 전송한다. 이는 초저전력 처리와 즉시 기동 능력이 실제 동작 방식에서 어떻게 구현되는지를 보여준다.

이와 함께 AI를 활용하려면 데이터 수집·모델 학습·배포·OTA 업데이트까지 전 개발 프로세스를 간소화하는 솔루션이 요구된다. 이에 따라 초점은 엣지 AI의 가능성을 설명하는 데서 엔지니어의 실제 구현 방식으로 전환되고 있다.

노르딕은 AI를 클라우드 종속 기능이 아니라 임베디드 시스템의 네이티브 기능으로 재설계하고 있다. 재설계의 목표는 제한적 전력·메모리·지연시간 요건에서도 성능 저하 없이 동작하도록 하는 데 있다. 찬드라는 노르딕이 센싱·컴퓨팅·현실 세계 상호작용의 융합인 물리적 AI 계층 구현에 주력하고 있다고 밝혔다.

베가르드 울란 CEO는 노르딕의 역할에 대해 AI를 학습하는 공간이 아니라 AI 팩토리에서 학습된 인텔리전스를 현실 세계의 엣지 기기에서 구현하도록 지원하는 데 있다고 설명했다. 그는 노르딕의 엣지 AI 솔루션이 클라우드를 우회하는 방식으로 지연 없는 밀리초 단위 의사결정을 지원한다고 밝혔다. 또 로컬 프로세싱을 기반으로 규제 준수를 보장하고, 수십억 개의 커넥티드 기기에서 배터리 수명을 대폭 향상시킨다고 전했다. 아울러 이 솔루션이 초저전력 엣지 AI의 새로운 표준을 제시하며, 노르딕이 그 기준을 구축 중이라고 덧붙였다.

노르딕은 솔루션을 제공하는 철학으로 개발 라이프사이클 전 단계에서 복잡성과 마찰을 최소화하는 데 초점을 두고 있다고 밝혔다. 이러한 엣지 AI 분야 철학을 구체화하는 수단으로는 뉴튼 모델과 액손 NPU를 제시했다. 뉴튼 모델은 노르딕의 독자 모델로, 임베디드 개발자가 머신러닝 전문지식이 없어도 자체 데이터 세트를 기반으로 최적화된 모델을 만들 수 있도록 지원하며, 이렇게 생성된 모델은 매우 작은 메모리에서도 구동 가능하다고 설명했다. 액손 NPU는 일반적인 AI 워크로드에 최적화된 하드웨어를 제공한다고 밝혔다.

노르딕은 하드웨어를 보완하는 소프트웨어를 통해 개발자용 원활한 개발 환경을 지원한다고 밝혔다. 이 소프트웨어 개발 환경은 텐서플로우 라이트/라이트RT(TensorFlow Lite/LiteRT) 모델을 지원하고, 노르딕 엣지 AI 랩(Nordic Edge AI Lab)과 긴밀하게 통합돼 임베디드 엔지니어가 모델 구현·최적화·테스트·배포 전 과정을 원활하고 간편하게 수행할 수 있도록 한다고 설명했다.

여기에 작은 크기와 높은 효율성을 갖춘 뉴튼 모델을 결합하면 모든 노르딕 SoC 또는 셀룰러 모듈 탑재 CPU에서 엣지 AI 애플리케이션을 구동할 수 있다고 밝혔다. 이 모델은 가속도계·IMU·PPG·온도·전력 측정 센서 등의 시계열 센서 데이터를 기반으로 한 과제를 해결할 수 있으며, 이상 감지·제스처 인식·활동 분류·생체정보 모니터링 기능을 배터리를 크게 소모하지 않고 클라우드 연결 없이 지속적으로 실시간 실행할 수 있다고 설명했다.

뉴튼 모델은 CPU 기반의 효율적 AI 구현을 지원한다. 다만 일부 애플리케이션은 더 높은 컴퓨팅 성능을 요구한다. 특히 고주파 센서 데이터·오디오 프로세싱·이미지 분류 작업은 프로세싱 속도·메모리·에너지 효율성 측면의 고성능이 필요하다. 이런 경우 리소스 제한 기기에서는 액손 NPU를 활용해 고성능 AI 워크로드를 구현할 수 있다. 액손 NPU는 초저전력 환경에 적합하게 설계됐으며, 텐서플로우 라이트급 모델 전용 하드웨어 가속 기능을 보유했다.

액손 NPU의 이 가속 기능은 CPU 실행 대비 에너지 소비를 감소시키고, CPU 실행 대비 최대 15배 빠른 추론 성능을 제공한다. 이 가속 기능은 단순 속도 향상에 그치지 않고 엣지 AI의 가능성을 근본적으로 확장한다. 이에 따라 이전에는 배터리 구동 기기에서 구현 난도가 높았던 키워드 감지·사운드 분류·이미지 기반 감지 작업들이 이제는 최소한의 지연시간·에너지 소비 조건에서 로컬 환경 실행이 가능해졌다.

뉴튼 모델의 액손 NPU 가속 가능 여부에 대한 질문이 자주 나오는 가운데, 찬드라는 뉴튼 모델의 컴퓨팅 부하가 매우 낮고 높은 효율성을 기반으로 매우 낮은 전력소모를 유지하도록 해당 특성을 고려해 설계됐다고 밝혔다. 이에 따라 MCU의 CPU만으로 전체 모델 구동이 가능하며, 하드웨어 가속은 불필요하다고 설명했다. 액손 NPU 가속 가능 여부에 대한 답변은 아니오라는 입장을 밝혔다.

이어 노르딕은 자사의 엣지 AI 아키텍처 특성으로 유연성과 확장 가능성을 제시했다. 이를 바탕으로 개발자는 개념 단계의 인텔리전스 기능을 복잡한 과정 없이 구현할 수 있으며, 하드웨어·애플리케이션·에너지 요건에 부합하는 인텔리전스를 구현할 수 있다고 설명했다.

노르딕은 엣지 AI 솔루션이 초고효율 모델과 전용 가속 기능의 결합으로 구성되며, IoT 기기를 활용한 다양한 애플리케이션을 지원해 AI 혁신 실현을 뒷받침한다고 밝혔다. 또 모든 활용 사례의 공통 이점으로 지연시간 단축, 에너지 소비 절감, 개인정보보호 강화, 시스템 복원력 향상을 제시했다.

지능형 기기 개발에서는 개발자가 단일 접근법을 고수할 필요가 없다. 활용 사례별로 최적의 기술을 선택할 수 있으며, 단일 시스템 내에서 복수의 기술을 결합해 사용할 수도 있다.

예시로는 뉴튼 모델이 지속적 이상 감지를 담당하고, 특정 이벤트를 감지했을 때 액손 NPU가 정밀 분석을 수행하는 구성이 제시된다. 이 같은 기기 구현 방식은 이상 감지와 정밀 분석의 단계적 구성에 해당하며, 계층적 접근방식으로 인텔리전스 활용 효과 극대화를 보장한다.

지난 수년 동안 무선 IoT 기기에 AI를 추가할 때는 배터리 수명과 성능 간 선택이 필요했다. 현재는 개발자가 배터리 수명과 성능을 동시에 확보할 수 있게 됐다. 이에 따라 단순 데이터 수집 센서 중심 시대는 약화하고 있으며, 주변의 다수 기기는 데이터 수집을 넘어 이해·반응·선별 전달 방향으로 진화하고 있다.

지능형 기기를 구현하는 기술은 이미 확보돼 있다. 임베디드 엔지니어는 관련 툴을 활용할 수 있다. 경제성 측면에서도 해당 기술을 도입할 이유는 충분하며, 시장 경쟁력 측면에서도 해당 기술을 도입할 이유는 충분하다.

출처: 테크월드뉴스 · 박규찬 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=408163

참고자료

• https://www.epnc.co.kr/news/articleView.html?idxno=408163