인텔, 에이전틱 AI 인프라 승부수…제온·GPU로 추론 시장 공략
테크월드뉴스 · · 조회 2
✦ AI 요약
인텔은 에이전틱 AI 시대를 겨냥해 CPU·GPU·개방형 소프트웨어를 결합한 AI 인프라 전략을 발표했다.
핵심 방향은 개별 가속기 성능보다 시스템 전체 효율과 이기종 AI 인프라 구축에 있다.
또한 인텔은 제온 기반 랙 설계와 GPU D-시리즈 세부 정보를 공개하며 추론 시장 공략을 추진했다.
인텔은 에이전틱 AI 시대를 겨냥해 AI 인프라 전략을 강화하고, CPU·GPU·개방형 소프트웨어를 결합한 구상을 내놨다. 목표 시장은 추론 시장 공략이다. 인텔은 13일(현지시간) 미국 캘리포니아주 새너제이 OCP(Open Compute Project) 글로벌 서밋에서 이 같은 전략을 발표했다.
이날 인텔은 GPU D-시리즈(코드명 크레센트 아일랜드)의 추가 기술 정보와 제온 기반 신규 랙 설계, 개방형 소프트웨어·생태계 혁신 방안을 공개했다. 발표의 핵심은 개별 가속기 성능 경쟁 중심에서 시스템 전체 효율 제고 중심으로 AI 인프라를 확장하는 데 있었다.
이 같은 전략의 배경에는 AI 모델의 에이전틱 AI 발전이 있다. 에이전틱 AI는 정보 검색·추론·도구 활용·작업 실행 기능을 수행한다. 이에 따라 에이전틱 AI가 확산하면서 CPU·GPU·특수 가속기 간 역할 분담의 중요성과 자원 배분의 중요성이 커졌다고 인텔은 설명했다.
인텔은 범용 컴퓨팅·전용 가속 기술·개방형 소프트웨어·표준 기반 시스템을 결합해 이기종 AI 인프라를 구축한다는 구상을 내놨다. 이를 통해 다양한 워크로드별로 적합한 컴퓨팅 자원을 배치하고, 시스템 전반의 성능 향상과 전력 효율 향상을 추진하고 있다.
니콜라스 뒤베 인텔 데이터센터 시스템 및 솔루션 그룹 부사장은 개방형 모델로 기업의 AI 도입 선택지가 확대됐다고 밝혔다. 그는 개방형 모델의 잠재력을 실현하려면 워크로드별로 적합한 AI 역량과 컴퓨팅 자원, 비용 효율성을 갖춘 인프라가 필요하다고 설명했다.
이런 배경에서 인텔은 에이전틱 AI 워크로드 확산에 대응해 생태계 파트너들과 제온 기반 랙 설계를 공동 개발하고, 제온 기반 랙 설계를 공개했다. 공개된 설계 상당수에는 OCP 오픈 랙 v3(ORv3) 표준이 적용됐으며, ORv3는 개방형 데이터센터 인프라 구축과 통합을 간소화하는 것을 목적으로 한다.
에이전틱 AI는 다단계 작업을 연속 수행하는 특성을 지니며, 이 과정에서는 모델 계산 자체보다 이를 뒷받침하는 범용 컴퓨팅의 조율 기능이 중요해진다. 에이전틱 AI 운영의 중요 요소로는 데이터 처리, 입출력(I/O) 관리, 워크로드 조율, 도구 실행이 꼽힌다. 이 때문에 범용 컴퓨팅의 역할이 중요하다는 설명이다.
이 구조에서 GPU는 모델 연산 처리를 맡고, 실서비스 운영에서 CPU는 작업 실행 조율과 가속기용 데이터 공급을 담당한다. 제온은 GPU·특수 가속기 작동을 조율하고, 데이터 이동·작업 실행 관리를 담당하는 범용 컴퓨팅 기반으로 활용된다. 인텔은 일부 제온 6+ 구성 기준 총 랙 전력 133.45kW에서 4만 6000개 이상 코어 집적이 가능하다고 발표했으며, 이를 CPU 컴퓨팅 밀도 향상과 에이전틱 AI의 대규모 확장 지원 근거로 제시했다.
인텔은 약 20년간 축적한 랙 단위 설계 역량을 보유하고 있으며, 인텔 기반에는 폭넓은 x86 소프트웨어 생태계가 갖춰져 있다. 인텔은 이를 바탕으로 데이터센터 기존 시스템과 새로운 AI 인프라를 연결한다는 방침이다.
AI 인프라 성능 평가 기준이 변화하고 있다. 개별 프로세서 코어 수·연산 성능 외 지표가 부상하고 있으며, 목표 지연시간 유지 조건의 랙당 동시 처리 에이전트 수 중요성이 확대되고 있다. 이런 흐름 속에서 인텔은 제온의 데이터 흐름 유지, 제온의 도구 실행 지원, 제온의 가속기 데이터 공급을 통해 제온을 통한 실제 워크로드 처리량 제고를 강조했다.
인텔은 대규모 AI 추론 시장을 겨냥한 GPU D-시리즈 세부 사양도 공개했다. GPU D-시리즈의 코드명은 크레센트 아일랜드이며, 기반 아키텍처는 Xe3P다. GPU D-시리즈는 메모리 집약적 추론 작업의 비용 효율성 제고에 초점을 맞췄으며, 최대 메모리 480GB LPDDR5X, 메모리 대역폭 초당 1.5TB, FP8 연산 성능 1.3페타플롭스(PFLOPS), 전력 범위 350W의 사양을 제시했다.
인텔은 메모리 용량·연산 성능·전력 효율의 균형 확보를 전략으로 내세웠다. 이를 통해 실제 추론 환경 활용도 제고를 목표로 한다고 밝혔다.
이 제품은 대규모 언어모델(LLM)과 긴 문맥 처리 워크로드, 동시다발 추론 요청 서비스를 주요 적용 분야로 삼았으며, 지연시간 민감 워크로드 대응을 설계 목표로 했다. 활용 대상은 멀티테넌시 AI 서비스와 로보틱스이며, 단일 카드로는 최대 3000억 개 매개변수 모델을 지원하고 GPU 8개 구성 시스템으로는 1조 개 초과 매개변수 모델을 지원한다.
이 제품에는 표준 PCIe 폼팩터와 공랭식 설계가 적용됐다. 이에 따라 전용 랙 구축 부담과 추가 냉각 인프라 구축 부담을 완화할 수 있으며, 기존 데이터센터 도입 용이성을 높인 것이 특징이다.
이 제품은 공통 Xe 소프트웨어를 기반으로 하며, 인텔 GPU 플랫폼 간 애플리케이션 이식성을 지원한다. 이를 통해 기존 소프트웨어 활용과 기존 개발 환경 활용을 극대화하고, 새로운 GPU 기반 추론 시스템 전환을 지원하는 것이 목적이다.
인텔 데이터센터 그룹 소속 아닐 난두리(Anil Nanduri) AI 제품 및 시장진출(GTM) 담당은 AI 추론이 핵심 워크로드로 자리 잡고 있으며, 이에 따라 기업 인프라에는 적절한 비용과 필요 성능이 요구된다고 설명했다. 그는 GPU D-시리즈를 중심으로 대규모 추론의 실용적 구축과 비용 효율적 확장을 이루는 것을 목표로 하고 있다고 밝혔다.
이에 인텔은 고객을 대상으로 샘플 공급을 진행하고 있으며, OEM 업체와 ODM 업체, 네오클라우드, 독립 소프트웨어 공급업체(ISV), 어플라이언스 제공업체, AI 전문기업과 협력하고 있다. 인텔은 검증된 플랫폼 제공과 소프트웨어 통합, 즉시 배포 가능한 솔루션 제공을 통해 고객의 모델 평가 단계에서 실제 운영 환경으로의 신속한 전환을 지원할 계획이다.
인텔 데이터센터 그룹 소속 수석부사장 Kevork Kechichian은 에이전틱 AI의 영향으로 데이터센터 관련 고객 요구가 변화하고 있다고 설명했다.
Kevork Kechichian은 이에 대응하는 성공 조건으로 단일 요소가 아닌 제온·목적별 가속 기술·상호운용 가능한 소프트웨어를 결합한 개방형 이기종 인프라를 제시했다. 그는 이 기반을 통해 고객의 기존 투자를 활용하고 신규 AI 워크로드의 효율적 확장을 지원할 수 있는 유연한 기반 구축을 지원한다고 밝혔다.
출처: 테크월드뉴스 · 박규찬 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=408089
참고자료
이 기사는 자동생성 알고리즘의 도움을 받아 작성되었습니다.
출처 테크월드뉴스
원문 확인이 기사는 테크월드뉴스 원문을 바탕으로 비즈크러시가 요약 정리했습니다. 정확한 인용과 세부 내용은 원문을 확인해 주세요.