소음 확 준 데이터홀…B200 수천 장 품은 ‘수냉식 AI DC’ 가보니

서울 영등포구 AI 전용 데이터센터 'NHN 팩토리X 서울(NHN FactoryX Seoul)' 데이터홀의 문을 열고 들어서자 내부 분위기는 예상보다 정숙했다. 이곳에는 엔비디아 '블랙웰(Blackwell) B200' GPU 수천 장이 가동 중이었고, GPU는 지속 연산을 수행하고 있었다.

그런데도 현장에는 데이터센터 특유의 고속 팬 소음이 없었다. 바로 옆 사람과도 큰소리 없이 취재 대화를 할 수 있을 정도의 수준이었다.

이 같은 소음 감소의 배경으로는 발열체 직접 냉각수 순환 방식의 직결 수냉식(DLC)이 적용된 점이 제시된다. DLC 도입 효과로 데이터홀 소음이 줄어든 것이다.

FactoryX 서울 내부 전경 이미지의 출처는 NHN 클라우드다. 이 시설은 국가 AI 생태계 지원 목적의 'AI 컴퓨팅 자원 강화 사업' 거점으로 언급된다.

NHN 팩토리X 서울은 과학기술정보통신부·정보통신산업진흥원(NIPA) 주관 '2025년도 AI 컴퓨팅 자원 활용 기반 강화 사업' 일환 인프라다. 이 사업의 목적은 국내 AI 생태계 발전이며, 대규모 예산 투입을 통해 추진된다.

이 사업은 산업체·대학·연구기관을 지원 대상으로 하며, 고성능 GPU를 제공한다. 목표는 국가 차원 AI 모델·인재 육성 견인이다. 산업체 대상 GPU 공급가는 시중가의 10분의 1 수준이다. 국내 주요 산학연이 참여하는 '독자 AI 파운데이션 모델' 프로젝트도 진행되며, NHN 팩토리X 서울은 이 프로젝트의 학습 인프라 핵심 역할을 맡는다.

전체 설비는 국가 소유 자산이다. NHN클라우드는 정부 예산 기반 장비 구매 대행, 데이터센터 임차, 인프라 구축을 담당하고, 향후 5년간 운영 관리도 전담한다. 다만 NHN클라우드는 별도 정부 운영비를 지원받지 않으며, 운영 효율성 확보를 위해 전체 구축 물량 20%를 자체 서비스 개발에, 전체 구축 물량 20%를 기업용 클라우드 공급에 활용할 권한을 갖는다.

센터 데이터홀은 3층10층으로 구성되며, 이 가운데 NHN클라우드 운영 범위는 3층6층으로 총 4개 층이다. 전산 자원은 3개 클러스터로 구분된다. 'NIPA-CL1'은 3층·4층 통합 연결 구성으로 4,080장, 510노드 규모이며, 'NIPA-CL2'는 5층에 위치해 2,040장, 255노드로 운영된다. 'NIPA-CL1'과 'NIPA-CL2'는 정부 지원용 운영에 쓰인다.

6층은 NHN클라우드 자체 활용분 클러스터 용도다. 이날 현장 투어도 NHN클라우드 독자 운영 6층 자체 클러스터를 중심으로 진행됐다.

정부 지원용인 'NIPA-CL1'은 'TOP500'에서 전 세계 20위를 기록했다. 이는 'NIPA-CL1'의 글로벌 수준 연산 성능을 입증하는 평가 의미를 갖는다.

현장에서는 공랭식의 경우 대화가 어려울 정도의 환경이라는 취지의 설명이 나왔고, 이에 대한 대비 대상도 함께 제시됐다. 이미지에는 FactoryX 서울 관제실이라고 표기됐으며, 이미지 출처는 NHN 클라우드다.

현장에서 체감된 핵심 변화는 수냉식 전환에 따른 소음 감소였다. 데이터홀의 공랭식 네트워크 스위치(InfiniBand) 구역에서는 강한 송풍 팬 소음이 났고, 일반 공랭 서버 인근에서도 옆 사람 말소리를 듣기 곤란할 수준의 소음이 이어졌다. 반면 B200 서버 랙이 밀집한 수냉식 구역으로 이동하자 체감 소음이 뚜렷하게 감소했다.

이 같은 변화는 발열 70~80%가 집중되는 GPU 칩셋·CPU에 수냉 방식을 적용한 데서 비롯됐다. 냉각 구조는 구리 재질 콜드 플레이트(Cold Plate)를 해당 부위에 밀착하는 방식이다. 냉각은 냉매로 열을 직접 제거하는 직결 수냉 방식으로 이뤄진다.

직결 수냉 적용 결과 기존 공랭식 서버에서 필수였던 대형 고속 팬의 동작은 최소화됐다. 공랭식 구역에서 대화가 어려울 정도로 크게 들리던 네트워크 스위치와 서버의 팬 소음이, 수냉식 B200 서버 구역에서는 확연히 줄어든 배경이다.

이런 차이는 데이터센터 소음 문제가 도심·주거지 인근 데이터센터 건립 때 주민 반발 요인 중 하나라는 점과도 연결된다. 냉각 설비·배기 팬이 유발하는 극심한 소음이 민원의 배경으로 지목되는 가운데, 수냉식 기술은 데이터센터의 사회적 수용성과 소음 민원 문제를 해결할 유력 대안으로 제시됐다.

공랭식과 수냉식은 냉각 성능과 에너지 효율 측면에서 차이를 보였다. 공랭식 서버는 GPU 온도가 70℃ 이상으로 상승하는 경향이 있고, 공랭식 환경에서는 과열 방지를 목적으로 스로틀링(Throttling)이 발생하기 쉬운 것으로 나타났다. 반면 수냉식 환경에서는 GPU 온도가 50℃ 안팎으로 안정적으로 유지되며, 칩셋의 최대 연산 효율 확보가 가능하다고 설명됐다. 서버 대당 전력 소모도 공랭식은 14.3kW, 수냉식은 12.3kW로 비교됐고, 수냉식 전력 소모는 공랭식 대비 약 14% 절감되는 것으로 제시됐다.

이일준 NHN 클라우드 이사는 액침냉각 방식이 효율이 높을 가능성이 있다고 설명했다. 다만 엔비디아·HPE·델 등 주요 하드웨어 제조사는 액침 장비에 대한 공식 유지보수(AS)를 지원하지 않는다고 덧붙였다. 이에 따라 엔터프라이즈 AI 데이터센터의 장기 안정 운영에는 기술 지원이 보장되는 직결 수냉식이 현재 가장 안정적·최적화된 방식이라고 밝혔다.

사진은 이일준 NHN클라우드 이사가 투어 설명을 진행하는 모습이며, 사진 출처는 NHN 클라우드다.

NHN 팩토리X 서울은 고집적 B200 클러스터를 지탱할 목적으로 전기·기계 설비 전반에 이중화·특화 설계를 적용했다. 전력 인프라는 외부 한전 변전소 2곳과 연계했으며, 수전 방식은 2N으로 구성했다.

외부 변전소에서 공급받는 전력은 22900V 특고압이며, 변전실 메인 변압기(MTR)에서 10,000V로 감압한 뒤 각 층 변압기(TR)를 거쳐 서버 가동 전압인 380V/230V로 변환해 공급한다.

무정전 전원장치(UPS)는 총 10대가 설치됐으며, 전압·주파수 안정화 역할을 맡는다. 비상시에는 발전기 가동 전까지 배터리를 통해 약 10분 무중단 전력 공급이 이뤄진다.

또 카카오 데이터센터 화재 사고 이후 개정 안전 기준을 반영해 리튬 배터리실에 특수 방화벽을 적용했다. 리튬 배터리실은 전기실·전산 구역과 물리적으로 격리해 화재 대응 구조를 강화했다.

시설은 초중량 GPU 랙과 수냉 배관 하중을 감당하기 위해 바닥 설계 하중을 ㎡당 2.0톤으로 강화했다. 이는 무거운 수냉 배관을 지지하고 대당 1.2~2.3톤 초중량 GPU 랙을 받치기 위한 목적이다. 물이 찬 수냉 배관은 구조적 한계로 천장에 매달기 어려워 대응 설계로 바닥 철제 지지대 프레임을 설치했다.

이 프레임은 배관 하중을 안정적으로 지지하는 역할을 한다. 수냉 공급 체계는 3단계 순환 구조로 운영된다. 1단계는 옥상 냉각탑에서 외부로 열을 방출하고, 2단계는 지하 터보 냉동기를 거친 냉수를 생성하며, 3단계는 냉수가 데이터홀 냉각분배장치(CDU)로 전달된 뒤 서버 내부의 얇은 배관 루프로 GPU 칩셋을 직접 냉각하는 방식이다.

관제실은 공급 수온, 수압, 유량(Flow), 미세 누수 센서를 24시간 실시간 모니터링한다. 이는 장비 손상 위험을 사전 차단하기 위한 목적이다.

이일준 NHN클라우드 이사는 기존 설계 데이터센터가 전력·냉방 한계 때문에 랙 공간 일부를 비워야 하는 구조적 한계가 있다고 설명했다. 이어 향후 AI 데이터센터는 초기 설계 단계부터 냉각 기술, 수냉 배관·초중량 랙 대응 바닥 하중, 대규모 전력 수용량을 함께 고려해야 한다고 밝혔다.

출처: 아이티데일리 (IT DAILY) · 권영석 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241066

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241066