보도 자료

AI 워크로드로 인해 데이터 센터가 가열되면서 액체 냉각 솔루션이 추진력을 얻습니다.

Lucia Stazio3주 ago

3 2 minutes read

Read Time:2 Minute, 16 Second

대량의 데이터를 처리해야 하는 필요성이 계속 증가함에 따라 인공 지능은 데이터 센터에서 전례 없는 수요를 주도하고 있습니다.

기술 대기업들이 AI 워크로드를 수용하기 위해 인프라를 확장하려고 서두르면서 지속 가능하고 저렴한 방식으로 이러한 운영을 강화하는 방법에 대한 점점 더 많은 과제에 직면하고 있으며 이로 인해 Oracle 및 Microsoft와 같은 회사가 원자력 에너지를 가능한 솔루션으로 탐색하게 되었습니다.

또 다른 중요한 문제는 강력한 AI 하드웨어에서 발생하는 열을 관리하는 것입니다. 액체 냉각은 증가하는 전력 수요를 관리하면서 최적의 시스템 성능을 유지하는 유망한 방법으로 등장했습니다. 2024년 10월에만 여러 기술 회사가 액체 냉각 솔루션을 발표하여 해당 방향으로의 명확한 업계 변화를 강조했습니다.

수냉식 SuperClusters

최근 Lenovo Tech World 행사에서 회사는 서버용 차세대 Neptune 액체 냉각 솔루션을 선보였습니다.

직접 개방 루프 온수 냉각을 사용하는 6세대 Neptune은 이제 회사의 파트너 생태계 전반에 걸쳐 출시되어 조직이 생성 AI를 위한 가속 컴퓨팅을 구축 및 실행하는 동시에 데이터 센터 에너지 소비를 최대 40%까지 줄일 수 있도록 지원합니다. . 회사는 말합니다.

OCP Global Summit 2024에서 Gigabyte 자회사 Giga Computing은 NVIDIA HGX H200 시스템용으로 설계된 직접 액체 냉각(DLC) 서버를 선보였습니다. Giga는 DLC 서버 외에도 아직 액체 냉각을 완전히 채택할 준비가 되지 않은 데이터 센터를 겨냥하여 Nvidia H200 Tensor Core GPU 전용 공기 냉각 챔버를 갖춘 G593-SD1도 공개했습니다.

Dell의 새로운 통합 랙 7000(IR7000)은 액체 냉각을 염두에 두고 특별히 설계된 확장 가능한 시스템입니다. 생성된 열을 거의 100% 포집하는 동시에 향후 최대 480KW의 배치를 처리할 수 있습니다.

Dell의 인프라 솔루션 그룹 사장인 Arthur Lewis는 “오늘날의 데이터 센터는 AI의 요구 사항을 충족할 수 없습니다. 따라서 유연하고 효율적인 모듈식 설계를 갖춘 고밀도 컴퓨팅 및 액체 냉각 혁신이 필요합니다.”라고 말했습니다. “이 새로운 시스템은 빠르게 진화하는 AI 환경에서 조직이 경쟁력을 유지하는 데 필요한 성능을 제공합니다.”

Supermicro는 또한 Nvidia Blackwell 플랫폼을 기반으로 AI 워크로드를 위해 설계된 수냉식 SuperClusters를 공개했습니다. 엑사스케일 컴퓨팅을 위한 Nvidia GB200 NVL72 플랫폼을 기반으로 하는 Supermicro의 액체 냉각 솔루션은 일부 고객을 대상으로 테스트를 시작했으며, 4분기 말까지 본격적인 생산이 예상됩니다.

Charles Liang은 “우리는 지속 가능한 AI 컴퓨팅의 미래를 주도하고 있으며, 우리의 수냉식 AI 솔루션은 세계에서 가장 야심찬 AI 인프라 프로젝트에 빠르게 채택되고 있으며 2024년 6월 이후 2,000개가 넘는 수냉식 랙이 출하되었습니다”라고 말했습니다. 슈퍼마이크로의 사장 겸 CEO.

수냉식 SuperClusters는 고급 랙 장착형 또는 내부 열 냉각수 분배 장치(CDU)와 맞춤형 냉각판을 갖추고 있어 1U 폼 팩터에 Nvidia GB200 Grace Blackwell Superchip 2개를 수용할 수 있습니다.

워크로드가 계속 증가함에 따라 액체 냉각이 데이터 센터 운영의 중심이 될 것이 분명해 보입니다. 이 기술은 차세대 AI 컴퓨팅의 열 및 전력 수요를 관리하는 데 매우 중요할 것이며, 앞으로 몇 년 동안 이 기술이 효율성, 확장성 및 지속 가능성에 미칠 잠재적 영향을 이제 막 보기 시작했다고 생각합니다.