제목 AI 서버는 왜 그렇게 뜨거울까? [5]
AI 서버가 뜨거운 이유는 간단하다.
엄청난 전력을 사용하기 때문이다.
AI 모델을 학습하거나 실행할 때는
GPU가 사용된다.
이 GPU는
일반 컴퓨터보다 훨씬 많은 전력을 소비한다.
최신 AI GPU 한 개는
약 400W에서 700W 이상의 전력을 사용한다.
여러 개의 GPU가 동시에 작동하면
전력 사용량은 더욱 커진다.
전력은 대부분 열로 바뀐다.
그래서 AI 서버는
매우 높은 열을 발생시킨다.
또 하나의 이유는
서버 밀도다.
AI 데이터센터에서는
한 랙(rack)에 여러 대의 GPU 서버를 배치한다.
한 랙 안에
수십 개의 GPU가 들어가기도 한다.
많은 서버가 좁은 공간에 모이면
열이 빠르게 쌓인다.
그래서 데이터센터는
강력한 냉각 시스템을 사용한다.
대표적인 방식은 두 가지다.
첫 번째는 공기 냉각이다.
차가운 공기를 서버 앞쪽으로 보내고
뜨거운 공기는 뒤쪽으로 배출한다.
두 번째는 액체 냉각이다.
냉각수가 GPU 주변을 지나가면서
열을 직접 흡수하는 방식이다.
AI 산업이 커질수록
데이터센터의 핵심 경쟁력은
칩 성능뿐만 아니라
전력 공급과 냉각 기술이 되고 있다.
시작 글
다음 글
#AI서버
#데이터센터냉각
#GPU서버
#AI인프라
댓글
댓글 쓰기