얼마 전, 서버 제조 업체 델이 시장 전망치를 크게 웃도는 실적을 발표해 투자자들을 깜짝 놀라게 했습니다. 인공지능(AI) 서버 수요가 크게 늘어난 덕분이었는데요. 올해 전 세계 서버 8대 중 한 대는 AI 서버라는 전망이 나올 정도로 관련 시장이 빠르게 확대되고 있습니다. AI를 중심으로 관련 산업이 모두 떠들썩한 가운데, 그중에서도 남다른 존재감을 드러내는 AI 서버 시장에 대해 알아볼까요?
AI 시대, 그 배후의 AI 서버
🤔 서버, 들어는 봤는데: 우리는 개인 컴퓨터에서 정보를 검색하고, 필요한 작업 등을 할 수 있습니다. 이는 중앙 컴퓨터 격인 서버에 해당 서비스를 요청해 제공받기 때문인데요. 예를 들어, 전 세계 수많은 사람이 접속하는 구글은 어마어마한 양의 데이터를 처리하고 다양한 기능을 구현하기 위해 대규모 데이터 센터와 서버를 보유합니다. 서버는 수많은 컴퓨터로부터 받는 요청을 빠르게 처리해야 하기 때문에, 방대한 양의 데이터를 모아두고 연산할 수 있는 고성능 장비를 갖춰야 하죠. 만약 AI처럼 양질의 데이터와 고도의 훈련·추론 역량이 필요한 경우라면 서버의 성능 역시 그에 맞춰 향상돼야 합니다.
🤖 AI 서버의 등장: AI 열풍이 거세지면서 떠오른 AI 서버는 일반 서버와 달리 중앙처리장치(CPU) 외에 첨단 그래픽처리장치(GPU)가 대거 탑재됩니다. 컴퓨터의 두뇌 역할을 하는 CPU는 순서대로 연산을 하나하나 처리하는 탓에 AI 연산을 하기엔 많은 시간과 비용이 들어가는데요. 이와 달리, GPU는 여러 연산을 동시에 처리할 수 있기 때문에 복잡한 AI 연산을 처리하는 데 상대적으로 유리하다는 특징이 있습니다. 좋은 데이터와 알고리즘을 갖고 있더라도 연산이 되지 않는다면 곤란한데요. AI 경쟁력을 확보하려는 기업이 갈수록 많아지는 가운데, GPU에 대한 수요가 확 늘어난 배경입니다. 이런 GPU를 활용한 AI 서버의 가격은 기존의 일반 서버보다 훨씬 비쌉니다. 한 대당 수억 원에 달하는 가격은 일반 서버 50~60대와 맞먹는 정도죠. 엔비디아의 최신 시스템 HGX H100 8-GPU가 장착된 서버는 1대당 약 25만 달러(약 3억 3,000만 원) 수준입니다.