HAC로 대규모 GPU 클러스터 가상화
필요한 만큼 사용 후 요금 납부하는 방식
개발 효율성·유연성·경제성·민첩성 제고

고성능 컴퓨터 지원사업 성과보고회에서 김정진 KT클라우드 사업 담당자가 답변하고 있다. 사진. KT클라우드. 
고성능 컴퓨터 지원사업 성과보고회에서 김정진 KT클라우드 사업 담당자가 답변하고 있다. 사진. KT클라우드. 

[데일리임팩트 변윤재 기자] KT클라우드가 인공지능(AI) 연구·개발을 위한 대규모 그래픽처리장치(GPU) 활용 문턱을 낮췄다. 

20일 KT클라우드는 정보통신산업진흥원(NIPA)이 주관하는 2022년 하반기 초거대 AI 활용 등을 위한 고성능 컴퓨팅 지원 사업에서 국내 AI 기업, 연구기관, 대학교에 하이퍼스케일 인공지능 컴퓨팅(HAC) 서비스를 제공했다고 밝혔다.

해당 사업은 NIPA가 지난해부터 연간 240억원 규모로 추진한 고성능 컴퓨터 지원사업의 일환이다. 올 9월부터 12월까지 총 78억원을 투입해 국내 초거대 AI 활용∙확산을 촉진하고 AI 생태계를 활성화하고자 추진됐다. 

KT클라우드는 고성능 컴퓨터 지원사업 성과보고회에서 이 같은 내용을 전했다. KT클라우드에 따르면 회사의 HAC는 대규모 GPU 클러스터를 가상화 했다. AI 연산∙개발 과정에서 대규모 GPU 자원을 동적으로 할당∙반납할 수 있다. 필요한 만큼한 사용하는 종량제 AI 인프라 서비스인 셈이다.

HAC는 AI 연구에 따라 필요한 GPU를 빌려 쓸 수 있어 비즈니스 민첩성을 확보할 수 있다. GPU 할당을 아닌, 연산 실행 시 사용한 시간만큼 요금이 부과돼 경제성이다. 특히 개발자가 GPU 수량을 실시간으로 스케일인∙아웃할 수 있어 유연한 개발 환경을 보장받을 수 있다. 서비스 내 내장된 컴파일러가 멀티 GPU의 분산과 최적화 기능을 대행해 모델 프로그래밍 간 호환성이 우수하고, 이에 따라 개발과 운영의 부담을 줄여 주는 것도 강점이다.

KT클라우드 관계자는 데일리임팩트에 “동일한 수량의 자원을 30~50% 저렴한 가격으로 이용할 수 있다“며 “결과적으로 개발 비용이 같아도 약 2배 이상의 기간까지 연구·개발할 수 있어 초거대 AI를 연구·개발하는 대기업은 물론, AI 스타트업과 대학교 및 연구기관에서 보다 쉽게 이용할 수 있다“고 설명했다.

실제 스캐터랩은 관계 지향형 AI챗봇인 이루다 서비스를 위해 HAC를 활용했다. 초거대 AI 모델 개발과 차원 높은 대화 수준 구현하기 위한 컴퓨팅 자원∙비용, 학습 소요 기간에 대한 부담이 있었다. 그러나 HAC를 통해 초현실적 규모의 컴퓨팅 자원을 활용하게 되면서 같은 비용으로 더 짧은 시간 안에 AI 학습과 서비스 고도화를 완료했다. 

KT클라우드는 다양한 분야에서 HAC를 활용해 AI 연구∙개발을 할 수 있도록 대규모 GPU 펌을 지속적으로 확대할 방침이다. 이를 통해 AI 비즈니스 다각화에 기여하는 한편, AI 반도체 개발로 인프라, 하드웨어, 소프트웨어의 경쟁력을 모두 갖춘 AI 풀스택 사업자로 거듭난다는 목표다. 남충범 클라우드본부장은 “향후 지속적인 대규모 인프라 확충과 다양한 분야와의 협업으로 대한민국 초거대 AI 산업 성장을 선도하겠다”고 밝혔다. 

관련기사

저작권자 © 데일리임팩트 무단전재 및 재배포 금지