윤동식 대표, KT클라우드 서밋 2023서 가조연설
"초거대 AI 진입 장벽 높아…전력 소모도 어마무시"
리벨리온 AI칩 5월경 적용…전성비 높은 인프라 구축
[데일리임팩트 변윤재 기자] KT클라우드가 클라우드 기반의 풀스택 인공지능(AI) 사업자가 되겠다는 구상을 밝혔다.
이를 위해 국내 AI반도체 스타트업인 리벨리온이 개발한 전용칩을 이르면 다음달 중 자사 클라우드 인프라에 적용하고, 메모리·연산 기능을 갖춘 지능형 반도체(PIM)를 개발한다. 초거대 AI 활용도가 빠르게 확대되는 데 맞춰 전력 효율성을 높이고 비용을 절감시킨 솔루션으로 초거대 AI 개발 부담을 낮추고, 경쟁 우위에 서겠다는 구상이다.
18일 윤동식 KT클라우드 대표는 서울 강남구 그랜드 인터컨티넨탈 서울 파르나스에서 열린 KT클라우드 서밋 2023에서 "비용·전력 효율적인 AI 인프라가 절실하게 필요한 때"라며 이같이 밝혔다.
윤 대표는 'AI, 클라우드, IDC와 함께하는 다음 DX 여행(Your Next DX journey with AI, Cloud, IDC)'를 주제로 기조강연에 나섰다. 이 자리에서 초거대 AI 시대에 접어들면서 기술적 한계가 나타나고 있다고 지적했다. AI 개발·운용 과정에서 진입 장벽이 있다는 것이다.
윤 대표는 "그래픽처리장치(GPU)의 전력 소모량이 어마무시하다"면서 "이렇게 전력을 소모하다가는 탄소 배출로 AI가 금지되는 날이 올 수도 있다"고 우려했다.
초거대 AI 운용비용도 대중화를 저해하는 요인으로 꼽았다. 오픈AI는 1750억 매개변수(파라미터)를 학습시켰다. 마이크로소프트로부터 10조원 이상 투자받은 덕분이다. 현재도 AI 고도화를 위해 하루 10만달러의 비용이 들어간다. 일부 빅테크가 아니고선 초거대 AI 개발이 어려운 현실이다.
윤 대표는 "학습비용과 추론비용을 혁신적으로 감소시켜 일반 회사도 AI 개발을 할 수 있어야 진짜 AI시대"라며 하이퍼스케일 AI 컴퓨팅(HAC) 서비스를 제공한다는 방침을 밝혔다. 이미 스캐터랩의 AI 챗봇, 이루다에 해당 기술이 사용됐다.
KT클라우드의 HAC는 기존 서비스보다 가성비가 뛰어난 게 특징이다. 클라우드 기반이라, 필요한 만큼만 GPU를 빌려쓸 수 있고, 사용 시간에 따라 요금이 부과된다.
전력 대비 성능(전성비)도 뛰어나다. 윤 대표는 "엔비디아의 에이백 대비 5분의 1 이하 전력을 사용하고 성능은 그 이상인 신경망처리장치(NPU) 칩을 개발하고 있다"며 "칩 제작을 완료하고 5월 말쯤에 선보일 수 있을 예정"이라고 전했다. 해당 칩은 리벨리온이 설계한 아톰으로, TSMC가 생산한다.
KT클라우드는 PIM도 개발한다. PIM은 사람의 뇌처럼 메모리에 연산 기능을 넣어 데이터 처리 속도를 높인 반도체다. AI·빅데이터 처리 과정에서 발생하는 데이터 이동 정체 현상이 줄어드는 만큼, 특정 연산 속도가 획기적으로 빨라지는 반면, 전력 소모량은 대폭 줄어든다.
윤 대표는 "GPU 보드 메모리 양에 따라 얼마나 많은 작업량을 소화할 수 있는지 정해진다"며 "(PIM 기술을 활용하면) 훨씬 더 빠르게 추론 연산, 학습을 할 수 있다. 곧 관련 계획을 발표할 것"이라고 전했다.
윤 대표는 또 연속성 있는 서비스를 구현하겠다고도 밝혔다. 공공·금융·산업 환경에 맞춰 클라우드를 구축, 고객사별 요구를 반영한 맞춤형 서비스도 제공하겠다는 전략이다. 아울러 인터넷데이터센터(IDC)의 분산, 이중화∙이원화 설비, IDC 간 연결성 강화를 바탕으로 자연재해, 화재와 같은 재난이 발생해도 끊김없는 서비스를 실현하겠다고 했다.
이날 KT의 초거대 AI 모델, 믿음 개발 총괄책임자가 나서 풀스택 AI 사업자라는 점을 부각했다.
배순민 KT 융합기술원 AI2XL연구소장은"AI 기술은 이제 막 걸음마를 뗐다"며 "2~3년 안에 많은 변화가 있을 것"이라고 내다봤다.
"초거대 AI 개발이 가능한 이유는 클라우드 덕분"이라고 운을 뗀 배 소장은 "AMD, 엔비디아와 여러 스타트업과 협업해 파운데이션 모델을 구축하고 있다"고 전했다.
이어 "초거대 AI는 그 자체로 파급력을 가지는 인프라∙플랫폼이 된 만큼, KT 역시 믿음을 통해 고객들의 삶의 변화에 기여하고 있다"며 "누구나 쉽게 초거대 AI 기술을 활용할 수 있도록 클라우드 기반 AI 풀스택을 제공할 것"이라고 강조했다.
KT클라우드 서밋 2023은 국내외 AI·클라우드·IDC 업계 관계자들이 디지털 전환(DX) 산업의 현재와 미래를 공유하고 생태계 동반 성장과 비전을 논의하는 행사다. 대기업·정보기술(IT) 전문기업·스타트업·공공기관·DX(디지털전환) 추진 기업의 주요 인사 1000여명이 참석했다.