PIM 기술 적용 신제품 및 사례 공개…성능 향상·에너지 사용량 감소
내년 상반기 내 기술 플랫폼 표준화·에코시스템 구축…AI 메모리 공략
[데일리임팩트 변윤재 기가] 삼성전자가 지능형 메모리반도체 제품군을 확대한다. 반도체 융·복합을 통해 경쟁사들과의 격차를 벌리겠다는 전략이다.
삼성전자는 24일 온라인으로 개최된 핫칩스(Hot Chips) 학회에서 인공지능(AI) 엔진을 적용한 메모리반도체 제품 및 응용사례를 발표했다. 핫칩스 학회는 업계에서 가장 주목하는 차세대 반도체 기술을 공개하는 행사로, 1989년부터 매년 개최되고 있다.
이날 삼성전자는 지난 2월 출시한 HBM-PIM와 D램 모듈에 AI 엔진을 탑재한 AXDIMM, 모바일 D램과 PIM을 결합한 LPDDR5-PIM 등을 소개했다.
메모리반도체는 통상 데이터를 저장하는 용도로만 인식돼왔다. 그러나 4차 산업혁명으로 스마트기기는 물론 자율주행, 사물인터넷 등으로 AI 기술의 응용 영역이 확대되면서 고성능 메모리에 대한 요구가 높았다.
그러나 기존 메모리 방식으로서는 한계가 있었다. 보통 데이터 처리는 CPU(중앙처리장치)가 메모리로부터 명령어를 실행해 데이터를 불러온 뒤 이를 기억장치에 저장하는 방식으로 진행됐다. 이 과정은 입력순서에 따라 이뤄지기 때문에 CPU와 메모리간 주고받는 데이터가 많아질 경우, 작업처리가 지연되는 현상이 발생했다. 또 이미지나 소리, 특정 상황과 같은 불규칙한 정보 처리에도 효율적이지 않았다.
이를 해결하기 위해 삼성전자가 개발한 기술이 PIM이다. 메모리 내부에 AI 엔진을 장착해 메모리반도체에서도 CPU를 거치지 않고도 간단한 연산이 가능하도록 했다. 이에 따라 메모리 성능이 향상되고 에너지 사용량은 감소됐다.
실제 AXDIMM을 글로벌 고객사들의 서버 환경에서의 성능 평가를 한 결과, 성능은 약 2배 향상되고 시스템 에너지는 40% 이상 감소하는 게 확인됐다. LPDDR5-PIM 역시 실험했더니 음성인식과 번역, 챗봇 등에서 성능이 2배 이상 올라가고, 에너지는 60% 이상 줄었다.
특히 AXDIMM은 기존 D램 모듈에 탑재된 버퍼칩에 AI 엔진을 탑재하는 방식으로 기존 시스템 변경 없이 적용이 가능하다.
이번 학회에서는 HBM-PIM을 실제 시스템에 탑재한 검증 결과도 공개됐다. FPGA 개발 업체인 미국 자일링스에서 상용화한 AI 가속기 시스템에 HBM-PIM을 탑재했을 경우, 기존 HBM2를 이용한 시스템보다 성능은 약 2.5배 높아지고, 시스템 에너지는 60% 이상 감소되는 것으로 나타났다.
삼성전자는 PIM 기술을 D램 공정에 접목시켜 다양한 응용처에서 성능과 에너지 효율이 대폭 향상된 만큼, 내년 상반기 내 다양한 고객사들의 AI 가속기를 위한 PIM 기술 플랫폼을 표준화하고 에코시스템을 구축해 AI 메모리 시장을 확대해 나갈 예정이다.
김남승 삼성전자 메모리사업부 D램 개발실 전무는 “HBM-PIM은 업계 최초의 AI 분야 맞춤형 메모리 솔루션으로, 이미 고객사들의 AI 가속기에 탑재돼 상업적 성공의 가능성을 보였다”면서 “향후 표준화 과정을 거쳐 차세대 슈퍼컴퓨터 및 AI용 HBM3, 온디바이스 AI용 모바일 메모리·데이터센터용 D램 모듈로 확장할 예정”이라고 밝혔다.