HBM은 High Bandwidth Memory의 약어인데 굳이 해석하자면 고(High) 대역폭(Bandwidth)을 갖는 메모리(Memory)입니다. 기존 DRAM보다 높은 데이터 처리 속도를 내기 위해 데이터가 이동하는 통로를 넓혔다는 의미로 생각하시면 될 것 같습니다. HBM의 대표적인 특성은 '적은 공간 차지', '높은 데이터 처리 속도', '낮은 전력 사용'입니다.
HBM은 여러 개의 DRAM을 수직으로 연결한 3차원 형태의 DRAM으로, 2008년부터 2013년까지 미국의 대표적인 반도체 회사인 AMD와 우리나라의 SK하이닉스가 함께 개발한 기술입니다.
현재까지 HBM은 지속적으로 발전해서 HBM3가 개발되었고, 지금은 삼성전자와 SK하이닉스, 마이크론 테크놀로지가 HBM의 주 생산업체가 되었습니다.
HBM의 활용분야
HBM은 대규모의 데이터를 처리해야 하는 AI 산업에 적합한 메모리입니다. 특히 ChatGPT와 같은 생성형 AI를 개발하기 위해서는 엄청난 수의 GPU(그래픽처리장치)가 필요한데, 이에 HBM의 수요가 폭발적으로 증가하고 있는 추세입니다. HBM의 활용분야는 다음과 같습니다.
AI(인공지능)
새로운 콘텐츠 및 아이디어를 만들어내는 생성형 AI를 개발하기 위해서는 복잡한 모델 학습(Machine learning)이 필요합니다. HBM은 높은 대역폭으로 CPU 및 GPU 간의 데이터 이동을 빠르게 처리할 수 있어, 모델 학습 시간을 단축 및 성능 향상을 가능하게 합니다.
자율주행
자동차 자율주행을 위해서는 카메라, 레이더 등 다양한 센서를 통해 실시간으로 수집된 데이터를 신속하게 처리해야 합니다. 이때 자율주행에 탑재된 AI는 데이터를 빠르게 처리하여 실시간으로 추론해야 합니다. 바로 HBM의 고성능 데이터 처리능력이, 자동차의 센서 데이터 처리 및 위치 인식 등을 통한 실시간 의사결정(AI Inference)을 가능하게 하여, 다양한 도로 조건과 예기치 못한 상황에서 안전하게 운행할 수 있도록 도움을 줍니다.
로봇
로봇 산업에서 HBM은 큰 역할을 하게 됩니다.
로봇은 주변환경을 감지하고 이해하기 위해 센서 데이터를 고속으로 처리하고 실시간으로 반응해야 하므로 매우 높은 처리속도가 필요합니다. HBM이 로봇이 환경에 빠르게 반응하며 작업을 수행할 수 있도록 하며, 기존의 메모리보다 전력소모가 적어 로봇의 작업시간을 연장하고 에너지 효율성을 높여줍니다.
빅데이터 분석
HBM의 높은 데이터 처리 속도는 대량의 데이터를 처리하고 분석하는 빅데이터분석 작업에 적합합니다. HBM의 넓은 대역폭과 빠른 데이터 처리능력은 대용량 데이터를 빠르게 메모리로 읽고 쓸 수 있어 분석 시간을 단축시킬 수 있습니다. 이를 통해 대용량 데이터를 사용하는 딥러닝 AI 모델 개발이나 구조화되지 않은 이미지 또는 영상 등의 비정형 데이터 등을 처리하는데 적합합니다. 또한 HBM의 낮은 전력사용 특성이 빅데이터 센터를 운영하는 데에 획기적인 비용절감을 가져올 수 있습니다.
HBM의 시장전망
현재 HBM의 가장 큰 수요처는 AI 학습 및 모델개발에 필수인 GPU를 생산하는 업체인 미국의 엔비디아(NVIDIA)입니다. ChatGPT 같은 AI를 개발하는 데에는 엔비디아의 GPU 수만 개가 필요한데, 엔비디아의 AI용 GPU에는 최신형 HBM3가 탑재됩니다. 올해 4분기부터는 삼성전자가 HBM3를 엔비디아에 공급하기로 하는 등, HBM의 성장세가 반도체 시장전체를 견인하고 있습니다.
이상으로 HBM(High Bandwidth Memory)가 무엇인지, 활용범위와 시장전망 등에 대해 알아보았습니다. HBM은 '23년과 '24년 각각 100%가량 성장을 이룰 것으로 예상하고 있습니다. 또한 AI의 발전으로 연관된 산업에서 HBM활용분야는 지속적으로 확대될 것으로 전망됩니다.
댓글