HBM ( High Bandwidth Memory )

 요즘 반도체 시장의 화두는 단연 AI와 HBM 일 것이다. AI는 이제 기업들 뿐만 아니라 일상생활에서도 다양하게 적용되어 사람들이 좀 더 편리한 세상으로 만들어가고 있고 대중화되어 가고 있다. 이 AI를 운용하기 위해서는 고성능의 컴퓨터가 요구되는데, 이 고성능 컴퓨터를 구성하고 있는 많은 장치들 중 HBM의 성능이 중요하고 이를 만들어내는 회사가 국내의 SK하이닉스와 삼성전자라 많은 사람들이 관심을 가지고 있다. 
 

출처 : 게티이미지_AI

HBM 은 무엇인가?

 
HBM은 'High Bandwidth Memory’의 약자로, '고대역폭 메모리’라는 뜻을 가지고 있다. 이는 다른 메모리 반도체보다 대역폭이 높은 반도체 칩이라는 것을 의미한다.

HBM은 기본적으로 여러 개의 D램을 수직으로 연결하여 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품인데, 초기에는 고성능 그래픽 작업을 위해 제작되었지만, AI 등으로 GPU의 활용 범위가 넓어지면서 HBM 시장도 덩달아 커지고 있다.

특히, HBM은 AI 시대에 필수적인 역할을 하는데, AI가 방대한 데이터를 학습하려면 데이터 처리와 저장 기능이 중요하기 때문이다. 이러한 이유로, HBM은 삼성전자와 SK하이닉스 등 주요 반도체 제조업체들 사이에서 주도권 경쟁이 치열하게 이루어지고 있다.

 

SK하이닉스는 세계 최초로 24GB 12단 HBM3 신제품을 개발하는 데 성공했고, 삼성전자는 업계 최고 6.4Gbps의 성능과 초저전력을 기반으로 하는 HBM3 16GB와 12단 24GB 제품 샘플을 출하 중이며 이미 양산 준비를 완료했다.

HBM 시장은 매년 80%씩 성장하고 있고, 내년 물량은 이미 모두 찼으며, 이러한 추세는 HBM이 계속해서 중요한 역할을 할 것임을 보여준다.

 

HBM3 24GB 제품, 출처 : SK 하이닉스

 

왜 HBM 을 사용하는가?

 

HBM은 기존의 DRAM 메모리와 비교했을 때 다음과 같은 몇 가지 주요한 차이점을 가지고 있는데, HBM의 장점과 단점에 대해서 간략하게 알아보자.

 

 

장 점

• GDDR5 및 GDDR5x 버전에 비해 전력 소비가 적다.
• 작은 형태 요소를 가지고 있으므로 GDDR 메모리에 비해 고밀도를 제공한다.
• GDDR5 메모리보다 높은 메모리 대역폭을 제공한다. (HBM: >100 GB/s, GDDR5: 최대 28 GB/s/칩).
• 더 높은 용량을 지원한다. (약 4GB 또는 8GB/스택).
• 열이 많이 발생하지 않는다.
• GPU 다이 근처에 배치할 수 있어 이로 인해 지연 시간이 줄어든다.
• 성능이 뛰어나다. HBM 메모리의 운영 속도는 1 Gbps 이다.

 

단 점

• 비용이 많이 든다.
• 그래픽 카드에서 널리 사용되지 않는다.

 

HBM은 다음과 같은 다양한 분야에서 사용된다.

1. 고성능 컴퓨팅 (HPC) : HBM은 고성능 컴퓨팅에 최적화되어 있는데, 이는 대용량 데이터를 빠르게 처리해야 하는 과학적 연구나 금융 모델링 등의 분야에서 중요하다.
2. 인공지능 (AI) : AI는 방대한 데이터를 학습하려면 데이터 처리와 저장 기능이 중요한데, HBM은 이러한 요구 사항을 충족시키기 위해 설계되었다.
3. 그래픽 처리장치 (GPU) : GPU는 게임이나 동영상 등 그래픽 연산에 특화된 프로세서로, AI 연산에도 활용되고, HBM은 GPU의 성능을 향상시키는 데 도움이 된다.
4. 서버 : 서버에서는 대용량의 데이터를 빠르게 처리하고 저장해야 하는데, HBM은 이러한 작업을 수행하는 데 필요한 고속 데이터 전송과 고대역폭을 제공한다.

 

 

＠ Comments..
 앞으로 AI 의 중요도와 활용도가 점점 높아짐에 따라 이를 운용하는 장비들의 개발도 비약적으로 발전하리라 생각된다. 이중 HBM의 성능이 무엇보다 많은 비중을 차지하지 않을까 한다. 삼성전자에서도 HBM 사업을 잠깐 망설(?)이다가 근래에 다시 본격적으로 시작한 것으로 알고 있다. 그만큼 HBM 분야가 핵심이 될 것이라는 전망이 우세하다. 네이버, 카카오, 구글, 마이크로소프트, 테슬라 등 세계 초일류 기업들이 너나없이 뛰어들고 있는 AI 분야! 이 분야의 핵심이 될 HBM의 성능이 어디까지 개발되는지 기대를 하며 지켜봐야겠다.