oneclick 
지난 글에서는 HBM3E와 HBM4의 차이를 살펴봤습니다. HBM4는 입출력 통로를 1,024개에서 2,048개로 늘려 HBM3E보다 훨씬 많은 데이터를 동시에 전달할 수 있게 됐습니다. 하지만 HBM4의 변화는 데이터 통로가 넓어진 것에서 끝나지 않습니다. HBM 아래쪽에서 데이터와 신호의 흐름을 관리하는 베이스 다이도 크게 달라지고 있습니다. HBM4부터는 메모리 칩을 얼마나 잘 쌓는지만큼, 맨 아래의 베이스 다이를 어떻게 설계하는지가 중요해졌습니다. 그렇다면 … 더 읽기
지난 글에서는 HBM 수율이 무엇인지 살펴봤습니다. HBM은 여러 개의 얇은 DRAM을 쌓고 수많은 TSV로 연결해야 하므로, 성능이 높아질수록 제조 난이도도 함께 올라갑니다. 그런데 반도체 기업들은 어렵게 완성한 HBM3E에 머무르지 않고 벌써 다음 세대인 HBM4를 생산하고 있습니다. 여기서 한 가지 궁금증이 생깁니다. HBM4는 HBM3E보다 속도만 조금 빨라진 제품일까요? 결론부터 말하면 그렇지 않습니다. HBM4는 데이터가 이동하는 통로를 … 더 읽기
지난 글에서는 HBM이 만들어지는 과정을 살펴봤습니다. HBM은 여러 개의 얇은 DRAM 다이를 위로 쌓고, 실리콘을 관통하는 TSV로 각 층을 연결해 만듭니다. 각각의 칩이 정상적으로 작동해야 하고, 수많은 연결 지점도 정확하게 맞아야 합니다. 그렇다면 완성된 HBM 중 실제 제품으로 판매할 수 있는 비율은 얼마나 될까요? 반도체 기사에서는 이 문제를 설명할 때 수율이라는 단어를 사용합니다. 아무리 뛰어난 … 더 읽기
지난 글에서는 HBM과 DDR·GDDR의 차이를 살펴봤습니다. DDR은 일반 컴퓨터와 서버의 시스템 메모리로 사용되고, GDDR은 그래픽 처리에 적합하도록 발전했습니다. HBM은 여러 개의 DRAM 칩을 수직으로 쌓아 GPU에 많은 데이터를 동시에 전달합니다. 설명만 들으면 만드는 방법도 간단해 보입니다. 얇은 메모리 칩을 여러 장 만든 뒤 위로 차곡차곡 쌓으면 되는 것 아닐까요? 하지만 실제 제조 과정은 그렇게 단순하지 … 더 읽기
지난 글에서는 GPU가 아무리 빠르게 계산하더라도 데이터가 늦게 도착하면 성능을 제대로 발휘할 수 없다는 사실을 살펴봤습니다. 이러한 메모리 병목 문제를 줄이기 위해 등장한 기술이 바로 HBM, 고대역폭 메모리입니다. 그런데 여기서 한 가지 의문이 생깁니다. 컴퓨터에는 이미 DDR 메모리가 들어가고, 그래픽카드에는 GDDR 메모리가 사용됩니다. 그렇다면 굳이 구조가 복잡하고 가격도 비싼 HBM이 필요한 이유는 무엇일까요? HBM, DDR, … 더 읽기
지난 글에서는 AI가 CPU보다 GPU를 주로 사용하는 이유를 살펴봤습니다. GPU는 수많은 계산을 동시에 처리하는 병렬 연산에 강합니다. 덕분에 ChatGPT와 이미지 생성 AI처럼 대규모 계산이 필요한 인공지능도 빠르게 학습하고 답변을 만들 수 있습니다. 그렇다면 강력한 GPU를 많이 설치하기만 하면 AI 성능은 계속 높아질까요? 생각처럼 단순하지는 않습니다. GPU가 아무리 빠르게 계산할 수 있어도, 계산에 필요한 데이터가 늦게 … 더 읽기
지난 글에서는 ChatGPT와 자율주행을 가능하게 만든 핵심 기술인 AI 반도체에 대해 살펴봤습니다. 그런데 여기서 한 가지 의문이 생깁니다. 일반 컴퓨터에도 이미 CPU라는 뛰어난 반도체가 들어 있는데, AI 기업들은 왜 비싼 GPU를 수천 개씩 구매하는 것일까요? CPU도 계산을 하고 GPU도 계산을 합니다. 겉으로 보면 비슷한 역할처럼 느껴지지만, 실제로는 계산을 처리하는 방식에서 큰 차이가 있습니다. 이 차이를 … 더 읽기
“AI가 세상을 바꿨다”는 말은 맞습니다. 하지만 더 중요한 이야기가 있습니다. 2022년 말, ChatGPT가 처음 공개됐을 때 많은 사람들이 충격을 받았습니다. “이제 AI가 사람처럼 글을 쓰네?”“숙제를 대신해 주잖아.”“코드도 만들고 번역도 해주네?” 불과 몇 달 사이에 AI는 학생부터 직장인, 개발자, 기업까지 모두가 사용하는 기술이 되었습니다. 하지만 대부분의 사람들은 결과만 봤습니다. ChatGPT가 얼마나 똑똑한지, AI가 얼마나 빠르게 발전하는지만 … 더 읽기