지난 글에서는 GPU가 아무리 빠르게 계산하더라도 데이터가 늦게 도착하면 성능을 제대로 발휘할 수 없다는 사실을 살펴봤습니다. 이러한 메모리 병목 문제를 줄이기 위해 등장한 기술이 바로 HBM, 고대역폭 메모리입니다. 그런데 여기서 한 가지 의문이 생깁니다. 컴퓨터에는 이미 DDR 메모리가 들어가고, 그래픽카드에는 GDDR 메모리가 사용됩니다. 그렇다면 굳이 구조가 복잡하고 가격도 비싼 HBM이 필요한 이유는 무엇일까요? HBM, DDR, … 더 읽기
지난 글에서는 AI가 CPU보다 GPU를 주로 사용하는 이유를 살펴봤습니다. GPU는 수많은 계산을 동시에 처리하는 병렬 연산에 강합니다. 덕분에 ChatGPT와 이미지 생성 AI처럼 대규모 계산이 필요한 인공지능도 빠르게 학습하고 답변을 만들 수 있습니다. 그렇다면 강력한 GPU를 많이 설치하기만 하면 AI 성능은 계속 높아질까요? 생각처럼 단순하지는 않습니다. GPU가 아무리 빠르게 계산할 수 있어도, 계산에 필요한 데이터가 늦게 … 더 읽기
지난 글에서는 ChatGPT와 자율주행을 가능하게 만든 핵심 기술인 AI 반도체에 대해 살펴봤습니다. 그런데 여기서 한 가지 의문이 생깁니다. 일반 컴퓨터에도 이미 CPU라는 뛰어난 반도체가 들어 있는데, AI 기업들은 왜 비싼 GPU를 수천 개씩 구매하는 것일까요? CPU도 계산을 하고 GPU도 계산을 합니다. 겉으로 보면 비슷한 역할처럼 느껴지지만, 실제로는 계산을 처리하는 방식에서 큰 차이가 있습니다. 이 차이를 … 더 읽기
“AI가 세상을 바꿨다”는 말은 맞습니다. 하지만 더 중요한 이야기가 있습니다. 2022년 말, ChatGPT가 처음 공개됐을 때 많은 사람들이 충격을 받았습니다. “이제 AI가 사람처럼 글을 쓰네?”“숙제를 대신해 주잖아.”“코드도 만들고 번역도 해주네?” 불과 몇 달 사이에 AI는 학생부터 직장인, 개발자, 기업까지 모두가 사용하는 기술이 되었습니다. 하지만 대부분의 사람들은 결과만 봤습니다. ChatGPT가 얼마나 똑똑한지, AI가 얼마나 빠르게 발전하는지만 … 더 읽기