01 / STORY / 공격과 연결
스파이크를 기다리는 순간
배구에서는 강력한 스파이크를 꽂는 공격수에게 시선이 쏠립니다. 하지만 공격수가 아무리 높이 뛰어도, 때맞춰 공이 올라오지 않으면 득점으로 연결하기 어렵습니다.
배구 애니메이션 《하이큐!!》에서 히나타 쇼요와 카게야마 토비오의 조합을 떠올려보세요. 뛰어난 운동능력을 가진 히나타와 공을 연결하는 세터 카게야마의 호흡은 이야기의 중요한 축입니다.
작품을 모르더라도 원리는 간단합니다. 공격하는 능력과 공격할 기회를 연결하는 능력이 함께 있어야 팀이 강해집니다.
AI 반도체에서도 비슷한 질문을 던질 수 있습니다. “계산을 엄청나게 잘하는 반도체를 만들었는데, 계산할 데이터가 제때 도착하지 않는다면?” 오늘 살펴볼 마이크론은 바로 이 질문과 연결된 기업입니다.
02 / MARKET / 오늘의 질문
엔비디아보다 더 오른 주식이 있었다
미국 현지 시간 9월 17일, 엔비디아 주가는 2.54% 상승했습니다. 같은 날 메모리 반도체 기업 마이크론은 5.50% 상승했습니다.
이날 보도에서는 젠슨 황 엔비디아 최고경영자의 내년 칩 판매량 확대 전망과 함께, 유가와 국채금리 하락이 증시 반등의 배경으로 언급됐습니다.
다만 마이크론의 상승을 하나의 발언만으로 설명할 수는 없습니다. 하루의 주가에는 산업 전망뿐 아니라 시장 분위기와 기존 기대, 투자자들의 매매가 함께 반영됩니다.
이날 상승률이 더 높았다는 사실과 앞으로 더 좋은 투자라는 판단도 구분해야 합니다. 그럼에도 이번 움직임은 흥미로운 질문을 남깁니다. “AI의 대표 기업은 엔비디아인데, 시장은 왜 메모리 회사에도 주목할까?”
엔비디아 2.54%, 마이크론 5.50%의 상승률을 같은 축으로 비교한 막대그래프로 핵심 관계를 살펴보겠습니다.
03 / SYSTEM / 전체 구조
마이크론은 무엇을 만드는 회사일까?
마이크론은 메모리와 저장장치를 만드는 미국 반도체 기업입니다. AI 시대에는 특히 HBM, 서버용 DRAM, 데이터센터용 SSD를 함께 살펴볼 필요가 있습니다.
GPU는 AI에 필요한 계산을 대량으로 처리합니다. HBM은 GPU 가까이에서 많은 데이터를 빠르게 주고받고, 서버용 DRAM은 서버가 작업 중인 데이터를 담아둡니다. SSD는 모델과 데이터 등을 저장하고 필요할 때 꺼냅니다.
HBM은 DRAM의 한 종류입니다. 다만 많은 데이터를 빠르게 전달하도록 설계됐다는 점에서 일반적인 서버 메모리와 쓰임새가 다릅니다.
마이크론을 이해할 때는 “엔비디아에 들어가는 부품 회사”라는 한 문장보다, AI가 데이터를 저장하고 꺼내고 계산하는 여러 단계에 참여하는 기업이라고 보는 편이 정확합니다.
서버 DRAM과 CPU, GPU 옆 HBM, SSD의 역할을 나눠 표시한 AI 서버 개념도로 핵심 관계를 살펴보겠습니다.
04 / FLOW / 데이터의 흐름
AI는 계산만 잘하면 되는 게 아니다
AI가 답변을 만들려면 계산에 필요한 정보를 계속 읽고 처리해야 합니다. 이때 계산 장치의 속도와 데이터를 전달하는 속도가 맞지 않으면 기다리는 시간이 생길 수 있습니다. 이런 제한을 병목이라고 부릅니다.
《하이큐!!》의 비유로 돌아가 보겠습니다. 공격수의 점프와 스윙이 빨라졌다고 해서 모든 공격이 빨라지지는 않습니다. 공이 늦게 연결되면 공격수의 능력을 충분히 활용하기 어렵습니다.
GPU와 메모리의 관계도 이처럼 한쪽의 성능만으로 전체 성능이 결정되지 않는다는 관점에서 이해할 수 있습니다.
물론 메모리가 세터처럼 상황을 판단한다는 뜻은 아닙니다. 실제 메모리는 데이터를 저장하고 전달하는 반도체입니다. 이 비유가 설명하는 것은 판단력이 아니라 연결 속도가 전체 성능을 제한할 수 있다는 점입니다.
데이터 공급량에 따라 GPU에 대기가 생기는 상황을 비교한 개념도로 핵심 관계를 살펴보겠습니다.
05 / ZOOM / 핵심 개념
메모리는 ‘얼마나 많이’와 ‘얼마나 빨리’를 함께 봐야 한다
메모리를 설명할 때는 용량과 대역폭을 구분해야 합니다. 용량은 얼마나 많은 데이터를 담을 수 있는지, 대역폭은 일정 시간에 얼마나 많은 데이터를 주고받을 수 있는지를 뜻합니다.
큰 창고가 있어도 출입문이 좁으면 물건을 빠르게 꺼내기 어렵습니다. 반대로 출입문이 넓어도 창고가 너무 작으면 필요한 물건을 충분히 보관할 수 없습니다.