AMD의 GPU 추격, 엔비디아 벽은 어디에 있나

01추격전의 승부처는 칩 한 장에서 랙 전체로 옮겨갔다

AMD가 엔비디아를 따라잡으려면 빠른 GPU만 만드는 것으로는 부족하다. AI 데이터센터의 구매 단위가 개별 가속기에서 수십 개의 GPU와 네트워크를 묶은 랙 단위 시스템으로 커졌기 때문이다. 대규모 모델을 학습할 때는 GPU 한 개의 연산 능력보다 GPU 사이에서 데이터를 얼마나 빠르고 안정적으로 주고받는지가 전체 처리 시간을 좌우한다. 칩이 빨라도 통신 병목이 생기면 비싼 장비가 대기 상태로 남는다.

AMD는 MI300X 이후 MI325X와 MI350 계열을 빠르게 이어 내놓으며 연간 제품 출시 주기를 정착시키려 한다. 공개 로드맵상 다음 단계는 MI400 계열과 이를 기반으로 한 Helios 랙 시스템이다. 엔비디아가 Blackwell과 차세대 Rubin을 중심으로 CPU, GPU, 인터커넥트가 결합된 플랫폼을 파는 만큼 AMD도 칩 공급자에 머물 수 없다는 판단이 깔려 있다.

엔비디아는 이미 NVLink와 NVSwitch를 통해 GPU 간 통신 구조를 제품 안에 깊게 통합했다. 네트워크 장비와 소프트웨어까지 한 회사가 조정하므로 장애 원인을 추적하기 쉽고, 새 모델을 설치하는 시간도 줄어든다. AMD는 개방형 인터커넥트와 파트너 생태계를 선택하지만, 개방성이 곧바로 운영 편의성을 보장하지는 않는다. 부품 공급자가 늘수록 고객이 직접 검증해야 할 조합도 늘어난다.

따라서 AMD의 추격 속도는 벤치마크 1위 횟수보다 완성형 랙을 제때 공급하고 안정적으로 가동한 사례에서 드러난다. 시장의 평가 기준도 신제품 발표 자료에서 실제 클러스터 가동률과 후속 주문으로 이동한다.

02대용량 메모리는 AMD가 만든 가장 현실적인 진입로다

AMD가 가장 선명하게 차별화한 지점은 HBM 용량이다. 생성형 AI 추론에서는 모델 가중치와 긴 문맥 데이터를 메모리에 올려두는 능력이 처리량과 비용을 크게 바꾼다. GPU 메모리가 부족하면 모델을 여러 장에 나누거나 데이터를 반복해서 옮겨야 한다. 이 과정에서 통신 비용이 늘고 시스템 설계도 복잡해진다.

MI300X는 GPU당 192GB의 HBM3를 탑재하며 당시 엔비디아 H100 계열보다 큰 메모리를 전면에 내세웠다. MI325X는 최대 256GB, MI350 계열의 고성능 제품은 최대 288GB 수준으로 용량을 높였다. 단순한 숫자 경쟁처럼 보이지만, 대형 언어 모델을 적은 수의 GPU에 담을 수 있다면 서버 수와 네트워크 트래픽이 함께 줄어든다. 특정 추론 작업에서는 최고 연산 성능보다 이 절감 효과가 더 크게 나타날 수 있다.

메모리 우위가 모든 작업에서 통하는 것은 아니다. 모델이 이미 작은 단위로 최적화됐거나 연산 밀도가 높은 학습 작업이라면 소프트웨어 효율과 GPU 간 통신이 더 강한 변수가 된다. HBM 용량이 커도 데이터가 연산 장치로 이동하는 경로가 막히면 실제 처리량은 제품 사양에 미치지 못한다.

AMD는 이 틈을 공급선 다변화 수요와 연결한다. 대형 클라우드 사업자는 엔비디아 의존도가 지나치게 높아지면 가격 협상력과 제품 도입 일정이 공급자 한 곳에 묶인다. AMD 가속기를 일부 워크로드에 투입하면 조달 위험을 낮추고 엔비디아와의 협상에서도 선택지를 확보한다. AMD가 엔비디아를 완전히 대체하지 않아도 의미 있는 매출을 얻을 수 있는 이유다.

이 전략이 성공하면 AMD의 첫 승리는 시장 1위 탈환이 아니라 특정 추론 작업의 표준 대안이 되는 형태로 나타난다. 대용량 메모리가 실제 서버 수를 줄였다는 고객 사례가 쌓일수록 가격 경쟁이 아닌 총비용 경쟁으로 판이 바뀐다.

03ROCm은 실험 단계를 벗어났지만 CUDA와의 거리는 남아 있다

AMD의 소프트웨어는 더 이상 연구용 대안에만 머물지 않는다. ROCm은 주요 AI 프레임워크와 모델 라이브러리를 지원하며, 널리 쓰이는 대형 언어 모델을 MI300 계열에서 구동할 수 있는 수준까지 올라왔다. 클라우드 사업자와 서버 제조사가 검증된 소프트웨어 이미지를 제공하면서 초기 설치 과정도 과거보다 짧아졌다.

하지만 실행 가능하다는 사실과 운영이 쉽다는 평가는 다르다. 실제 고객은 모델 하나를 한 번 돌리는 데서 끝나지 않는다. 새 버전의 프레임워크가 배포될 때 성능이 유지되는지, 특정 연산에서 오류가 발생하지 않는지, 장애가 났을 때 원인을 빠르게 찾을 수 있는지를 확인한다. 이 반복 작업에서 개발 도구의 완성도와 문서의 깊이가 비용을 가른다.

CUDA는 오랜 기간 축적된 라이브러리와 개발자 경험을 통해 사실상의 표준이 됐다. 연구자가 공개한 코드는 대체로 엔비디아 환경에서 먼저 검증되고, 기업 내부 도구도 CUDA를 전제로 작성된 경우가 많다. AMD로 옮길 때 코드 수정이 크지 않더라도 재검증에 인력과 시간이 들어간다. 하드웨어 가격 차이가 작으면 고객은 이 전환 비용을 감수하지 않는다.

AMD가 파고들기 쉬운 곳은 처음부터 새로 구축하는 추론 서비스다. 기존 CUDA 코드가 적고 사용 모델이 명확하면 고객은 하드웨어별 성능과 비용을 직접 비교할 수 있다. 반대로 수년간 CUDA에 맞춰 최적화한 학습 플랫폼은 전환 속도가 느리다. 같은 고객 안에서도 추론용 AMD와 학습용 엔비디아가 공존할 가능성이 높은 배경이다.

ROCm의 성패는 지원 모델 개수보다 새 모델이 공개된 뒤 안정적인 최적화 버전이 나오는 시간으로 측정해야 한다. 이 간격이 짧아지면 AMD는 가격을 크게 낮추지 않고도 주문을 얻지만, 간격이 다시 벌어지면 하드웨어 사양의 장점이 할인 요구로 되돌아온다.

04엔비디아의 해자는 GPU 성능보다 설치된 생태계에서 깊어진다

엔비디아의 방어력은 시장점유율 그 자체보다 이미 설치된 시스템의 자기 강화 구조에서 나온다. 고객이 엔비디아 GPU를 많이 살수록 개발자는 CUDA에 더 많은 시간을 투자하고, 소프트웨어가 풍부해질수록 다음 하드웨어 구매도 엔비디아로 기운다. 이 구조는 경쟁 제품의 성능이 비슷해져도 쉽게 무너지지 않는다.

Blackwell 세대에서 엔비디아는 개별 GPU보다 GB200 NVL72 같은 랙 시스템을 전면에 내세웠다. GPU와 Grace CPU를 고속 인터커넥트로 연결하고 전력과 냉각까지 하나의 설계로 묶는다. 고객은 높은 가격을 지불하는 대신 검증 부담과 구축 시간을 줄인다. AI 서비스 출시가 몇 달 늦어질 때 발생하는 기회비용이 하드웨어 가격 차이보다 크다면 이 선택은 경제적이다.

네트워킹도 격차를 벌리는 축이다. 대규모 학습에서는 수천 개의 GPU가 동시에 데이터를 교환하므로 네트워크 혼잡과 지연이 작업 완료 시간을 흔든다. 엔비디아는 InfiniBand와 Spectrum-X 이더넷을 모두 보유해 GPU 스케줄링과 네트워크를 함께 최적화한다. AMD는 UALink 같은 개방형 표준과 외부 네트워크 파트너를 활용하지만, 아직 대규모 상용 배치 경험에서는 엔비디아가 앞선다.

엔비디아의 우위도 비용 없이 유지되지는 않는다. 고밀도 랙은 막대한 전력을 요구하고 액체 냉각 설비를 전제로 한다. 데이터센터의 전력 인입이 늦거나 기존 건물의 냉각 능력이 부족하면 최신 시스템을 주문해도 설치하지 못한다. 이 경우 고객은 성능이 조금 낮더라도 기존 시설에 맞는 구성을 선택할 수 있다.

AMD가 바꿔야 할 것은 엔비디아보다 몇 퍼센트 빠르다는 인식이 아니다. 도입 실패 위험이 충분히 낮다는 신뢰를 만들어야 한다. 대형 고객이 AMD 랙을 수백 대 단위로 운영하고 다시 주문하는 순간부터 엔비디아 생태계의 전환 장벽이 처음으로 가격표에 잡히기 시작한다.

05고객의 총비용 계산이 맞아야 AMD 매출이 반복된다

AMD의 판매 기회는 GPU 가격이 싸다는 사실만으로 만들어지지 않는다. 고객은 장비 구매비보다 전력, 운영 인력, 실제 처리량을 합친 총소유비용을 본다. 저렴한 GPU가 소프트웨어 문제로 자주 멈추거나 더 많은 서버를 요구하면 전체 비용은 오히려 높아진다.

추론 시장에서는 이 계산이 AMD에 유리하게 작동할 여지가 있다. 모델이 안정화된 뒤 동일한 요청을 대량 처리하는 서비스는 워크로드가 비교적 예측 가능하다. 고객은 해당 모델에 맞춰 ROCm과 커널을 한 번 최적화한 뒤 장기간 사용할 수 있다. 대용량 HBM으로 GPU 수를 줄이고 높은 가동률을 유지한다면 엔비디아 대비 낮은 토큰당 비용을 만들 수 있다.

학습 시장은 조건이 더 까다롭다. 모델 구조가 자주 바뀌고 새 연산 방식이 도입되므로 소프트웨어 유연성이 필요하다. 연구자가 기다리지 않고 새 아이디어를 시험할 수 있어야 값비싼 GPU를 계속 가동할 수 있다. 엔비디아의 라이브러리와 개발 도구가 강한 이유도 이 실험 속도를 높여주기 때문이다.

고객 구성도 AMD의 수익성을 바꾼다. 소수 초대형 클라우드 사업자에 매출이 집중되면 출하량은 빠르게 늘어도 가격 협상력이 약해진다. 이들은 자체 가속기도 함께 개발하므로 AMD를 장기 표준이 아닌 협상 카드로 사용할 수 있다. 기업 고객과 중형 클라우드까지 구매층이 넓어져야 주문 변동성이 낮아진다.

투자자가 확인할 지표는 최초 공급 계약의 규모보다 같은 고객의 증설 주문이다. 재주문은 성능뿐 아니라 설치와 운영, 내부 개발자 만족도까지 통과했다는 신호다. 반복 주문이 늘면 AMD는 할인 폭을 줄이고 데이터센터 GPU 매출을 더 높은 마진으로 연결할 수 있다.

06빠른 로드맵이 곧 점유율 상승을 보장하지는 않는다

AMD의 가장 큰 위험은 제품 발표 속도와 실제 공급 속도가 다를 수 있다는 점이다. 첨단 GPU는 파운드리 생산만 확보한다고 완성되지 않는다. HBM과 고급 패키징 공정이 함께 준비돼야 하며, 어느 한쪽이 늦어져도 출하 시점이 밀린다. 엔비디아와 같은 공급망을 상당 부분 공유하므로 시장 수요가 급증할수록 후발 업체가 더 불리한 조건을 받을 가능성도 있다.

연간 신제품 주기는 고객에게 선택지를 주지만 기존 제품의 판매 기간을 줄인다. MI325X를 도입하려던 고객이 곧 나올 MI350 계열을 기다리면 주문 공백이 생긴다. 반대로 새 제품 출시가 지연되면 AMD는 이전 세대 제품을 더 오래 팔아야 하고 가격 인하 압력도 커진다. 로드맵이 촘촘할수록 실행 오차가 실적에 미치는 영향이 커진다.

엔비디아가 가격을 조정할 가능성도 무시하기 어렵다. 높은 마진은 경쟁 제품이 진입할 때 선택적으로 가격을 낮출 여지를 제공한다. 엔비디아는 하드웨어 가격을 크게 내리지 않더라도 네트워크 장비와 소프트웨어 지원을 묶어 전체 계약 조건을 바꿀 수 있다. AMD가 가격만으로 접근하면 매출을 얻고도 충분한 이익을 남기지 못할 수 있다.

미국의 대중국 수출 규제는 별도의 변수다. AMD는 규제 요건에 맞춘 제품을 설계해 중국 시장을 겨냥해 왔지만, 기준이 강화되면 이미 준비한 재고와 공급 계획을 수정해야 한다. 중국 매출 감소는 단순한 지역 매출 손실에 그치지 않는다. 특정 사양 제품의 재배치와 재고 평가 부담을 통해 마진까지 흔든다.

이 반대 시나리오에서는 AI 가속기 시장이 크게 성장해도 AMD의 수익이 기대만큼 늘지 않는다. 공급이 늦고 판매 가격이 내려가며 고객 전환도 지연되면 높은 연구개발비만 먼저 반영된다. 시장 성장률을 AMD의 이익 성장률로 곧바로 대입해서는 안 되는 이유다.

07주가는 시장 규모보다 점유율의 질을 먼저 묻는다

AMD의 가치는 AI 가속기 시장이 커진다는 사실보다 그 시장에서 얼마의 매출총이익을 확보하느냐에 달려 있다. AMD는 데이터센터 GPU만 파는 회사가 아니다. EPYC 서버 CPU와 PC용 프로세서, 게임용 반도체의 업황이 함께 실적에 반영된다. AI GPU 매출이 늘어도 다른 사업이 약하면 전사 이익 증가 속도는 기대보다 느릴 수 있다.

엔비디아와 AMD의 밸류에이션을 단순 주가수익비율로 비교하기 어려운 이유도 여기에 있다. 엔비디아의 실적은 AI 데이터센터 지출과 직접 연결되지만 AMD는 사업 구성이 더 복합적이다. AMD의 이익 추정치에는 Instinct 매출 증가뿐 아니라 초기 제품의 생산 비용, 고객 확보를 위한 가격 조건, 소프트웨어 투자비가 함께 들어간다. 작은 마진 가정 변화가 예상 주당순이익을 크게 바꿀 수 있다.

AMD는 2024년 Instinct 제품 매출이 50억 달러를 넘었다고 밝혔다. 엔비디아 데이터센터 사업과 비교하면 아직 큰 격차가 있지만, AMD의 기존 사업 규모를 기준으로 보면 무시하기 어려운 출발점이다. 다만 엔비디아의 데이터센터 매출에는 GPU 외 제품도 포함되므로 두 숫자를 같은 기준의 점유율로 해석하면 안 된다.

향후 실적에서 볼 항목은 데이터센터 부문 매출 증가보다 마진의 방향이다. 매출이 빠르게 늘면서 전사 매출총이익률도 개선되면 Instinct가 할인 판매를 넘어 수익성 있는 사업으로 자리 잡는다는 뜻이다. 매출은 늘지만 마진이 정체되면 공급 비용이나 고객 협상력이 예상보다 불리하다는 신호가 된다.

AMD의 투자 논리는 엔비디아를 완전히 따라잡는 데 기대지 않아도 성립할 수 있다. 커지는 시장에서 두 번째 공급자로 자리 잡고, 반복 주문과 소프트웨어 개선을 통해 수익성을 높이면 충분하다. 반대로 높은 주가 기대를 정당화하려면 제품 발표보다 재주문, 가동률, 마진에서 그 경로가 숫자로 확인돼야 한다.