2025년 4월 현재, AI칩 시장은 그 어느 때보다 치열한 경쟁 속에 있습니다. 엔비디아는 여전히 시장의 강자로 군림하고 있지만, 구글과 AMD의 추격 또한 눈에 띄게 가속화되고 있습니다. 특히 생성형 AI와 엣지 컴퓨팅 수요의 확대로 인해 전통적인 GPU 중심 생태계에서 벗어난 다양한 구조와 전략이 등장하며, 세 기업 간의 경쟁 구도는 더욱 복잡해지고 있습니다.
엔비디아: 블랙웰(B100)로 또 한 번의 판 흔들기
2025년 3월 GTC에서 공개된 블랙웰(B100)은 엔비디아의 AI칩 시장 지배력을 다시 한 번 강화하는 계기가 되었습니다. 블랙웰은 기존 H100보다 최대 3배 이상 높은 AI 연산 성능을 제공하며, 특히 생성형 AI 작업에서 전력 효율과 처리 속도 측면에서 탁월한 성능을 입증했습니다. 구글, 마이크로소프트, 메타 등 글로벌 빅테크들이 블랙웰 기반 슈퍼컴퓨터 도입을 선언하면서, 데이터센터 시장에서의 입지도 더욱 견고해지고 있습니다. 또한, 엔비디아는 소프트웨어 생태계 강화에도 공을 들이고 있습니다. CUDA 플랫폼은 여전히 업계 표준으로 자리잡고 있으며, 최신 AI 프레임워크와의 호환성도 뛰어납니다. 최근에는 오픈소스 커뮤니티와의 연계를 강화해, 폐쇄 생태계라는 비판을 일정 부분 해소하려는 시도도 이어지고 있습니다. 하지만 한편으로는 가격 인상과 칩 수급 문제가 여전히 업계의 불만 요인입니다. 블랙웰의 수요는 폭증하고 있지만 TSMC 등 파운드리 용량 문제로 인해 공급 부족 현상이 지속되고 있습니다. 이 틈을 타서 구글과 AMD가 시장 점유율 확대를 노리고 있는 상황입니다.
구글: TPU v5e와 ASIC 최적화 전략
구글은 2024년 하반기에 공개한 TPU v5e를 통해, 자체 AI 인프라의 연산 효율을 대폭 향상시켰습니다. TPU v5e는 구글 클라우드에서 사용되는 특수 목적형 ASIC으로, 특히 LLM(대규모 언어 모델) 추론 작업에 최적화되어 있습니다. 기존 GPU보다 50% 이상 낮은 에너지 소비, 동일한 수준의 성능 제공이라는 점에서 ESG와 비용 최적화를 중시하는 기업 고객들에게 매력적인 선택지로 자리 잡고 있습니다. 2025년 들어 구글은 Gemini 2 기반 서비스에 TPU를 대거 투입하면서, AI 서비스에서 하드웨어까지 완전히 통합된 수직계열 전략을 강화하고 있습니다. 이를 통해 GPU 의존도를 낮추고, 엔비디아의 독점 구조에 일정 수준 균열을 가하고 있습니다. 하지만 TPU는 여전히 구글 클라우드에서만 사용 가능하며, 범용성에서는 GPU 대비 제한적입니다. 구글의 전략은 '자체 생태계 내 최적화'에 집중되어 있기 때문에, 범산업적 AI칩 표준으로 자리잡기에는 한계가 있다는 지적도 존재합니다. 그럼에도 불구하고 구글은 RISC-V 기반 AI칩 개발에도 투자 중이며, 향후 엣지 디바이스용 칩 출시 가능성도 제기되고 있습니다.
AMD: MI300X와 MI325X로 AI시장 본격 진입
2024년 말부터 출시된 AMD MI300X는 엔비디아 H100을 정조준한 제품으로, AI 트레이닝 및 추론에서 경쟁력을 크게 높였습니다. 특히 192GB HBM 메모리를 탑재한 MI300X는 대형 AI 모델 구동에 최적화되어 있으며, 마이크로소프트 애저와 오라클 클라우드에 실제 도입되며 실전에서 성능을 입증하고 있습니다. 2025년 2월 발표된 MI325X는 HBM 메모리 대역폭과 연산 성능을 추가로 개선한 모델로, 본격적인 AI 인프라 구축을 원하는 대기업 고객들을 겨냥하고 있습니다. ROCm 오픈소스 생태계도 점차 성숙해져, PyTorch, TensorFlow 등 주요 프레임워크와의 호환성 문제가 크게 줄어들었습니다. 또한, AMD는 에너지 효율 중심의 APU 전략도 병행하고 있습니다. CPU와 GPU를 하나의 칩에 통합한 구조로, 전력 소모를 최소화하면서도 실시간 AI 추론을 가능케 하는 기술이 빠르게 발전 중입니다. 이는 클라우드뿐 아니라 엣지 디바이스, 산업용 AI 등으로의 시장 확대를 위한 기반이 되고 있습니다. 물론, 여전히 CUDA와 같은 강력한 툴체인 부재가 약점으로 지적되지만, 가격 경쟁력과 오픈소스 기반의 유연성은 AMD의 차별화 요소로 작용하고 있습니다. 특히 중소기업이나 스타트업을 중심으로 AMD 채택이 점차 늘어나는 추세입니다.
결론
2025년 현재 AI칩 시장은 엔비디아, 구글, AMD 3강 체제로 본격적인 경쟁 구도에 돌입했습니다. 엔비디아는 블랙웰(B100)로 여전히 강력한 독주를 이어가고 있지만, 구글은 수직계열화 전략으로, AMD는 가격 및 오픈 생태계를 무기로 점유율을 빠르게 끌어올리고 있습니다. 생성형 AI, 엣지 컴퓨팅, 고성능 서버 등 다양한 수요처의 등장은 하나의 칩만으로 시장을 지배하던 시대의 종말을 예고합니다. 앞으로 AI칩 선택 기준은 단순한 연산 성능을 넘어서, 생태계 호환성, 비용, 전력 효율성, 유지보수까지 총체적인 판단이 요구될 것입니다. 이제 진짜 경쟁은 시작입니다.