▲나승주 인텔 코리아 DCAI 카테고리 영업 상무는 인공 지능(AI) 가속기 '가우디 3'와 제온 6 P-코어 프로세서를 소개하는 모습. 사진=박규빈 기자
인텔이 차세대 AI 솔루션인 인공지능(AI) 가속기 '가우디 3'와 제온 6 P-코어 프로세서를 출시하고 AI 칩 선두 주자 엔비디아에 도전장을 던졌다. 이번 신제품 출시가 인텔이 AI 인프라 시장에서의 경쟁력 확보에 결정적인 계기가 될지 귀추가 주목된다.
26일 인텔은 서울 영등포구 여의도동 FKI 타워 컨벤션 센터에서 데이터 센터 신제품 발표 기자 간담회를 열고 '가우디 3'와 제온 6 P-코어 프로세서를 소개했다.
가우디 3는 64개의 텐서 프로세서 코어와 8개의 행렬 곱셈 엔진을 통해 심층 신경망 연산을 가속화하고, 학습·추론 작업을 위한 128GB의 HBM2e 메모리와 확장 가능한 24개의 200Gb 이더넷 포트를 갖추고 있다.
이 자리에서 나승주 인텔 코리아 DCAI 카테고리 영업 상무는 “라마(LLaMa) 2 70B1의 추론 성능에서 가우디 3는 엔비디아 H100 대비 최대 20% 높은 성능과 가격 경쟁력을 갖췄다"고 설명했다.
앞서 인텔은 IBM 클라우드에서 가우디 3를 서비스 방식으로 배포한다고 발표한 바 있다. 이와 관련, 델 테크놀로지스·슈퍼마이크로 등 OEM 파트너와 협력해 고객 요구에 입각한 AI 배포 시스템을 공동 설계 중이다.
또 타이버 개발자 클라우드로는 가우디 3에 대한 조기 접근 권한을 제공하는 등 AI 인프라 시장 내 경쟁력을 강화하고, 개선된 성능과 비용 효율성을 제공한다는 방침이다.
하지만 인텔은 AI 가속기 분야에서의 존재감이 미미한 상황이다. 엔비디아는 데이터 센터 GPU 시장의 98%를 장악하고 있는 상태로 이미 '블랙웰'을 내놨다. 블랙웰 시리즈는 H200보다 고성능 제품으로 B200은 AI 연산 능력이 가우디 시리즈보다 좋다는 평가를 받는다. AMD도 MI300을 선보인 만큼 인텔은 타사의 차세대 제품들과 경쟁해야 하는 입장이다.
또 엔비디아의 쿠다(CUDA) 플랫폼이 AI·딥러닝 워크 로드의 표준으로 자리잡아 이에 대항할 수 있는 강력한 소프트웨어 생태계를 구축해야 한다는 분석이다. 아울러 대규모 고객 사용 사례에서 가우디 3의 성능이 엔비디아 H100을 능가한다는 점을 입증해야 시장 내 신뢰도가 쌓이고 구매로 이어질 것이라는 지적이 제기된다.
이에 나 상무는 “가우디 3는 특정 벤더에 종속되기를 거부하는 기업들에게 확실한 대체재가 될 것"이라고 강조했다.
개발 과정에서 네이버와 협력한 가우디 3 공급은 올해 안으로 이뤄질 예정이다.
▲인텔 측은 자사 6 P-코어 프로세서가 AMD EPYC 대비 AI 추론 영역에서 최대 5.5배, HPC 성능 면에서는 최대 2.1배 높은 AI 추론 성능을 낸다고 밝혔다. 자료=인텔 코리아 제공
한편 인텔 측에 따르면 제온 6 P-코어 프로세서는 이전 세대 대비 성능이 2배 이상 개선됐고, 코어 수가 증가했으며 메모리 대역폭도 2배 늘었다. 또한 모든 코어에 내장 AI 가속 기능이 탑재됐다. 에너지 효율성은 40~60% 가량 향상됐다.
이로써 경쟁사인 AMD의 EPYC 대비 최대 5.5배 강력한 AI 추론 성능을 내고, 고성능 PC(HPC) 분야에서는 2.1배 우수하다는 전언이다.
클라우드 분야 업계 탑 티어인 구글은 인텔과의 전략적 파트너십을 체결해 제온 6 채택을 시사했다.
앞서 인텔은 올해 6월 제온 6700E를, 이날엔 6900P를 출시했고 내년 1분기 중에는 6900E·6700P·6500P·6 시스템 온 칩(SoC)·6300P를 내놔 시장 점유율 확대에 나선다는 방침이다.
;){kind=link}