젠슨 황 “AI 발달로 컴퓨팅 능력 100배 더 필요해”

▲젠슨 황 엔비디아 CEO가 19일 새벽 열린 GTC 2025에서 자사의 기술을 설명하고 있다.

젠슨 황 엔비디아 NVIDIA CEO가 인간의 개입 없이 스스로 사고하고 결정하는 '에이전틱 AI(Agentic AI)' 시대가 본격적으로 열린다는 전망을 내놓았다.

이를 위해서 과거 대비 100배에 이르는 컴퓨팅 파워가 필요하며 새로운 AI 가속기와 운영 시스템, 운영체제 등이 필요하다는 분석이다.

블랙웰 울트라·다이너모 등 AI 컴퓨팅 능력 극대화

19일 새벽 엔비디아의 GTC(GPU Technology Conference) 키노트에서 CEO 젠슨 황(Jensen Huang)은 AI가 단순한 검색 도구에서 벗어나, 맥락을 이해하고 추론하며 행동하는 '에이전트(Agent)'로 진화하고 있다고 선언했다.

이러한 변화는 단순한 기술 발전을 넘어 컴퓨팅 산업의 근본적인 패러다임 전환을 의미한다.

젠슨 황은 “AI는 더 이상 정해진 데이터를 단순히 불러오는 역할에 머물지 않는다"며 “이제는 AI가 직접 데이터를 생성하고 활용하는 방식으로 변화하고 있다"고 강조했다.

AI가 이러한 방식으로 발전하기 위해서는 기존보다 최소 100배 이상의 연산량이 필요하며, 이는 데이터센터 인프라에 엄청난 부담을 줄 수밖에 없다.

이 문제를 해결하기 위해 엔비디아는 새로운 AI 가속기 '블랙웰(Blackwell) 아키텍처'를 공개했다.

블랙웰 아키텍처는 이전 세대 대비 최대 25배 높은 연산 성능을 제공하며, 이를 통해 AI 모델의 학습과 추론 속도를 획기적으로 향상시킬 수 있도록 설계됐다.

젠슨 황 CEO는 블랙웰 GPU 아키텍처의 로드맵을 공개하면서, '블랙웰 울트라(Blackwell Ultra)가 2026년 하반기에 출시될 예정이라고 밝혔다. 블랙웰 울트라는 기존 블랙웰의 성능을 더욱 향상시킨 버전으로, 베라 루빈(Vera Rubin) 아키텍처가 출시되기 전까지 최고 성능을 제공하는 GPU가 될 예정이다.

늘어나는 AI 연산 수요를 감당하기 위해 필요한 새로운 운영체계도 제안했다.

AI가 보다 정밀한 답변을 생성하고 복잡한 문제를 해결하기 위해서는 기존보다 훨씬 많은 연산을 수행해야 하는데 이를 위해 데이터센터의 운영체계에 변화가 필요하다는 주장이다.

이를 해결하기 위해 엔비디아는 AI 운영체제 '다이너모(Dynamo)'를 도입하자는 주장을 펼쳤다.

다이너모는 AI가 학습하고 실행하는 과정에서 연산 효율을 극대화하는 역할을 한다.

젠슨 황은 “이제 데이터센터는 단순한 저장 공간이 아니라, AI가 직접 데이터를 생성하고 처리하는 'AI 공장(AI Factory)'으로 변화하고 있다"고 강조했다.

즉, 기존 데이터센터는 미리 준비된 정보를 저장하고 필요할 때 불러오는 방식이었지만, AI 팩토리는 실시간으로 데이터를 분석하고 새로운 정보를 만들어내는 공간이 된다는 의미다.

AI 발전속도, 너무 빨라서 문제

그러나 이러한 변화가 AI 산업 전반에 긍정적인 영향만을 미칠 것이라고 보기는 어렵다.

AI 모델이 점점 커지고 복잡해지면서 이를 운영하는 데 드는 연산 비용 또한 기하급수적으로 증가하고 있기 때문이다.

젠슨 황 역시 “지난해 AI 모델을 운영하기 위해 예상했던 연산량보다 실제 필요했던 연산량이 100배 이상 많았다"고 밝혔다.

즉, AI의 발전 속도는 예상보다 훨씬 빠르지만, 이를 뒷받침할 수 있는 데이터센터 인프라는 한계에 다다르고 있다.

결국, AI 모델을 운영하는 기업들은 더 많은 데이터센터를 구축하거나, 기존 인프라를 효율적으로 사용할 수 있는 새로운 방법을 찾아야 하는 상황이다.