▲엔비디아의 GPU(그래픽 처리 장치). 사진=연합외신
정부가 한국형 LLM(대규모 언어모델·Large Language Models) 개발을 목표로 야심찬 계획을 발표했지만 현실적인 난관이 예상된다.
실현가능성이 떨어진다는 업계의 지적이 잇따르고 있기 때문이다. 계획의 가장 핵심적인 GPU(Graphics Processing Unit) 확보를 위한 예산부터 현실과 동떨어진 숫자라는 지적이다.
1만8000개 GPU 확보 등 3단계 AI 역량 강화 방안 발표
22일 정부에 따르면 최근 열린 제3차 국가인공지능위원회에서 'AI 컴퓨팅 인프라 확충을 통한 국가 AI 역량 강화 방안'이 공개됐다.
계획은 3단계로 진행된다. 먼저 AI 커뮤팅을 위한 인프라를 확충하는 것이다. 이를 위해 내년 상반기까지 GPU 1만8000개를 확보하고 이를 통해 AI 연구와 모델 개발에 필요한 컴퓨팅 파워를 제공하겠다는 목표를 제시했다.
이어 이렇게 확보한 인프라를 통해 한국에 맞는 차세대 LLM을 개발하는 것이다. 각종 경진대회와 육성책을 통해 AI 인재를 발굴하고 이들에게 독자적인 AI모델 개발을 진행토록 하겠다는 계획이다.
이렇게 개발된 AI를 실제로 적용하는 단계가 다음이다. 교욱과 의료, 문화 ,법률 등의 분야에서 AI를 활용하자는 게 정부의 방안이다.
이 계획은 글로벌 AI 경쟁에서 뒤처지지 않기 위한 전략이다. 최근 중국의 AI 스타트업 딥시크가 적은 수의 GPU로도 효율적인 AI 모델 개발에 성공하며 주목받은 사례가 한국에도 경각심을 불러일으켰다.
▲이경우 국가인공지능위원회 지원단장과 과학기술정보통신부 등 부처 관계자들이 20일 정부서울청사에서 열린 3차 국가인공지능위원회 브리핑을 하고 있다. 사진=연합뉴스
예산 현실성 결여…GPU 확보량도 글로벌 수준과 큰 격차
그러나 전문가들은 이 같은 정부의 계획이 현실적으로 실현 가능성이 낮다고 지적한다.
GPU 확보 계획부터가 가장 큰 난관으로 꼽힌다. 정부는 7700억원의 예산으로 1만8000개의 GPU를 확보하겠다고 밝혔다.
하지만 엔비디아의 최신 AI용 GPU 칩인 H100은 한 개당 약 3만달러에 거래되고 있다. 1만8000개를 확보하려면 최소한 약 5억4000만 달러, 즉 한화로 약 7조원이 필요하다. 이는 정부가 책정한 예산을 크게 초과하는 금액이다. 정부의 7700억원으로는 2000개의 H100 확보가 고작일 것으로 예상된다.
최근 일론 머스크가 선보인 LLM인 Grok 3는 GPU 10만개를 활용해 학습한 모델이다. 정부의 계획은 예산적으로도, 목표 구매량으로도 이에 크게 미치지 못하고 있다.
해외의 경우 민간 기업을 중심으로 AI 인프라를 확충하고 있다. 중국의 경우 바이두(Baidu), 알리바바(Alibaba), 텐센트(Tencent) 등 중국의 주요 기술 기업들이 지난해 AI 관련 자본 지출로 총 1000억 위안(약 14조원)을 투자한 것으로 전했다.
미국의 경우 메타(Meta)와 마이크로스프트(Microsoft), 아마존(Amazon), 구글(Google)의 4대 기술 기업에서만 연내 AI 인프라에 총 3200억 달러(약 420조원)를 투자할 계획이다.
반도체 수급난에 지정학적 리스크 해결은 '어떻게'
글로벌 반도체 시장의 공급망 문제도 정부 계획의 실현 가능성을 낮추는 요인이다.
관련 업계에서는 H100 GPU의 공급 부족 현상이 2025년까지 지속될 것으로 예상하고 있다. 공급 대비 수요가 크게 높기 때문이다.
H100의 후속 모델인 H200이 지난해 3분기부터 출하돼 인도되기 시작했지만 여전히 H100의 주문도 적체된 상태다.
아마존, 구글, 메타, 마이크로소프트, 오라클 등 대형 기술 기업들이 이미 GPU에 대한 대규모 주문을 걸어 둔 상태다보니 한국 정부나 국내 업체의 주문과 실제 인도, 이후 설치와 가동까지는 상당한 시간이 필요할 것으로 분석된다.
▲정부의 국가 AI 역량 강화 방안과 업계 반응
최근에는 지정학적 요인도 반도체 수급에 중요한 변수다. 미중 무역 갈등과 기술 보호주의 강화 때문이다.
트럼프 행정부는 첨단 반도체 기술과 제품의 중국 수출을 제한하는 중이다. 이는 한국에도 간접적인 영향을 미칠 가능성이 크다. 미국의 규제가 강화되면서 한국 기업들이 필요한 기술이나 부품을 안정적으로 확보하기 어려워질 수 있다.
GPU를 확보하더라도 기술적 제약도 현실적인 문제로 떠오르고 있다. 국내 반도체 산업은 메모리 반도체 분야에서는 세계적인 경쟁력을 보유하고 있지만, 시스템 반도체나 AI 칩 분야에서는 여전히 글로벌 선두 기업들과 큰 격차가 있다.
팹리스(반도체 설계 전문) 산업의 경우, 세계 시장 점유율이 2%에도 미치지 못하는 상황이다. 이런 산업 구조적 한계는 한국형 LLM 개발에 필요한 핵심 기술과 자원을 확보하는 데 걸림돌이 될 가능성이 크다.
인프라·인력 부족한 현실…관련 기술 개발·수출이 대안
결국 업계 관계자들은 정부 계획의 실효성에 의문을 제기하고 있다.
정부는 AI 관련 인프라를 직접 국내에 구축해 LLM까지 만들기를 원하지만 실현가능성이 낮다는 지적이다.
대신 데이터 센터 관련 기술이나 에너지 저장 시스템, 무정전 전원 공급 장치, 액체 침지 냉각 등 AI 인프라와 관련된 기술 개발에도 투자해 세계로 수출할 수 있게 하는 것이 현실적이라는 지적이 나온다.
한 스타트업 관계자는 “정부가 GPU를 대량으로 확보한다고 해도 이를 효율적으로 활용할 수 있는 인프라와 인력이 뒷받침되지 않으면 실질적인 성과를 내기 어렵다"고 지적했다.
이어 “LLM 개발에는 단순히 하드웨어뿐 아니라 데이터 접근성, 알고리즘 설계 능력, 그리고 지속적인 연구개발 투자 등이 필수적인데 현재 국내 환경으로는 이러한 요소들을 충족하기 어려운 상황"이라며 “비현실적인 계획을 세워 허송세월한다면 AI 경쟁에서 크게 뒤쳐지게 될 것"이라고 꼬집었다.
;){kind=link}