[현장] 인텔 “세계 AI, 韓 칩 생태계 의존”

▲주영표 SK하이닉스 부사장이 12일 서울 강남구 코엑스에서 열린 '인텔 AI 서밋 서울 2026'에서 발표하고 있다. 사진=김하나 기자

“집집마다 차를 두세 대씩 갖고 있는 게 효율적일까요, 아니면 한 대씩만 두고 필요한 차는 공유 차량으로 깔아놓고 나눠 쓰는 게 맞을까요."

12일 서울 강남구 코엑스에서 열린 '2026 인텔 AI 서밋 서울'에서 주영표 SK하이닉스 부사장(시스템 R&D 담당)이 한 말이다. 그는 “AI가 지속적이고 효율적으로 확장하려면 컴퓨터 시스템 아키텍처가 바뀌어야 하고, 그 안에서 메모리의 역할도 달라져야 한다"며 이렇게 말했다. 그래픽처리장치(GPU)마다 메모리를 따로 붙여 쓰는 지금 방식에서 벗어나자는 제안이다. 대신 시스템 한가운데에 거대한 '메모리 풀(pool)'을 두고 여러 프로세서가 나눠 쓰자는 것이다.

이날 연단에 오른 연사들은 에이전트 AI 시대가 되면 메모리 부담이 줄기는커녕 더 커질 것으로 내다봤다. 무대마다 한국의 메모리 경쟁력도 거론됐다. “세계의 AI 시스템은 한국의 반도체 생태계에 절대적으로 의존한다"(마커스 로런스 인텔 센트럴엔지니어링그룹 총괄 부사장), “에이전트 AI 인프라에서 메모리와 스토리지는 계속해서 핵심 역할을 한다"(아닐 난두리 인텔 데이터센터그룹 최고AI제품 부사장) 같은 발언이 이어졌다.

인텔코리아가 연 이번 행사에는 약 2000명이 참가 등록했다. 삼성전자와 SK하이닉스, SK텔레콤, LG전자, 레노버 등 52개 기업도 참여했다. 중소벤처기업부와 정보통신산업진흥원(NIPA), 창업진흥원, 서울 AI 허브 등 5개 정부·공공기관도 함께했다. 인텔은 이 자리에서 국내 23개 기업과 'K-AI 풀스택 얼라이언스'를 공식 출범시켰다. 초기 참여사로는 업스테이지, 메가존클라우드, 퓨리오사AI, 딥엑스, 한컴 등이 이름을 올렸다. 이들은 국산 서버를 중심으로 소버린 AI와 피지컬 AI를 아우르는 생태계를 함께 만들 계획이다. 협력 범위는 하드웨어와 소프트웨어부터 산업별 AI 솔루션과 서비스까지다. 배태원 인텔코리아 대표는 개회사에서 “국산 서버 기반의 개방형 인프라와 그 생태계 위에서 한국 기업들이 AI 주권을 갖고 새로운 혁신을 만들어가자는 약속"이라고 출범 취지를 설명했다.

▲산토시 비스와나탄 인텔 아시아 태평양 및 일본 지역 총괄이 12일 오전 서울 삼성동 코엑스 오디토리움에서 열린 인텔코리아, '2026 인텔 AI 서밋 서울'에서 개회사를 하고 있다. 사진=김하나 기자

산토시 비스와나탄 인텔 아시아태평양·일본 영업관리그룹 총괄 부사장도 한국의 하드웨어 역량을 치켜세웠다. 그는 “한국은 1980년대 D램에 투자했고 HBM(고대역폭메모리)도 AI 열풍이 불기 훨씬 전부터 개발했다"며 “하드웨어는 한국의 DNA에 깊이 자리 잡고 있다"고 말했다. 인텔 발표자료에 따르면 한국은 전 세계 반도체 생산능력의 약 20%를 차지하고, 글로벌 D램 공급량의 약 3분의 2와 HBM 공급의 대부분을 담당한다.

◇ “휴대폰 200대 메모리 꺼내야 겨우 저장"

“AI 대화 한 번에 휴대폰 300대 D램을 매초 읽어야"…SK하이닉스가 본 메모리 수요

이날 주 부사장은 AI가 요구하는 메모리 규모를 휴대폰에 빗대 설명했다. 그는 “프런티어 랩의 현 세대도 아닌 이전 세대 모델의 파라미터를 저장하려 해도 휴대폰 최소 200대에서 메모리를 꺼내 와야 겨우 다 담을 수 있다"고 말했다. 성능 요구도 만만치 않다. AI와 대화할 때 응답이 원활하게 오려면 “휴대폰 300대에 들어 있는 D램 데이터를 매초 전부 읽어낼 수 있어야 한다"는 것이다.

SK하이닉스는 에이전트 AI의 확산으로 메모리 부담이 한층 커질 것으로 내다봤다. 주 부사장은 “완화될 것이라는 주장도 있지만 우리는 강화된다는 쪽"이라고 말했다. 코딩 에이전트는 사용자의 지시 한 번으로 코드 생성부터 컴파일, 디버깅까지 수행한다. 사용자가 이 과정이 끝나기를 기다려야 하는 만큼 처리 속도가 중요해진다는 설명이다. 여러 에이전트가 서로 소통하며 작업을 나눠 수행하는 멀티 에이전트 환경에서도 마찬가지다. 사람의 개입이 최초 지시와 최종 결과 확인에 집중되면서 에이전트 간 통신과 데이터 처리 속도가 전체 작업의 효율을 좌우하게 된다. 주 부사장은 이에 따라 “메모리 성능과 용량 요구도 급격하게 올라가고 있다"고 설명했다.

문제는 기존 구조로는 급증하는 메모리 수요를 감당하기 어렵다는 점이다. 이른바 '메모리 월(Memory Wall)'에 부딪힌 것이다. 주 부사장은 “가속기 칩 가운데 연산 코어가 있고 좌우에 입출력(I/O) 인터페이스, 위아래에 메모리가 붙는데 2차원 평면에서는 더 둘 공간이 사실상 없다"고 설명했다. 고객사들은 3차원 적층 기술이 상용화되기를 기다리는 대신 CPU에 연결된 메모리를 활용하거나 일부 데이터를 SSD로 옮기고, 인접 서버의 메모리까지 빌려 쓰고 있다. 그러나 이런 대응만으로는 근본적인 한계를 해결하기 어렵다는 게 그의 진단이다.

▲주영표 SK하이닉스 부사장이 12일 서울 강남구 코엑스에서 열린 '인텔 AI 서밋 서울 2026'에서 발표하고 있다. 사진=김하나 기자

SK하이닉스가 내놓은 답은 '메모리 중심 아키텍처'다. GPU 서버 랙과 CPU 서버 랙 옆에 수십~수백 테라바이트(TB) 용량의 '메모리 랙'을 따로 두고 연산 노드들이 이를 공유하는 방식이다. 랙 사이는 기존 네트워크 프로토콜(RDMA·RoCE)로 잇는다. 향후에는 랙 내부에서도 CXL(컴퓨트익스프레스링크) 같은 인터커넥트로 메모리를 공유해 시스템 성능을 높인다는 구상이다. 주 부사장은 “GPU 1번은 자기 일이 끝나면 결과를 메모리 풀에 던져놓고 잊어버리면 된다"며 “2번·3번 GPU는 다음 일을 할 때 거기서 바로 가져다 쓰면 된다"고 설명했다.

이를 뒷받침하는 실험 결과도 소개했다. SK하이닉스가 파트너사와 함께 질문과 답변을 반복하는 멀티턴 에이전트 AI를 구동한 결과, 대화가 길어질수록 KV 캐시(AI가 앞서 계산한 맥락 데이터)가 폭증했다. 기존 시스템은 저장 공간이 모자라 이미 계산한 데이터를 버리고 다시 연산해야 했다. 이로 인해 평균 응답 시간이 길어졌고, 응답이 유독 늦어지는 '테일 지연'도 크게 악화됐다. 반면 메모리 랙에 KV 캐시를 저장해 재사용하자 평균 응답 시간과 테일 지연이 모두 크게 개선됐다. 주 부사장은 “SK하이닉스는 '풀스택 AI 메모리 크리에이터'로서 아키텍처 단계부터 고객·파트너와 함께 설계를 논의하고 있다"고 말했다. 이어 “컴퓨팅에서 강력한 리더십을 가진 인텔과도 긴밀히 협력하고 있다"고 덧붙였다.

◇ “1% 효율은 반올림 오차가 아니라 경쟁력"

인텔은 이번 행사에서 '이기종 컴퓨팅'을 전면에 내세웠다. 배 대표는 “AI라고 해서 모두 같은 컴퓨팅이 필요한 것은 아니다"라며 “CPU와 GPU, 가속기 등 서로 다른 컴퓨팅의 강점을 잘 활용해야 한다"고 말했다. 기조연설에 나선 인텔 임원들도 에이전트 AI 시대의 인프라를 '적정 규모(right-sized)'와 '목적 맞춤형(purpose-built)'이라는 키워드로 풀었다.

▲댄 로드리게스 인텔 엣지 컴퓨팅 그룹 부사장이 12일 서울 강남구 코엑스에서 열린 '인텔 AI 서밋 서울 2026'에서 발표하고 있다. 사진=김하나 기자

마커스 로런스 인텔 센트럴엔지니어링그룹 총괄 부사장은 “전 세계에서 처리된 토큰은 2024년 월 9조7000억개에서 올해 월 3200조개로 2년 만에 약 330배 늘었다"고 말했다. 그러면서 “이 정도 규모에서 1% 효율 개선은 반올림 오차가 아니라 경쟁 우위"라고 강조했다. 그는 “세계 메모리 칩의 약 3분의 2를 한국의 두 업계 선두 기업이 만든다"며 맞춤형 AI 반도체를 논의하기에 가장 적합한 곳으로 한국을 꼽았다. 인텔이 내건 협업 모델은 다섯 가지다. 턴키 설계부터 기존 설계의 인텔 파운드리 이전, 패키징 단독 지원까지 고객이 원하는 단계에서 협업할 수 있다. 로런스 부사장은 “한국이 AI 수요와 자본, 칩 생태계를 가져오면 인텔은 설계 역량과 첨단 패키징, 파운드리를 제공하겠다"고 했다.

난두리 부사장은 에이전트 AI에서 CPU의 역할이 커진다고 강조했다. 그는 “이제는 AI를 돌릴 GPU가 충분한지가 아니라 AI를 조율하고 실행할 CPU와의 균형이 중요하다"며 최대 288코어를 갖춘 제온6+ 프로세서를 내세웠다. 데이터센터용 추론 GPU '크레센트 아일랜드'의 실물 칩도 처음 공개했다. HBM 대신 LPDDR5X 메모리를 탑재한 제품이다. 인텔 측은 일부 금융 시뮬레이션 작업에서 엔비디아 RTX 프로 6000보다 최대 5.9배 높은 성능을 냈다고 설명했다. 난두리 부사장은 “최근 3개월 사이 개발자들의 오픈웨이트 모델 사용 비중이 30%에서 80% 가까이로 뛰었다"며 “기업이 AI를 어디서 돌릴지 직접 통제할 기회가 생겼다"고 했다.

댄 로드리게스 인텔 엣지 컴퓨팅 그룹 총괄 부사장은 AI가 PC에서 엣지와 산업 현장으로 퍼지는 흐름을 짚었다. 그는 “에이전트는 쉬지 않고 돌아가며 데이터와 맥락에 계속 접근해야 하기 때문에 로컬 컴퓨팅이 결정적으로 중요하다"고 말했다. 국내 사례로는 삼성메디슨을 소개했다. 의료진은 염증성 장질환(IBD) 초음파 진단에서 장벽 두께를 캘리퍼로 직접 재 왔다. 삼성메디슨은 이 측정을 '인텔 코어 울트라 시리즈3' 기반으로 자동화했다. 로드리게스 부사장은 “별도의 외장 GPU 없이도 지연 시간을 4.5배 줄이고 AI 성능은 4.2배 끌어올렸다"고 말했다.

인텔코리아는 이날 서울 AI 허브와 업무협약(MOU)도 맺었다. 국내 유망 AI 스타트업의 솔루션 개발과 검증, 기술 협력 기회를 넓히는 데 힘을 보태기로 했다. 이도규 과학기술정보통신부 정보통신정책실장은 영상 축사에서 “인텔이 국산 AI 반도체, 국내 서버·소프트웨어 기업과 함께 개방형 AI 인프라를 만들어 가는 것은 의미가 크다"고 말했다. 이어 “글로벌 빅테크와 협력을 넓혀 국산 AI 반도체가 개방형 AI 생태계 안에서 함께 성장하도록 하겠다"고 밝혔다.

김하나 기자 uno@ekn.kr