[현장] 델 “AI, 이제 조언 아닌 실행…오래된 업무에 AI 얹는 게 최악”

▲김경진 한국 델 테크놀로지스 회장. 사진=델 테크놀로지스 제공

인공지능(AI)의 역할이 사람에게 조언하는 '어드바이저'에서 스스로 업무를 처리하는 '오퍼레이터'로 진화하고 있다. 델 테크놀로지스는 에이전틱 AI 확산에 대응하려면 기존 업무에 AI를 덧붙이는 수준을 넘어 업무 프로세스와 IT 인프라를 근본부터 다시 설계해야 한다고 제시했다.

델 테크놀로지스는 25일 서울 삼성동 코엑스에서 '델 테크놀로지스 포럼(Dell Technologies Forum·DTF) 2026'을 개최했다. '가능성, 그 너머의 성과로(From Possibility to Progress)'를 주제로 열린 이날 행사에는 엔비디아, AMD, 마이크로소프트(MS), SK하이닉스 등 국내외 파트너사 43곳이 참여했다.

PC로 친숙한 델의 또 다른 주력 무대는 기업 데이터센터다. 서버와 저장장치 등 기존 사업을 기반으로 기업의 AI 도입과 운영을 뒷받침하는 인프라 사업에 힘을 싣고 있다.

▲김경진 한국 델 테크놀로지스 회장이 25일 서울 삼성동 코엑스에서 열린 '델 테크놀로지스 포럼 2026' 무대에서 로봇과 악수를 나누며 행사를 시작하고 있다. 사진=김나현 기자

포럼은 로봇 시연으로 문을 열었다. 무대에 오른 로봇이 동작을 선보인 뒤 김경진 한국 델 테크놀로지스 회장이 등장해 로봇과 악수를 나누며 행사를 시작했다.

김 회장은 “불과 3년 전 델 테크놀로지스 포럼 서울에서 AI의 시대가 온다고 소개했는데, 이제 AI 없이는 일상과 업무를 상상하기 어려운 시대로 접어들고 있다"고 말했다. 이어 AI 투자 비용과 전력 사용을 낮추면서 업무에 보다 효과적으로 활용하는 방안을 고민해야 한다고 강조했다.

유상모 한국 델 테크놀로지스 사장은 AI가 직접 업무를 수행하는 단계로 넘어가면서 이를 뒷받침할 메모리와 전력 수요도 함께 커지고 있다고 짚었다. 유 사장은 AI가 조언을 제공하는 '어드바이저'에서 스스로 일을 수행하는 '오퍼레이터'로 변화하고 있다고 설명했다. 자신도 하루 20개 이상의 AI 에이전트를 업무에 활용하고 있다고 소개했다.

AI 확산에 따라 기업이 감당해야 할 과제도 늘고 있다. 유 사장은 AI 모델 가격이 낮아지는 것과 별개로 사용량이 급증하면서 비용 관리의 중요성이 커지고 있다며 이를 '토큰 이코노미(Token Economy)'로 설명했다. 전력과 냉각 문제도 기업을 넘어 국가 차원에서 고민해야 할 과제로 꼽았다. 보안은 AI 도입 이후 덧붙이는 것이 아니라, 처음부터 설계에 포함해야 한다고 지적했다.

◇ “업무부터 다시 짜야"…AI 전환 해법 제시

▲맷 던피 델 수석부사장. 사진=델 테크놀로지스 제공

AI 도입을 위해 인프라만 바꿔서는 충분하지 않다는 게 델의 설명이다. 기존 업무에 AI를 추가하는 대신 업무 자체를 AI에 맞게 다시 설계해야 한다는 것이다.

맷 던피 델 테크놀로지스 본사 수석부사장은 “우리가 할 수 있는 최악의 일은 기업 안에서 20년, 30년, 40년간 유지돼 온 기존 프로세스와 업무 방식에 AI를 추가하는 것"이라고 말했다.

그는 기업이 가장 가치 있게 수행하는 업무를 먼저 파악하고 이를 개별 태스크(Task)와 태스크를 연결하는 워크플로(Workflow)로 나눠 AI를 적용할 영역을 다시 설계해야 한다고 설명했다. AI 시범사업이나 생산성 개선을 넘어 실제 손익에 미치는 영향까지 측정해야 한다고도 했다.

AI가 일자리를 없앨 것이란 전망에 대해서도 업무를 태스크 단위로 접근해야 한다고 말했다. 사람이 본래 맡아야 할 업무에 집중하고 나머지 태스크를 AI가 지원하거나 수행하도록 업무 구조를 바꾸는 방식이다.

던피 부사장은 “앞으로 1~2년 안에 이 자리에 있는 모두가 에이전트의 관리자가 될 것"이라며 관리해야 할 에이전트가 몇 개에서 수십개, 수백개, 수천개까지 늘어날 수 있다고 내다봤다. 기업 환경에서 에이전틱 AI를 실제 구축하는 작업은 “IT 프로젝트와 구축의 에베레스트"라고 표현했다. 데이터 준비와 기존 시스템 통합부터 보안, 개인정보보호까지 함께 설계해야 한다는 설명이다.

◇ 韓 72% “데이터센터 역부족"…AI 팩토리 확대

업무를 재설계하더라도 이를 실제로 구동할 데이터센터가 뒷받침돼야 한다. 델이 시장조사업체 밴슨 본(Vanson Bourne)에 의뢰해 진행한 '2026년 모던 엔터프라이즈 레디니스 조사'에 따르면, 한국 응답자의 72%는 현재 데이터센터 환경이 대규모 AI와 분석 작업을 지원하기에 충분하지 않다고 답했다.

던피 부사장은 이를 두고 “대부분의 기업이 보유한 IT 인프라는 애초에 AI를 위해 구축되고 설계된 것이 아니다"라고 말했다.

AI 활용이 늘면서 비용 관리도 과제로 떠올랐다. 델 내부 영업 관련 AI 활용 사례에서는 직원 10%가 전체 토큰의 90%를 소비하는 것으로 나타났다. 일부 직원 수준의 AI 활용이 전 직원으로 확대되면 토큰 가격이 낮아지더라도 전체 비용은 증가할 수 있다는 설명이다.

던피 부사장은 “여러분은 AI 디자이너이자 AI 아키텍트가 돼야 한다"며 기업 IT 담당자가 업무 특성에 따라 사용할 AI 모델과 이를 실행할 위치를 결정해야 한다고 말했다.

델은 기업의 AI 구축을 위한 인프라 전략으로 'Dell AI Factory'를 내세웠다. 현재 5000개 이상의 기업 고객이 AI 팩토리를 사용하고 있다고 밝혔다. 기업이 보유한 데이터를 기반으로 AI를 구축할 수 있도록 서버와 저장장치, 네트워크 등을 아우르는 인프라를 제공한다.

마이클 델 델 테크놀로지스 회장 겸 최고경영자(CEO)는 이날 영상 메시지에서 “지능은 더 이상 지평선 너머에 있는 것이 아니라 지금 여기에 있다"고 말했다. 그는 기업이 보유한 고유 데이터를 AI 활용의 기반으로 삼고 데이터가 있는 곳에서 AI를 실행할 수 있는 환경을 강조했다.

◇ SK하이닉스 “HBM만으론 한계"…메모리 쌓는다

▲주영표 SK하이닉스 부사장이 25일 서울 강남구 코엑스에서 열린 '델 테크놀로지스 포럼 2026'에서 기조연설을 하고 있다. 사진=김나현 기자

AI 연산량이 늘면서 이를 뒷받침하는 메모리에도 더 큰 용량과 대역폭이 요구되고 있다. 에이전트 AI 확산으로 기존 HBM의 성능을 높이는 것만으로는 향후 수요에 대응하기 어렵다는 전망도 나왔다.

주영표 SK하이닉스 부사장은 대규모언어모델(LLM)을 두고 “저는 이 모델을 정말 사랑한다. 이 모델이 메모리를 정말 많이 쓰기 때문"이라고 말했다.

주 부사장에 따르면, GPT-4급 MoE(Mixture of Experts) 모델은 가중치 저장에만 3.5TB의 메모리가 필요하다. 초당 20개 토큰을 생성할 경우 메모리 읽기 대역폭은 초당 4.4TB에 달한다. 에이전트 AI에서는 모델 가중치뿐 아니라 이용자와의 상호작용에서 생성되는 데이터까지 늘어나 메모리 요구량이 더 커진다는 설명이다.

주 부사장은 HBM 성능을 지금과 같은 방식으로 계속 높이는 것만으로 충분한 성능을 공급할 수 있느냐는 질문에 “불행히도 그렇지는 않을 것 같다"며 에이전트 AI를 이유로 들었다.

그는 “대역폭을 면적에 비례해 증가시키는 거의 유일한 답은 미래에는 쌓는 것이라고 생각한다"고 했다. 메모리를 수직으로 쌓아 대역폭을 높이는 동시에 GPU와 메모리 사이의 데이터 이동에 필요한 전력을 낮춰야 한다는 설명이다. 다만 GPU 위에 메모리를 여러 층 쌓을 경우 발열 등 기술적 난제가 커지는 만큼 시스템과 인프라 업체와의 협력이 필요하다는 것이다.

SK하이닉스는 '풀 스택 AI 메모리 크리에이터(Full Stack AI Memory Creator)'를 지향하며 델과 연구개발(R&D)부터 사업 영역까지 장기적인 협력 관계를 모색하고 있다고 밝혔다.

이날 포럼에서는 기조연설 외에도 AI와 데이터센터, 사이버 보안, 업무환경 등을 다룬 발표와 전시가 이어졌다. 행사장 곳곳에는 델과 파트너사들이 다양한 제품과 기술을 소개하는 부스가 마련됐다. 델은 AI 서버와 저장장치, 네트워크, PC 등을 선보였으며 신형 기업용 저장장치 '델 파워스토어 엘리트'도 공개했다.

김나현 기자 knh@ekn.kr