[현장] IBM·OSC Korea “AI 에이전트 시대, 보안도 다시 짜야”

▲남궁성환 OSC Korea 상무가 지난 16일 서울 강남구 AC 호텔 바이 메리어트 서울 강남에서 열린 '기업 AI 에이전트 도입·운영 전략' 세미나에서 AI 에이전트 보안을 주제로 발표하고 있다. 사진=이수진 인턴기자

기업의 인공지능(AI) 활용이 확대되면서 AI 에이전트의 데이터 접근과 업무 수행 과정을 통합 관리해야 한다는 지적이 나왔다. AI 에이전트가 여러 시스템을 오가며 데이터를 주고받는 만큼, 기존 보안체계만으로는 데이터 이동과 권한 사용을 추적하는 데 한계가 있다는 것이다.

지난 16일 서울 강남구 AC 호텔 바이 메리어트 서울 강남에서 VTI KOREA가 개최한 '기업 AI 에이전트 도입·운영 전략: 보안부터 비즈니스 성과까지' 세미나에서는 AI 에이전트 확산에 따른 보안 위험과 관리 방안이 논의됐다.

기업의 AI 도입도 확산하는 추세다. 아마존웹서비스(AWS)가 지난 11일 발표한 '한국의 AI 잠재력 실현 2026' 조사에 따르면 국내 기업의 AI 활용률은 58%로, 1년 전 48%보다 10%포인트 높아졌다. 최근 1년간 AI를 새로 도입한 기업은 약 62만4000곳으로 추산됐다.

AI 에이전트는 사용자를 대신해 주어진 목표에 따라 업무를 수행하는 소프트웨어다. 기존 생성형 AI가 질문에 답하거나 콘텐츠를 만드는 데 주로 활용됐다면, AI 에이전트는 외부 시스템이나 다른 에이전트와 연결돼 데이터를 조회하고 업무를 수행할 수 있다.

문제는 AI 에이전트가 기업 내부 곳곳에서 활용될수록 데이터가 어디로 이동하고 어떤 권한이 사용됐는지 파악하기 어려워진다는 점이다.

남궁성환 OSC Korea 상무는 AI 에이전트 확산 과정에서 데이터 가시성 저하와 기업이 승인하지 않은 IT 서비스 사용을 뜻하는 '섀도우 IT' 증가를 보안 위험으로 꼽았다. 특히 AI 에이전트끼리 정보를 주고받는 A2A(Agent to Agent) 통신이 늘면서 기존 보안체계가 관리해야 할 영역도 넓어지고 있다고 설명했다.

남궁 상무는 “시스템 정보의 주요 소비자가 사람에서 AI 에이전트로 확장되면서 보안 사각지대가 증가했다"고 말했다.

▲지난 16일 서울 강남구 AC 호텔 바이 메리어트 서울 강남에서 열린 세미나에서 남궁성환 OSC Korea 상무(왼쪽부터), 김유미 IBM 실장, 박정하 VTI KOREA 전무, Nguyen Duc Cuong VTI KOREA 법인장이 기념촬영을 하고 있다. 사진=이수진 인턴기자

여러 AI 모델과 사내 시스템을 한곳에서 관리하는 통합 체계가 필요하다는 의견도 나왔다. 기업이 업무에 따라 서로 다른 AI 모델과 에이전트를 활용하는 만큼 각각의 작동 상황과 데이터 접근 권한을 한눈에 파악할 수 있어야 한다는 것이다.

김유미 IBM 실장은 “기업은 상황에 따라 다양한 AI 모델을 사용하고 AI 역시 기업 내 여러 시스템과 유기적으로 연결돼 있다"며 “이를 한곳에 모아 관리하고 상황에 따라 최적화할 수 있는 통합 시스템이 필요하다"고 말했다.

통합 관리의 핵심으로는 가시성과 통제력, 명확한 책임 소재가 꼽혔다. 어떤 에이전트가 어떤 데이터에 접근했는지 확인하고 문제가 발생하면 통제할 수 있어야 한다. 각 단계의 관리 책임자도 명확하게 정해야 한다는 설명이다.

김 실장은 “시스템 각 구간의 담당자를 명확히 해 모든 과정에서 책임성을 확보해야 한다"며 “이 같은 과정을 거쳐 AI 에이전트를 검증한 뒤 배포하고 운영해야 한다"고 말했다.

남궁 상무도 AI 에이전트의 활동 기록을 남겨야 한다고 강조했다. 어떤 사용자가 권한을 위임했고 AI 에이전트가 이를 이용해 어떤 업무를 수행했는지 추적할 수 있어야 한다는 것이다. 그는 “어떤 사용자에게 위임받아 어떻게 사용했는지와 관련된 모든 로그가 남아야 한다"고 말했다.

AI 에이전트가 업무를 수행하더라도 최종 판단은 사람이 맡아야 한다는 지적도 나왔다. 박정하 VTI KOREA 전무는 이메일과 문서, 재고, 공급망 관리 등에 AI 에이전트를 활용할 수 있지만 실제 업무에서 발생하는 예외 상황까지 AI가 판단하도록 맡기기는 어렵다고 설명했다.

박 전무는 “입력을 받아 저장하고 산출하는 것까지가 AI 에이전트의 역할"이라며 “이를 사람이 판단한 뒤 최종 승인 여부를 결정하는 것이 AI 에이전트 사용 과정의 핵심"이라고 말했다.

AI 에이전트가 활용하는 데이터를 정제하고 접근 권한을 일관되게 관리하는 작업도 필요하다고 했다. 박 전무는 “각 AI 에이전트의 권한 체계가 다를 경우 신뢰성이 떨어지기 때문에 이를 한 번에 관리하는 일도 중요하다"며 “실제 업무에서는 예외가 많이 발생하기 때문에 사람의 판단이 중요하다"고 말했다.

김나현 기자 knh@ekn.kr, 이수진 인턴기자