인공지능(AI)이 사기꾼의 무기가 된 동시에 방패가 되는 시대가 됐다. 사기꾼들은 AI를 이용해 더욱 교묘한 수법을 개발하고, 기업들은 AI로 이를 막아내는 새로운 양상이 전개되고 있다. 28일 엔비디아와 인터폴에 따르면 지난 2023년 한 해 동안 전 세계에서 발생한 사기 피해액이 1조달러에 달했다. 주당 5억5000만 건의 사기 전화가 걸려왔고, 미국에서는 모르는 번호의 전화 4통 중 1통이 사기 의심 통화로 분류됐다. AI를 이용한 사기는 나날이 정교해지고 있다. 홍콩의 한 기업은 화상회의에서 딥페이크 기술로 만든 가짜 임원들과 대화하다 2500만달러의 피해를 봤다. 사기범들은 공개된 영상과 음성을 AI로 학습시켜 여러 고위 임원들의 모습을 완벽하게 재현했다. 국내에서도 AI를 활용한 사기 수법이 급증하고 있다. 음성 복제 기술을 이용한 보이스피싱이 대표적이다. 단 3초 분량의 음성만으로도 목소리를 완벽하게 복제할 수 있어 가족이나 지인을 사칭한 긴급 자금 요청 사기가 늘고 있다. AI기반의 사기를 막는 것도 AI가 필요하다. 토스뱅크는 실시간 AI 시스템을 통해 위조 신분증을 탐지하고 있다. 이 시스템은 94% 이상의 정확도로 위조 신분증을 식별하며, 도입 후 6개월 동안 600건의 위조 신분증을 적발해 약 120억원 규모의 잠재적 사기를 예방했다. IBK기업은행은 금융감독원, 한국정보화진흥원과 함께 AI 기반 보이스피싱 탐지 앱 'IBK 피싱스톱'을 개발했다. 이 앱은 통화 내용을 실시간으로 분석해 보이스피싱 위험도가 80% 이상일 경우 경고를 보내는 시스템을 갖추고 있다. 전 세계 200여 개국 1만1000여 개 은행이 사용하는 국제 은행간 통신 네트워크 'SWIFT'는 글로벌 은행들을 대상으로 AI 기반 사기 탐지 서비스를 제공할 예정이다. 이 시스템은 연간 수십억 건의 거래 데이터를 분석해 실시간으로 의심스러운 활동을 감지하게 된다. 해외 금융사들의 대응도 활발하다. 최근 엔비디아는 자사의 관련 서비스를 통해 보안을 강화한 사례를 소개했다. 뱅크오브뉴욕멜론은 AI 시스템 도입 후 사기 탐지 정확도가 20% 향상됐다. 페이팔은 GPU 기반 AI 추론 시스템으로 실시간 사기 탐지율을 10% 개선했고, 서버 용량은 8분의 1로 줄였다. 정부 기관들도 AI 사기 탐지에 적극 나서고 있다. 미 재무부는 2022년 말부터 AI 머신러닝을 도입해 수표 사기를 분석하기 시작했다. 그 결과 2024 회계연도에만 40억달러 이상의 사기를 예방하거나 회수했다. 엔비디아 측은 “전통적인 사기 탐지 방법에는 규칙 기반 시스템, 통계적 모델링, 수동 검토 등이 있지만 이러한 방법들은 디지털 시대에 증가하는 사기 사건에 대응하기 위해 속도와 정확성을 유지하면서 확장하는 데 어려움을 겪게 될 것"이라며 “그러나 AI와 가속 컴퓨팅 시스템을 결합하면 이러한 문제를 완화하고 사기를 효과적으로 방지할 수 있다"고 설명했다. 강현창 기자 khc@ekn.kr