[이슈&인사이트] 통제되지 않은 AI는 핵폭탄만큼 위험하다

▲윤덕균 한양대학교 시스템공학부 명예교수

워런 버핏은 2023년 버크셔해서웨이 연례 주총에서 “AI가 원자탄만큼 위험하다."라고 언급했다. AI가 세상을 변화시킬 혁신 기술이지만 통제되지 않으면 핵폭탄으로 변할 수도 있음을 경고했다. 통제되면 핵발전소와 같이 인류의 복지에 공헌할 수 있지만 핵폭탄과 같은 부정적인 측면이 공존함을 경고한 말이다. 이러한 AI의 위험성에 대해서는 일찍이 MS의 창업자 빌 게이츠도 인공지능이 극도로 발전한 초지능 상태를 우려했다. 테슬라를 창업한 머스크는 최근의 MIT 대 강연에서 “인공지능 연구는 악마를 불러오는 것과 다름없다"라고 말했다. 또한 앞서 스티븐 호킹 전 케임브리지대 교수도 “인공지능을 장착한 기계는 인류의 종말을 가져올 것"이라고 경고했다.

이러한 경고가 세계 곳곳에서 현실이 되고 있다. 이미 예견된 바와 같이 AI가 국경도 없이 정치, 경제, 사회, 문화 등 모든 영역에 걸쳐 다방면으로 거짓을 전파하고 있다. 그 대표적 사례가 누구나 손쉽게 조작할 수 있는 AI가 보편화되면서 유명인은 물론 일반인도 딥페이크 피해를 보는 사례가 급증하고 있다. 세계적 팝스타 테일러 스위프트의 얼굴이 합성된 음란물이 X(옛 트위터)를 통해 급속도로 퍼졌다. USA투데이는“스위프트 사건은 딥페이크 위협의 빙산 일각"이라고 전했다. 급기야는 미국의 대선에서 선거 조작에 활용된 예도 있다. 2024년 1월 미국 뉴햄프셔주 대선 후보 예비선거를 앞두고 민주당 당원들이 받은 바이든의 전화 메시지는 진짜가 아니고 미국 정치 고문 스티브 크레이머가 AI로 만든 가짜였다. FCC(미연방 통신위원회)는 스티브 크레이머에게 한화 82억 원 상당의 벌금을 부과했다.

이러한 측면에서 유럽연합(EU)이 세계 최초로 AI 규제법을 최종 승인한 것은 만시지탄의 평가를 받는다. AI 규제법은 올해 6월부터 EU 27개 회원국 역내에서 정식 발효되지만, 전면 시행 시점은 2026년 중반 이후다. 세계 최초의 포괄적 성격의 AI 규제법이라는 점에서 다른 나라의 AI 규제 모델 구축에도 큰 영향을 미칠 것이다. 이 법을 통해 유럽은 신기술을 다룰 때 신뢰, 투명성, 책임의 중요성을 강조하는 동시에 빠르게 변화하는 기술이 더욱 발전하고 유럽의 혁신을 촉진할 수 있도록 보장할 것이다. 유럽 이외의 미·일을 비롯한 선진국들도 AI 생성 콘텐츠에 라벨 부착, 개인정보보호 규정 준수 등 기준이 발효된 상황이나 구체적인 AI 규제법이 발효된 예는 없다. 한국도 제21대 국회에서 10여 개 AI 법안이 발의됐지만 계류 상태다. AI 법안의 제정은 근본적으로 규제의 지침을 줌으로써 안정적 산업 발전을 위한 법적 울타리를 구축한다는 의미가 강하다. 미래 사회 혁신의 핵심기술인 AI 산업 발전을 위한 신속한 논의가 요구된다.

AI가 처음 등장한 것은 70년 전인 1955년 존 매카시가 이 용어를 사용하면서부터다. AI의 정의는 인간의 지능이 가지는 4가지 즉, 학습, 추론, 지각, 자연어처리 등의 능력을 갖춘 전산 시스템을 의미한다. 그러나 그 당시에는 정보 처리 능력의 한계와 정보량의 부족 등으로 1970년대 1차 AI 겨울, 1990년대의 2차 AI 겨울을 맞게 된다. 2016년, 구글 딥마인드의 알파고가 딥러닝 방식을 대중화했으며 대표적으로 이세돌과의 세계적 바둑 대결로 인공지능의 무한 가능성을 보여주었다. 2022년 오픈AI의 샘 올트먼이 챗GPT 개발을 통해서 AI 신시대를 예고했다. 여기서 샘 올트먼이 챗GPT를 '맨해튼 프로젝트'에 비유한 사실이 시사하는 바가 크다. 맨해튼 프로젝트는 2차 세계 중 원자탄 개발계획이다. 원자탄은 2차 대전을 조기에 종식한 선량한 무기였지만 현재는 인류의 위협이 되고 있다. 관리 여하에 따라 AI는 원전과 핵탄두의 갈림길에 있다. 한국에서 AI 관리 방안의 법제화는 아무리 빨라도 지나치지 않다.

윤덕균