‘AI 딥페이크’ 주의보…제도 허점이 부정선거 키운다

▲그래픽=클립아트코리아

선거철 인공지능(AI)을 활용한 가짜 생성물에 대한 각별한 주의가 요구된다. 악의적 딥페이크·허위 정보로 유권자의 판단을 저해할 가능성이 있는 만큼 정부에서도 엄중한 조치를 밝힌 바 있다. 일각에서는 AI 생성물에 대한 제도적 보완이 필요하다는 주장도 나온다.

22일 정치권에 따르면, 6·3 지방선거 유세가 막바지로 접어들며 범정부 차원에서 AI 선거범죄에 대한 경각심을 고취시키고 있다. 앞서 김민석 국무총리는 4월 관계장관회의에 이어 공식 선거운동 전날인 지난 20일 AI 가짜뉴스에 대한 무관용 원칙으로 엄단한다는 입장을 밝혔다.

김 총리는 “AI를 악용한 딥페이크 등 선거범죄는 국민의 합리적 판단을 흐리게 하고 부정적 효과도 매우 크다“며 "신속하게 삭제 조치하고 최초 제작자부터 유포자까지 추적해 뿌리 뽑도록 하겠다“고 강조했다.

정부는 선거관리 주무부처인 행정안전부 주도로 부처별 특성을 살린 범정부 협의체를 굴려 AI조작 콘텐츠와의 전쟁에 한창이다. 헌법상 독립기관인 중앙선거관리위원회도 내부적으로 관련 특별 대응팀을 꾸려 실시간 대응 중이다.

공직선거법 82조8항에 따르면, 선거일 90일 전부터 선거일까지 딥페이크 영상·음성 등을 제작·편집·유포·상영 또는 게시하는 행위가 금지된다. 이를 위반할 시 7년 이하 징역, 1000만원 이상·5000만원 이하의 벌금형에 처한다.

문제는 선거법을 손질해 AI 선거범죄에 대한 신규 규제까지 적용했음에도 여전히 진짜·가짜를 구분하기 힘든 콘텐츠들이 난립하는 점이다. 예컨대, 최근 온라인상으로 경기 평택을 재선거에 출마한 조국 후보로 추정되는 남성이 등장하는 AI 이미지가 떠돌아 논란이 일었다.

전통시장 배경으로 조 후보 이름이 새겨진 점퍼를 착용한 한 남성이 물건이 가득 담긴 비닐봉지를 들고 가는 모습이었다. 이에 조 후보는 자체 페이스북을 통해 “안중시장에서 할머니 짐을 직접 들어 드렸다“며 “AI 생산물은 캠프건 조국혁신당이건 만든 적이 없다"며 선을 그었다.

국내뿐 아니라 해외에서도 선거철 때 가짜 콘텐츠로 속앓이를 하는 경우가 적지 않다.

2024년 미국 대선 당시 발생한 '조 바이든 딥페이크 전화 소동'이 대표 사례다. 그해 1월 뉴햄프셔주 프라이머리(예비선거) 전 바이든 전 대통령의 목소리를 사칭한 가짜 전화가 민주당원들에게 불참할 것을 종용한 사건이다.

전문가들은 제도적 허점이 AI 가짜 콘텐츠를 확산시키는 환경을 제공하고 있다고 지적한다. 올 1월부터 AI기본법도 시행됐지만, 1년 간 과태료가 물지 않는 계도기간이 적용된다. 사실상 6월 지방선거까지 실질적 집행력이 없다는 의미다. AI기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법) 31조2항에 따르면, 생성형 AI를 이용한 결과물을 제공할 시 AI로 만들었다는 사실을 표시해야 한다.

김명주 AI안전연구소 소장(서울여대 지능정보보호학부 교수)은 “만일 정당에서 악의적 콘텐츠를 유포해 선거에 영향을 줬다면 부정선거로 상대 후보에 페널티를 주면 된다"며 “다만, 특정 정당과 무관하게 의사표현하는 1인 콘텐츠 사업자가 개입할 여지도 남아있다"고 말했다.

그러면서 “해당 인물이 딥페이크 제작물을 통해 악영향을 끼쳤더라도 선거법상 개인 처벌은 가능하지만, 후보들과 직접적인 관계성이 없으니 선거 결과를 되돌릴 수 없다"고 지적했다.

조하니 기자 inahohc@ekn.kr