[이슈&인사이트] 인공지능(AI) 기본법의 미비점과 세부적 보완 필요성

▲양희철 법무법인 명륜 파트너변호사

유럽연합에 이어 포괄적인 인공지능 기본법을 제정하려는 우리정부는 한편으로는 막 새싹을 틔우고 있는 산업에 대한 과도한 규제 우려와 막강한 능력을 갖춘 인공지능의 고삐가 풀릴까 경계하는 입장 사이에서 어렵게 중심을 잡으려 노력해 왔다. 인공지능 관련 산업 생태계가 도약할 수 있는 자양분을 제공하는 데도 관심을 기울였지만, 인공지능 기본법의 조문들을 찬찬히 살펴보면 인공지능의 위험성을 제어하기 위한 많은 고민의 흔적도 엿보인다.

이런 고난의 결과물임에도 인공지능 영역에서는 시시각각 새로운 기술이 도입되다 보니 새로운 제도의 시행과 더불어 여전히 보완이 요구된다. 인공지능 기본법 시행에 맞춰 과학기술정보통신부에서 마련한 인공지능 기본법 지원데스크에는 최근까지 550여 건 이상의 상담이 접수됐는데 과반수가 투명성 표시 의무 관련 내용이고, 고영향 인공지능 해당 여부가 그다음을 차지했다고 한다. 인공지능 기본법 시행에 따른 책임 부담에 대한 관련 업계의 우려가 반영된 결과이다.

실제 인공지능을 기반으로 문서를 작성하는 시스템 설계와 구축을 자문하다 보니 일단 이 시스템을 운용하는 주체가 인공지능 기본법에서 정의된 인공지능 사업자인지, 아니면 이용자인지부터 명확하지 않다. 시스템을 운용하는 주체가 작성된 문서를 시스템에 접속한 이용자에게 제공하기 때문이다. 모호한 지위에 있는 경우 규제에는 보수적으로 접근하는 것이 안전하다고 결론을 내리면서도 파운데이션 모델로 구축된 시스템에서 나오는 생성물만 제공하는데 이용자 아닌 인공지능 이용사업자로 보아야 하는지 여전히 확신이 들지 않는다.

이런 혼란은 인공지능 기본법의 초안이 논의된 이후 기술의 급속한 발전으로 세계적 거대 기술기업들의 파운데이션 모델 성능이 압도적으로 향상돼 인공지능 산업 생태계가 변화했기 때문에 생겨났다. 이런 변화를 수용해 EU 인공지능 법은 Distributor와 Deployer 개념을 구분해 각자 역할에 따른 책임을 부담하게 했는데, 우리는 Deployer에 해당하는 역할을 모두 이용자에 포함하여 구분이 어렵게 규정하였다. 정부의 가이드라인 역시 인공지능 개발사업자가 제공한 인공지능을 이용해 인공지능 제품이나 서비스를 제공하면 인공지능 이용사업자라면서도 인공지능 생성물만을 제공하면 단순 이용자로 본다고 설명해 더욱 혼란을 일으킨다.

인공지능 이용사업자인지, 아니면 이용자인지가 중요한 이유는 그 생성물에 대한 책임의 범위가 달라지기 때문이다. 이용사업자라면 당장 상담이 집중되고 있는 표시의무, 고영향 인공지능 해당 여부에 대해 대책을 마련해야 한다. 입법 과정에서 규제의 대상인 이용사업자의 범위를 축소해 인공지능을 이용한 콘텐츠 제작자 등 산업을 육성하려는 취지가 반영되었다고도 하나, 법 시행 직후 주무 부처에서 Deployer 개념을 신설하는 법률 개정을 준비하고 있다는 점에서 오히려 혼란을 초래한 것이 아닌가 하는 아쉬움도 남는다.

만일 인공지능 이용사업자에 해당한다고 하면 생성물에 어떤 방식으로 표시할지도 정해야 한다. 가시적 방법만이 아니라 비가시적 방법인 기계 판독형 방식도 허용되는데 이미지나 동영상의 경우 딥페이크의 가능성이 있어 가시적 방법이 더 우선할 것이지만, 문서를 생성물로 하는 경우 텍스트에 머리말이나 워터마크, 메타데이터로 표시를 할 수 있다. 문제는 이런 인공지능 생성물 표시도 여러 연구에서 지적된 것처럼 다양한 기술적 방법으로 표시 자체를 삭제하는 것이 가능하다는 것이다. 심지어 보안성이 높다고 평가되는 글로벌 기술 표준인 C2PA 방식도 마찬가지다.

인공지능이 작성한 문서라는 것이 알려지면 그 신뢰성이 낮아진다고 판단하는 경우 이용자가 인공지능 생성물이라는 표시를 삭제할 가능성도 있다. 가이드라인에는 기계가 판독할 수 있는 방식만을 사용하는 경우 이용자에게 최소 1회 이상 별도의 안내 문구나 음성 고지가 필요하다고 설명하고 있어 비가시성 워터마크로는 충분한 안전장치가 될 수 없음을 정부도 인지하고 있다고 보인다. 결국 시스템 외부로 다운로드나 공유될 수 있는 인공지능 생성물은 해당 단계에서의 인공지능 사업자의 표시의무 이행에도 불구하고 그 이후 이용 단계까지 인공지능 생성물이란 표시를 보장해 주지는 못하는 것이다.

고영향 인공지능에 관해서도 인간이 최종 의사결정을 하도록 제도를 구축하면 위험도가 낮아진다고 하지만, 현재 전장에서 활용되는 인공지능의 사례를 보면 오히려 인간이 인공지능의 결정을 기계적으로 따르는 것이 아닌가 하는 걱정도 든다. 완벽한 제도는 원래 존재하지 않는다. 새로운 기술이 계속 등장함에 따라 법제도 역시 적절히 변화에 대응해야 하고, 달성될 수는 없는 목표를 끊임없이 추구하는 과정이 바로 우리가 가야 할 미래일 수밖에 없다.

양희철