[이슈&인사이트] AI 붐과 위협 받는 ‘인간의 존엄성’

▲이병욱 서울과학종합대학원 AI전략경영 주임교수

2020년 6월 9일(미국 현지시각) IBM은 인공지능 안면인식 사업에서 손을 떼겠다고 선언했다. 안면인식 기술은 인공지능에서도 가장 앞서 있는 기술 분야 중의 하나이면서 동시에 수 많은 응용이 가능해 많은 기업들이 미래의 먹거리로 생각하는 핵심 기술 중 하나이다. 심지어 AWS, 마이크로소프트 등 글로벌 AI 기업들도 IBM과 뜻을 같이 했다. 안면인식 기술이 인간을 대량으로 감시하고, 인권 침해의 소지 및 인종적 문화적 침해의 소지가 크다는 이유에서다.

그동안 ‘인공지능으로 할 수 있을까’에 집중되던 질문은 이제 ‘인공지능으로 해도 되는가’로 그 초점이 바뀌어 가고 있다. 실제로 중국은 2020년을 기점으로 2000만대가 넘는 CCTV에 인공지능 안면인식 기술 등을 탑재해 전 국민의 일거수일투족을 24시간 감시하고 있다. 감시 시스템의 이름도 하늘의 그물이라는 뜻의 텐왕(天網)이다. 무단횡단 하는 사람을 적발하여 자동으로 벌금을 부과하는 것은 물론 신호등에 모니터를 달아 무단횡단 한 사람의 얼굴을 일정기간 보행자들에게 노출시킨다.

이렇게 감시한 전국민의 행동분석에 기반해 중국은 자국민을 10등급으로 나누었는데, 최하 등급인 10등급에 해당하는 사람은 무려 900만명이며, 이들은 열차나 비행기 표 구매에도 자유를 제한당하고 있다.

2018년 KAIST는 한화와 제휴해 국방과학 연구를 진행하겠다고 선언하였는데, KAIST가 군수산업업체인 한화와 함께 무기를 개발한다는 사실로 인해 세계 과학계에서 우려가 제기된 바 있다. 세계 과학자들은 군사화에 인공지능이 도입되는 것을 강하게 비판했고, KAIST에는 항의 전문이 빗발쳤다. KAIST는 뒤늦게 자신들의 연구가 인공지능 기술의 무기화라는 것은 오해일 뿐이라는 성명과 함께 관련 계획을 철회했다. 이는 세계의 석학들이 인공지능에 대한 윤리문제에 대해 깊게 생각하고 있음을 잘 보여준 사례이기도 하다.

네이버는 포털뉴스의 편향성이 문제가 된 적이 있었는데, 당시 인공지능이 고른 결과이고 사람이 개입한 것이 아니므로 편향이 아니라는 식으로 설명했는데, 이는 더 큰 비난을 받았다.인공지능이 골랐든 사람이 골랐든 결과는 얼마든지 편향적일 수 있고, 그렇기 때문에 사람이 개입되어 알고리즘이 편향되지 않도록 끊임없이 튜닝하는 것이 상식이다. 단순히 사람이 개입되지 않았다는 것은 아무런 의미가 없다.

기저 기술이 무엇이든 그 결과의 편향성은 사람이 모니터링 해서 편향되지 않도록 끊임없이 노력해야 하고, 노력으로 개선되지 않으면 그 결과물은 사용해서는 안된다.

2020년 12월 23일 대통령 직속 4차 산업혁명위원회에서는 그 해 마지막 회의에서 과학기술정보통신부와 정보통신정책연구원이 마련한 AI 윤리기준을 심의 의결했다. 해당 윤리기준은 3개 기본원칙과 10대 핵심요건을 담고 있는데, ‘인간의 존엄성 원칙’, ‘사회의 공공선 원칙’, ‘합목적성 원칙’의 3대 원칙과 ‘인권보장’, ‘프라이버시 보호’, ‘다양성 존중’, ‘안정성’ 등 10가지 핵심요건이 정해졌다. 이에 발 맞추어 각 기업들도 AI 윤리기준에 기반하여 저마다의 윤리 기준을 만들고 있다.

그러나, 전세계가 그리 평화로운 방향으로만 움직이는 것 같지는 않다. 2022년 12월 샌프란시스코 주 정부는 경찰이 살상용 로봇을 사용하는 것을 허가해 주었다. 물론 당장 그러한 로봇이 존재하는 것은 아니지만, 많은 기업들이 그러한 로봇을 개발하기 위해 기술력과 자본 그리고 시간을 투자하게 될 것은 자명하다.

바이든 대통령도 무기개발에 인공지능을 허용해야 한다는 여러 단체의 압력을 지속적으로 받고 있다. 이들의 논리는 미국이 손 놓는 사이, 중국 같은 곳에서 인공지능을 탑재한 무기를 개발하여 군사력에서 미국을 앞서게 될 것이라는 것이다.

인공지능 윤리강령을 비롯하여, 기술 개발에 관한 대부분의 사항은 자율 규정일 뿐, 법적으로 제재할 수 있는 근거는 아직 세계 어디에도 없다. 보다 많은 첨단 기술이 사람을 감시하고, 통제하거나 혹은 대량 살상 무기에 탑재되는 일이 벌어지고 있지만 이를 제재할 마땅한 근거가 없는 것이다. 따라서 더 강력한 법적 수단이 동원돼야 한다는 목소리가 많지만 아직은 뾰족한 방법이 없다. 핵개발 초기 때처럼, 강대강의 논리가 더 많이 퍼져 있기 때문이다.

현재로서는 가장 중요한 첫 단계는 ‘절대 해서는 안되는 일’부터 나열하여, 각국의 공조하에 이를 법적으로 금지하는 공감대를 형성하는 것이다. 첫 단추가 잘 끼워진다면, 그 후속 조치도 조금씩 진전될 것이다.