김한성 굿프롬프트 대표
▲김한성 굿프롬프트 대표
2024년 12월초 대통령의 비상계엄 선포와 뒤이은 국회의 대통령 탄핵 소추 발의, 그리고 헌법재판소의 결정에 다다르는 123일 동안 대한민국은 극도의 혼란과 법적 불확실성에 휩싸였다. 대중의 불안과 추측이 난무하는 사회적 긴장과 금융 및 경제의 침체속에 정치적 분위기는 극도로 얼어 붙었다, 한국 현대사의 이 모호한 시기에, 하나의 질문이 조용히 그러나 강력하게 사회 곳곳에서 메아리쳤다. “나는 멈추어 있다. 그럼에도 세상은 무슨 일이 일어나는가? (I am stopped, but what shall happen around us?)"
한국이 민주주의 제도의 역할과 법적 해석을 둘러싼 내부 논쟁에 집중하고 있는 동안, 글로벌 인공지능(AI)은 역사적이고 획기적인 발전을 거듭했다. OpenAI가 다중모달 기능을 크게 개선한 언어모델을 발표했고, 유럽은 'AI법(AI Act)'을 제정하며 글로벌 규제를 선도했으며, 중국 등 여러 나라는 국가 차원의 AI 거버넌스 체계를 빠르게 구축해 나갔다. 이미 많은 국가들이 산업 자동화와 정책 수립에서 AI 시스템을 적극 활용하며 혁신을 이어갔지만, 한국은 내부 논쟁과 사회적 양극화에 휩싸여 한발짝도 꼼짝 못하였다. 그러나 이렇게 멈춰진 상황은 우리 사회가 가졌던 기존 제도에 대한 믿음을 근본적으로 재검토하고, 나아가 우리 모두가 진실을 회복하고 우리의 미래를 되찾기 위하여 시민적인 시스템을 어떻게 설계할 수 있을지를 모색하게 하였다.
모든 AI 연구자들이 알고 있듯이, 대형 언어모델은 '환각(hallucination)' 현상을 일으킨다. 이 모델들은 사실과 다른 정보를 거침없이 자신있게 생성한다. 이는 모델이 의도적으로 사람을 속이려는 것이 아니라, 학습 데이터에 기반하여 개연성 높은 다음 단어들을 예측한 결과다. 하지만 인간의 마음 역시 스트레스 상황에서 비슷한 현상을 보인다. 이를 '기억의 혼동(confabulation)'이라고 한다. 사람들은 외상, 불확실성, 상충되는 정보에 직면했을 때, 심리적으로 이해 가능한 형태로 기억을 재구성한다. 이는 사실에 근거하지 않은 경우에도 마찬가지다.
대한민국의 123일 동안 양극화된 해석들이 급속히 퍼져나갔다. 어떤 이들은 탄핵 절차의 정당성에 의문을 제기했고, 또 다른 이들은 대통령직의 법적 근거 자체를 문제 삼았다. 소셜미디어는 이러한 긴장을 더욱 증폭시켰으며, 결국 헌법재판소는 판결을 내렸지만, 그 시점에는 이미 여론이 확고하게 양분된 상태였다. 객관적 사실(facts)은 감정적으로 더 설득력 있는 이야기(narratives)들과 경쟁해야 했다. AI의 환각과 인간의 기억 혼동은 발생 원인은 서로 다르지만 공통된 위험을 갖는다. 둘 다 진실 그 자체보다 더 진짜처럼 느껴지는 현실을 만들어낼 수 있다는 점이다.
AI 연구 공동체는 '환각' 현상을 줄이는 데 의미있는 성과를 거두고 있다. 이러한 노력들은 사회적 진실 관리 측면에서도 유용한 통찰을 제공한다. 예컨대, 모델이 문제를 단계별로 사고하도록 유도하면 정확성과 일관성이 향상된다(Chain-of-Thought Prompting)든가, 검증된 외부 데이터베이스와 모델의 출력을 연결하면 사실 기반의 정보를 더욱 견고히 확보할 수 있다(Retrieval-Augmented Generation). 또한 모델이 지나친 확신을 피하고 불확실성을 명확히 표현하도록 훈련시키면 신뢰성을 높일 수 있다(Calibration). 이외에도 극단적이고 의도적인 스트레스 테스트를 통해 모델의 취약점을 찾아내고, 전체 시스템의 강인성을 개선할 수 있다(Adversarial Testing) 등이 그것이다. 이들 접근법은 단순한 기술적 기법을 넘어, 하나의 철학을 나타낸다. 즉, 지능의 목표는 단순히 그럴듯한 이야기를 만들어 내는 것이 아니라 '검증 가능한 추론'(verifiable reasoning)에 기반해야 한다는 것이다.
만약 기계의 오류가 설계를 통해 줄어들 수 있다면, 인간의 인지적 편향도 유사한 방식으로 관리할 수 있지 않을까? 그렇다. 집단적 추론을 강화할 수 있는 제도적 설계를 통해 '시민적 기억(civic memory)'을 개선할 수 있다. AI 연구에서 얻은 영감으로부터 다음과 같은 네 가지 원칙을 생각할 수 있다. 우선, 공공기관은 의사 결정 과정을 투명하게 설명해야 한다. 판결, 정책 변화, 제도 개편 등은 결과뿐 아니라 과정도 가능한 한 공개해야 하며(시민 사고의 연쇄 유도), 누구나 접근할 수 있는 디지털 아카이브와 공개 증언, 연대표, 멀티미디어 자료 등을 체계적으로 정리해 놓아야 한다(기억 검색 시스템 구축). 또한 교육을 통해 인식론적 겸손을 장려해야 한다. 우리가 '무엇을 알고 있는가'만이 아니라 '얼마나 확신해야 하는가'를 가르치는 것이다(확신 조절 교육). 나아가 공공 담론에서 대중의 서사를 구조적으로 검토하고 비판할 수 있는 장치가 필요하다. 민주주의는 조직된 반론을 통해 성장하기 때문이다(집단 레드 팀 운영). 이러한 원칙들은 추상적 개념에 머무르지 않고, 시민적 인식 회복을 위한 실천적 설계도가 될 수 있다.
한국은 AI 기술을 선도할 역량이 충분하다. 그러나 진정한 선도국이 되기 위해서는 불확실성 속에서도 공동체적으로 사고할 수 있는 사회적·제도적 기반이 절실하다. 이를 위해 다음과 같은 비전을 제안한다. (1) 국가 기억 관측소 구축: AI를 활용해 허위 정보의 유통 경로와 집단 기억 왜곡을 추적하는 공공 플랫폼 마련 (2) 인지 건강 지표 도입: 경제적 사회적 지표와 함께 대중의 신뢰도, 믿음의 정확성, 사회적 양극화 정도 등을 정기적으로 측정하여 관리한다. (3) 대화형 시민 AI 시스템 운영: 국가의 사법·역사·행정 데이터에 기반한 대형 언어모델을 활용하여 시민 교육과 공공 담론을 강화한다. (4) 기억의 성찰을 위한 국가적 의례: 역사적 사건에 대해 비판적으로 참여 할 수 있도록 AI 도구를 활용한 인터랙티브 행사와 다중 관점의 디지털 플랫폼을 운영한다. 이러한 노력은 선택 사항이 아니다. 디지털 시대에 “기억"은 곧 국가 기반 시설(epistemic infrastructure)이다.
;){kind=link}