“AI의 옳고 그름 누가 정하나”…빅테크, 종교계까지 손 뻗었다

▲레오 14세 교황이 지난 5월 25일(현지시간) 바티칸에서 열린 첫 회칙 발표 행사에서 크리스토퍼 올라 앤트로픽 공동창업자와 악수하고 있다. 사진=로이터 연합뉴스

미국 인공지능(AI) 기업들이 챗봇에 옳고 그름을 가르치기 위해 종교계에 자문을 구하고 있다. AI가 어떤 질문에 답하고 어떤 요청을 거부할지 기준을 정하는 데 종교 지도자와 철학자들의 의견을 듣고 있는 것이다. 다만 종교마다 도덕적 판단 기준이 달라 이를 AI 모델에 반영하기 어렵다는 지적도 나온다.

26일 AP통신에 따르면 앤트로픽은 지난 5월 15개 이상의 종교 및 문화권 집단에 속한 학자와 성직자, 철학자, 윤리학자 등을 만나 AI의 윤리적 판단에 관한 의견을 수렴했다고 밝혔다. 특정 종교의 교리를 AI에 적용하기보다는 종교와 정치, 세속적 가치관을 폭넓게 검토하겠다는 취지다.

앤트로픽 공동창업자인 크리스 올라 연구원은 지난 5월 바티칸에서 열린 교황 레오 14세의 첫 회칙 발표 행사에 참석해 종교계의 역할을 강조했다. 그는 AI가 직면한 윤리적 문제에 대해 “연구실에서 답할 수 있는 문제가 아니다"라며 “여러분과 같은 전통이 수천 년 동안 다뤄온 문제"라고 말했다.

실제 앤트로픽의 자문 회의에서는 인간에게 영혼이 있는지, 초등학교 3학년 학생에게 교육용 챗봇 사용을 허용해야 하는지 등의 문제가 논의됐다.

회의에 참석한 메건 설리번 미국 노터데임대 교수에 따르면 앤트로픽은 먼저 종교계 인사들에게 AI 모델의 작동 원리를 설명했다. 이후 참석자들이 기술의 활용과 윤리적 문제에 관한 의견을 제시하는 방식으로 회의가 진행됐다. 설리번 교수는 앤트로픽이 다른 기술 기업들보다 종교적 문제를 진지하게 다뤘다고 평가했다.

오픈AI도 AI 모델에 다양한 도덕적 관점을 반영해야 한다는 입장이다. 샘 올트먼 오픈AI 최고경영자(CEO)는 지난해 챗GPT가 인류의 도덕적 견해를 폭넓게 반영해야 한다는 취지로 말했다. 메타와 구글, 아마존 관계자들도 바티칸 측과 만났으며 마이크로소프트 역시 종교계와 교류해 온 것으로 전해졌다.

◇ AI에 종교 윤리 가르친다지만…학계는 우려

▲오픈AI, 구글, 아마존, 메타, 앤트로픽 등 미국 주요 빅테크 기업 로고. 그래픽=김나현 기자

AI 기업들은 모델이 위험한 요청을 거부하고 차별적인 답변을 피하도록 별도의 학습과 평가 과정을 거친다. 이 과정에서 어떤 답변을 유해하다고 판단할지, 어느 경우에 답변을 제한할지 등의 기준을 정한다.

종교계 자문을 둘러싼 쟁점은 종교와 문화권마다 도덕적 판단이 다르다는 점이다. 안락사나 낙태처럼 종교별 입장이 엇갈리는 사안에서는 어떤 관점을 AI 모델에 반영할지를 놓고 의견이 달라질 수 있다.

앤트로픽이 종교계로부터 수렴한 의견을 실제 AI 모델의 답변 정책에 어떻게 반영했는지는 공개되지 않았다. 종교 지도자들이 서로 다른 의견을 제시할 경우 어떤 기준을 채택할지에 대한 문제도 남아 있다.

학계에서는 종교를 일정한 윤리 규칙의 집합으로 보고 AI에 적용하는 방식에 우려를 제기하고 있다.

웹 킨 미국 미시간대 인류학 교수는 종교가 교리뿐 아니라 의례와 문화, 신앙인들의 실제 생활과도 연결돼 있다고 설명했다. 종교마다 고유한 도덕 규칙이 존재하고 이를 추출해 AI에 적용할 수 있다고 가정하면 일부 종교의 관점이 지나치게 강조되거나 다른 전통이 왜곡될 수 있다는 지적이다.

종교를 여러 개의 독립된 체계로 구분하는 방식 자체에 대한 문제 제기도 있다. 도모코 마스자와 미국 미시간대 종교학자는 세계의 종교를 서로 비교할 수 있는 개별 체계로 분류하는 관점이 근대 서구 학문을 통해 형성됐다고 설명했다. 불교와 힌두교 등을 독립된 종교 범주로 구분하는 방식이 각 지역의 신앙 전통을 충분히 설명하지 못할 수 있다는 것이다.

메타의 독립 감독위원회 위원인 파올로 카로차도 여러 종교의 가르침을 하나로 결합할 경우 각 전통의 고유한 특성이 사라질 수 있다고 우려했다. 서로 다른 종교의 관점을 하나의 기준으로 통합하는 과정에서 각 종교의 차이가 충분히 반영되지 않을 수 있다는 설명이다.

◇ 국내 AI 업계 “종교계 자문 사례 드물어"

▲AI(인공지능). 그래픽=연합뉴스

국내 AI 개발 현장에서는 종교적 교리보다 사회적 규범을 바탕으로 모델의 안전성을 평가하는 방식이 활용되고 있다.

한 국내 AI 업계 관계자는 “모델을 공개하기 전에 별도의 안전 검증 시스템을 갖추고 있다"며 “특정 교리나 원칙에 기반하기보다는 사회 규범에 비춰 답변의 유해성, 편향성, 사실 오류 등을 평가하는 일반적인 AI 정렬(alignment) 기준을 적용한다"고 말했다.

AI 정렬은 모델이 개발자가 의도한 목표와 인간의 가치, 안전 기준에 부합하도록 작동하게 하는 기술적 과정을 뜻한다. 유해한 정보를 제공하거나 특정 집단에 편향된 답변을 내놓지 않도록 모델을 학습시키고 검증하는 작업이 여기에 포함된다.

이 같은 안전성 검증과 종교계 자문은 서로 배타적인 방식은 아니다. 안전성 검증이 모델의 답변을 평가하는 절차라면 종교계 자문은 그 평가에 활용할 가치관과 판단 기준을 검토하는 과정에 가깝다. 다만 어느 기준을 채택할지에 관한 문제는 두 방식 모두에서 남는다.

국내 업계에서는 해외 빅테크의 종교계 자문이 문화적 배경과도 관련이 있다는 해석이 나온다.

앞선 업계 관계자는 “서구권은 한국과 종교에 대한 인식이 다르기 때문에 윤리적 문제를 종교계에 묻는 문화가 상대적으로 익숙한 것으로 보인다"고 말했다.

또 다른 국내 AI 업계 관계자는 “우리 회사도 종교계 자문을 진행하거나 검토하고 있지 않다. 국내에서도 관련 사례는 많지 않은 것으로 안다"며 “해외와 국내에서 종교가 차지하는 위치나 인식이 다르기 때문인 것 같다"고 말했다.

김나현 기자 knh@ekn.kr