에너지경제 포토

박주성

wn107@ekn.kr

박주성기자 기사모음




[AI 시대, 책임의 경계 上] 발전할수록 커지는 부작용…표류하는 책임

에너지경제신문   | 입력 2026.11.21 21:09

AI악용·사고 확산에 예방·복구 사회비용 부담 가중
시험 부정행위 대응에 공공재정…국민부담 현실화
개발·운영사 과실규명 난항…피해 입증도 어려워
기업 책임부여도 한계…합리적 배분기준 마련 시급

초소형 카메라 활용 부정행위 대응 사전 교육

▲수능을 하루 앞둔 지난 18일 시험장에 투입되는 감독관들이 세종시 보람고등학교에서 부정행위 대응 교육을 받고 있다. 사진=연합뉴스


인공지능(AI) 기술의 발전으로 국내외에서 범죄·사고 예방과 피해 복구에 필요한 사회적 비용 부담이 가시화하고 있다. AI 악용 수법이 고도화하고 자율형 AI의 활용 범위가 확대되는 가운데, 사고 예방과 피해 복구에 필요한 비용을 누가 부담해야 하는지를 둘러싼 논의도 복잡해지는 양상이다.


21일 업계에 따르면, 국회 기후에너지환경노동위원회는 지난 19일 국가자격시험 부정행위 방지를 위한 예산 181억7300만원의 증액안을 의결했다. 전파탐지기 7200대 도입과 전문 감독인력 확대 등에 필요한 비용으로, 최근 세무사시험에서 초소형 카메라와 AI를 이용한 부정행위가 확인된 데 따른 대응이다.


문제는 이처럼 불어나는 사회적 비용을 누가 부담해야 하는지다. 특히 AI가 인간의 개별적인 지시 없이 스스로 판단하고 행동하는 단계로 진화하면서 책임 주체를 가려내는 것 역시 한층 복잡해지고 있다.




◇ AI 커닝에 시험기관까지 불똥…예방비용은 국민 몫?


현행 법체계에서 AI 자체는 민·형사상 책임의 주체가 될 수 없다. 따라서 AI를 활용한 금융사기나 시험 부정행위처럼 고의적인 악용이 개입된 경우에는 범죄를 기획하고 실행한 이용자가 원칙적으로 책임을 진다.


양준석 가톨릭대 경제학과 교수는 “AI는 좋은 목적으로도, 나쁜 목적으로도 쓸 수 있는 중립적인 도구"라며 “악의적으로 AI를 이용해 발생시킨 피해는 원칙적으로 이를 악용한 사람이 부담하는 것이 적절하다"고 설명했다.


다만 AI 악용에 따른 사회적 비용이 모두 범죄자에게 귀속되는 것은 아니다. 이를 예방하기 위한 장비·기술 도입과 예방·감독인력 확대 등 대책 마련에 공공재정이 투입될 수 있어서다.


특히 최근 국가·민간시험에서 논란이 된 'AI 커닝'은 부정행위자뿐 아니라 시험 주관기관의 관리·감독 책임까지 쟁점으로 떠오르고 있다. 시험기관 역시 부정행위에 속은 당사자면서도 공정한 시험 운영을 위한 주의의무를 부담하기 때문이다.


실제 법무법인 YK는 제63회 세무사시험에서 나타난 부정행위 의심 정황에 한국산업인력공단이 적절히 대응했는지 등을 쟁점으로 2차시험 응시자들과 단체소송을 준비하고 있다.


그러나 시험기관의 관리·감독 소홀이 인정되더라도 실제 손해배상으로 이어지기는 쉽지 않다는 분석이다. 피해자가 기관의 주의의무 위반뿐 아니라 그로 인해 자신이 탈락했다는 인과관계까지 입증해야 하기 때문이다.




이민규 법무법인 한수 대표변호사는 “정원을 정해 선발하는 시험이라도 부정행위자 때문에 탈락했다고 증명할 수 있는 사람은 사실상 바로 다음 순위자 정도"라며 “현실적으로는 배상보다 부정행위자의 합격 취소와 차순위자 추가 합격 같은 구제가 먼저 문제된다"고 설명했다. 이어 “대법원이 출제오류 사건에서 기관이 사후 구제조치를 한 점 등을 들어 국가배상책임을 인정하지 않은 바 있다"고 덧붙였다.


또한 이 변호사는 “스마트안경 등을 이용한 부정행위가 이미 여러 차례 적발된 만큼, 앞으로의 시험에서 기관이 '예상할 수 없었다'고 주장하기는 점점 어려워질 것"이라고 지적했다.


이처럼 AI 부정행위에 대한 예방·감독 의무가 강화될수록 시험기관의 대응비용도 늘어날 수 있다. 국가시험의 경우 범죄 예방 등에 필요한 비용을 결국 국민이 낸 세금으로 충당해야 하는 셈이다.


◇ 스스로 행동한 AI는 누구 책임?…과실 규명부터 난제


정상적인 업무를 수행하던 AI가 예기치 못한 행동으로 사고를 일으킨 경우에는 책임을 가려내는 과정이 더욱 복잡해진다. 개발기업의 기술적 결함과 운영기업의 관리 부실 가운데 어떤 요인이 사고를 유발했는지부터 구분해야 하기 때문이다.


특히 에이전틱 AI는 주어진 목표를 달성하기 위해 외부 시스템에 접근하고 여러 작업을 직접 수행하는 만큼, 이용자가 구체적으로 지시하지 않은 행동이 실제 피해로 이어질 수 있다.


최병호 고려대 AI연구소 교수는 “지금 AI 에이전트는 완전히 통제가 되는 기술이 아니다"라며 “현재 기술에서는 완전한 통제가 불가능하고, 그 때문에 문제가 발생할 수 있다는 사실도 이미 알려져 있다"고 설명했다.


이러한 기술적 불확실성은 사고 원인과 책임 주체를 규명하는 과정에서도 문제가 된다. AI의 돌발 행동이 모델 자체의 결함인지, 운영기업의 접근권한이나 관리체계 문제인지 구분하기 어렵기 때문이다.


그렇다고 현행 국내 법체계에 AI 사고의 책임을 물을 근거가 없는 것은 아니다. 민법상 불법행위책임은 개발기업과 운영기업 등이 사고를 예견하고 예방할 수 있었는지, 필요한 주의의무를 다했는지와 그 위반이 실제 피해로 이어졌는지 등을 토대로 판단한다. AI가 탑재된 로봇이나 자율주행차 등 제품의 결함으로 생명·신체 또는 다른 재산에 피해가 발생했다면 제조물책임법도 적용될 수 있다.


다만 자율형 AI 사고에서는 개발기업과 운영기업 등 여러 주체가 관여하는 만큼 각자의 주의의무 위반과 실제 피해 사이의 인과관계를 규명하기 어렵다는 한계가 있다.


올해 시행된 AI기본법은 사람의 생명·신체와 기본권 등에 중대한 영향을 미칠 우려가 있는 고영향 AI 사업자에게 위험관리와 사람의 관리·감독 등 사전적인 안전관리 의무를 규정하고 있다. 그러나 사고 이후의 손해배상책임은 민법과 제조물책임법 등 기존 법률에 따라 판단하며, AI기본법 자체에는 개발기업과 운영기업의 배상책임을 직접 배분하는 규정이 없다.


정준화 국회입법조사처 조사관은 지난 16일 열린 '2026년 하반기 AI법정책포럼 공개 세미나'에서 “현행 인공지능 기본법에는 사업자를 개발사업자와 이용사업자로만 구분하고 있는데 사업자 간 책임 배분은 여전히 공백 상태"라고 지적했다.


◇ 책임 규명 늦어질수록 피해자·사회에 남는 청구서


AI 사고의 책임을 가려내기 어려운 구조가 지속될수록 피해 복구에 필요한 비용이 피해자와 제3자에게 남을 수 있다는 점 역시 문제다. AI 기술의 경제적 편익을 누리는 주체와 사고에 따른 비용을 부담하는 주체가 달라질 수 있는 것이다.


특히 AI 사고에서는 피해자가 개발기업과 운영기업의 과실을 입증하는 데 필요한 정보에 접근하기 어렵다는 한계가 있다. 사고 원인을 규명할 핵심 자료인 AI의 작동기록과 모델 변경 이력 등을 대부분 기업이 보유하고 있기 때문이다.


국내 법학계에서도 이러한 정보 비대칭 문제를 지적하고 있다. 김나래 한국법학원 연구위원은 지난 8월 발표한 '인공지능 시대의 과실책임에 대한 재설계' 논문에서 “과실책임의 실효성을 확보하기 위해서는 피해자의 정보 접근을 보장하고 입증곤란을 완화할 장치가 필요하다"고 지적했다.


다만 이러한 문제를 해결하기 위해 AI 개발기업이나 운영기업에 일률적으로 책임을 부과하는 것 역시 적절하지 않다는 지적도 나온다. 기업마다 위험을 예견하고 통제할 수 있는 범위가 다른 데다 과도한 책임 부담은 기술개발과 상용화를 위축시킬 수 있다는 것이다.


결국 피해자의 권익을 보호하면서도 기업의 기술혁신을 저해하지 않을 합리적인 책임 배분 기준을 마련하는 것이 과제로 남는다. 특히 각 주체가 부담해야 할 책임의 범위와 면책 기준을 명확히 설정할 필요가 있다는 지적이다.


양준석 교수는 “결국 사회적으로 어디까지 책임을 인정하고, 어디까지 면책할 것인지 기준을 정해야 하는 문제"라며 “우리나라는 이러한 책임의 경계를 명확히 설정하기 어려운 구조여서 어느 한쪽이 모든 책임을 떠안게 될 수 있다"고 말했다.



배너