숭실대 AI 안전성 연구센터, AI규제·안전성 관련 세미나 성료

▲지난 9일 숭실대학교 전산관 다솜홀에서 열린 '숭실대 AI 안전성 연구센터 세미나'에서 학교 내외빈 인사들과 학생들이 참석해 기념 사진을 찍고 있다. 사진=숭실대학교

숭실대학교 AI(인공지능) 안전성 연구센터는 지난 9일 오후 4시 전산관 다솜홀에서 'AI 안전성 연구센터 세미나'를 개최하고, 전문 화이트해커 그룹 '엔키화이트햇'과 연구협력을 맺었다고 13일 밝혔다.

이날 온·오프라인으로 진행된 세미나는 총 60여명이 참석했으며, 최경진 한국인공지능 법학회 회장과 최대선 숭실대 AI 안전성 연구센터 센터장의 발표가 진행됐다.

최경진 회장은 '글로벌 AI규제 동향'을 주제로 “AI 규제 입법을 위해 국내 AI 기술 경쟁력 확보와 AI 리더 그룹과의 협업, 국제 거버넌스 참여 등의 노력이 필요하다"고 말했다. 또한, AI 프레임워크 개발과 면밀한 글로벌 동향 분석의 중요성도 강조했다.

최대선 센터장은 'AI 안전성 이슈와 전망'에 대해 “AI 위협에 대한 기술적 대응은 결국 창과 방패의 대결과 같다"면서 “공격을 완전히 차단하는 것은 불가능하지만 최소화하는 것이 목표"라고 말했다.

이와 관련해 AI안전성 문제를 △AI에 대한 적대적 공격 △AI 악용 △통제력 상실 △국가 안보 위협(CIB)등으로 분류하고, 문제 발생을 최소화할 수 있는 방안으로는 AI 사용제한과 통제 가능한 설계 원칙 적용, 꾸준한 모니터링 및 업데이트 등을 제시했다.

세미나 이후에는 엔키화이트햇의 업무협약 체결식도 진행했다. 두 기관은 AI 안전성 점검을 위한 레드티밍 연구 분야에서 협력을 약속하며, 향후 AI 안전성 강화를 위한 공동 연구를 이어간다.

한편, 지난 10월 개소한 숭실대 AI 안전성 연구센터는 '대한민국 AI 안전컨소시엄'에 주요 참여 기관으로 합류했다. 현재 AI 안전 프레임워크(위험 식별·평가·완화) 연구와 실증, AI 안전 관련 정책 연구, 국제 규범 대응 등의 활동을 수행하고 있다.

조하니 기자 inahohc@ekn.kr