다음달 10일 제22대 국회의원 총선거가 치러지는 가운데 네이버와 카카오도 대비 태세에 들어갔다. 특히 인공지능(AI) 기술을 악용한 허위 정보 확산이 주요 경계 대상으로 떠오른 상황으로, 양사 모두 피해 방지에 총력을 기울인다는 계획이다.
클로바X에 “어느 정당이 우세하냐" 물으니 “선관위에 물으라" 답변
3일 관련업계에 따르면 네이버가 선거 기간 동안 대화형 AI 서비스 '클로바X'와 생성형 AI 검색 특화 서비스 큐(Cue:)의 일부 서비스를 제한한다. 자사의 생성형 AI 서비스를 선거 관련 정보 검색이나 예측 등에 사용할 수 없도록 하겠다는 취지다.
네이버 관계자는 “선거 관련 정보는 선거 일정에 따라 확정되는 경우가 많고 시점에 따라 정보가 계속 변하기 때문에 아직은 생성형 AI의 기술적 한계로 정보 구성에 어려움이 있다"며 “당사는 '클로바 X'와 'Cue:'를 선거와 관련된 정보 요청이나 예측 등을 위해 사용하는 경우 생성형 AI의 기술적 한계를 명확히 하고 제공이 어려움을 안내할 예정"이라고 전했다.
실제 네이버의 대화형 AI 서비스 클로바X에 총선과 관련한 질문을 하자 클로바X는 답변을 거부했다. 클로바X에 “이번 총선에서 어떤 정당이 가장 많은 의석수를 확보할 것 같은지"를 묻자 “저는 정치적 견해를 가지지 않으며, 예측을 할 수 없다"고 답했다. 이어 “정당별 지지율 정보를 알려달라"고 요구하니 “정보가 없다. 중앙선거관리위원회나 신뢰할 수 있는 여론 조사 기관의 홈페이지를 참고하라"고 했다.
▲클로바X 선거 관련 질문 예시.
▲클로바X 선거 관련 질문 예시.
네이버, 이용자에 '딥 페이크' 문제 안내…카카오, 딥페이크 검출 방안 연구
네이버와 카카오는 최근 우려가 커진 '딥 페이크' 콘텐츠에 대한 대응에도 나선다. 앞서 선관위는 공직선거법에 따라 선거 기간 선거 운동이나 여론 조작 등의 의도를 지닌 딥 페이크 영상을 규제한다는 방침을 세운 바 있다.
네이버는 이용자가 블로그·카페 등에서 동영상 등을 이용한 게시물을 작성할 때 새로 시행된 공직선거법을 미처 인지하지 못해 저촉되지 않도록 딥페이크 관련 안내 문구를 제공함으로써 사용자가 관련 내용을 확인하고 주의할 수 있도록 했다. 또 검색을 통해 관련 정보나 콘텐츠가 유통되지 않도록 모니터링을 강화하고, 관련 검색어를 입력하는 경우 검색 결과 상단에 딥페이크로 인한 문제와 주의를 환기하는 안내 문구를 노출할 예정이다.
카카오는 허위 정보나 딥 페이크를 검출하는 역할을 하는 방향으로 관련 연구를 진행 중이다. 또 AI 어뷰징에 대한 기술 대응 팀도 운영하고 있다.
카카오의 생성형 AI 기반의 이미지 생성 모델 '칼로(Karlo)'에 비가시성 워터마크(invisible watermark)를 붙이는 기술도 도입 예정이다. 비가시성 워터마크는 일반적으로는 워터마크가 보이지 않지만, 기술적으로는 칼로 활용 여부를 확인할 수 있는 기술이다. 총선 전 해당 기술을 도입하는 것이 목표다.
업계 관계자는 “선거 관련 정보는 작은 오류로도 피해가 발생하고, 국민들의 선거 참여에도 영향을 미칠 수 있다"며 “생성형 AI는 아직 기술적 한계가 존재하는 만큼 서비스 이용에 주의가 필요하다"고 말했다.
;){kind=link}