10일 정부서울청사에서 열린 'AI 딥페이크 탐지 모델' 시연회에서 윤호중 행정안전부 장관이 인사말을 하고 있다. 연합뉴스


6월 3일 치러지는 제9회 전국동시지방선거에 인공지능(AI) 기반 딥페이크 탐지 기술이 도입된다. 선거 과정에서 후보자의 얼굴이나 발언을 조작한 영상·사진 등 허위 정보 확산을 막기 위한 조치다.
행정안전부는 10일 정부서울청사에서 국립과학수사연구원(국과수)과 공동 개발한 'AI 딥페이크 탐지 모델' 시연회를 열고 해당 기술을 이번 지방선거에 적용할 계획이라고 밝혔다.
딥페이크는 인공지능 체리마스터모바일 기술인 딥러닝(Deep Learning)과 가짜(Fake)의 합성어로, 실제와 구별하기 어려운 가짜 이미지나 영상을 만드는 기술을 말한다. 최근 특정 인물의 얼굴이나 음성을 정교하게 합성한 범죄가 늘면서 선거 과정에서도 허위 정보가 유권자의 판단을 왜곡할 수 있다는 우려가 제기됐다.
이 탐지 모델은 지난해 12월 열린 ‘딥페이크 범죄 대응 야마토무료게임 을 위한 AI 탐지 모델 경진대회’ 성과를 바탕으로 개발됐다. 당시 대회에는 268개 팀, 1,077명이 참여했으며 이 가운데 선정된 5개 우수 모델이 선거 대응에 활용된다.
국과수에 따르면 기본 탐지 정확도는 약 92% 수준이지만 5개 모델을 동시에 활용할 경우 실제 탐지율은 최대 97%까지 높아진다. 이는 기존 모델(76%)보다 크게 바다이야기온라인 향상된 성능으로, 유럽에서 활용되는 일부 탐지 모델보다도 높은 수준이라는 설명이다.
탐지 방식은 영상의 전체 흐름을 분석하는 ‘전역 분석’과 얼굴 등 특정 부위의 조작 흔적을 찾아내는 ‘국소 분석’을 동시에 수행하는 구조다. 이를 통해 딥페이크 여부를 보다 정밀하게 판별할 수 있으며, 최신 생성형 AI 기반 콘텐츠에도 대응할 수 있도록 설 바다신릴게임 계됐다.
행안부는 해당 시스템을 중앙선거관리위원회에 제공해 선거 기간 모니터링에 활용하도록 할 계획이다. 현재 선관위에는 약 400명의 직원이 온라인상 선거 홍보물과 의심 콘텐츠를 점검하고 있으며, 의심 영상이나 음성에 대해서는 신속한 감정·분석 지원체계도 운영한다.
중앙선관위에 따르면 선거 기간 딥페이크 영상 삭제 요청 황금성게임랜드 건수는 2024년 제22대 총선 당시 388건에서 2025년 대통령 선거에서는 1만510건으로 급증했다.
선거운동에서 AI로 제작한 영상을 사용하는 것이 전면 금지된 것은 아니다. 선거일 90일 전(3월 5일)까지는 AI로 제작한 영상임을 표시하면 사용이 가능하다. 그러나 이후에는 해당 표시가 있더라도 사용이 금지된다.
조봉기 중앙선관위 조사국장은 "금지 기간 이후 AI로 만든 영상 등을 유포할 경우 제작자는 물론 공모 관계가 확인되면 후보자도 처벌 대상이 된다"며 "최대 7년 이하 징역 또는 1,000만 원 이상 벌금형을 받을 수 있다"고 설명했다.
윤호중 행안부 장관은 "딥페이크는 단순한 기술 문제가 아니라 민주주의를 흔들 수 있는 새로운 정보 범죄"라며 "선관위, 경찰청, 국과수 등 관계기관과 긴밀히 협력해 허위·조작 정보에 적극 대응하고 공정한 선거 환경을 만들겠다"고 말했다.
정민승 기자 msj@hankookilbo.com