메뉴바로가기본문바로가기

동아사이언스

앱으로 딥페이크 의심 영상 잡는다

통합검색

앱으로 딥페이크 의심 영상 잡는다

2021.03.30 13:49
KAIST 연구팀 모바일앱 '카이캐치' 개발
이흥규 KAIST 전산학부 교수팀이 개발한 딥페이크 탐지 모바일 애플리케이션 ′카이캐치′의 화면. KAIST 제공
이흥규 KAIST 전산학부 교수팀이 개발한 딥페이크 탐지 모바일 애플리케이션 '카이캐치'의 화면. KAIST 제공

가짜뉴스와 음란물 제작에 악용된 디지털 영상 변조기술 ‘딥페이크’를 탐지하는 모바일 애플리케이션이 국내 처음으로 개발돼 유료 서비스를 시작한다. 영상이나 사진 위변조 탐지가 필요한 누구나 손쉽게 활용할 수 있을 전망이다.

 

이흥규 KAIST 전산학부 교수 연구팀은 인공신경망으로 딥페이크와 사진 위변조를 탐지하는 소프트웨어 ‘카이캐치’를 모바일 애플리케이션 형태로 개발해 서비스를 시작한다고 30일 밝혔다. 앱에 딥페이크가 의심되는 동영상이나 사진을 올리고 분석을 유료로 의뢰하면 분석 결과를 3일 내로 제공하는 서비스다.

 

딥페이크는 인공지능(AI)을 이용한 이미지 합성 기술이다. 기존 인물 얼굴이나 특정 부위를 위화감 없이 다른 형태를 모방해 교체하거나 변형할 수 있다. 얼굴을 바꾸는 딥페이크 영상은 얼굴 교체와 얼굴 재현, 얼굴 속성 변환 등 3가지 유형으로 나뉜다. 얼굴을 바꾸는 교체는 악의적으로 사용하면 가짜뉴스 등 혼란을 일으킬 수 있다. 음란물 제작 등에도 악용돼 개인 인권을 크게 침해하고 있다.

 

위 사진이 원본 영상, 아래 사진이 딥페이크 영상이다. 카이캐치는 얼굴 추출 과정을 거쳐 딥페이크를 탐지하는데 얼굴 부위만 추출해 얼굴 주위 미세신호 흔적을 분석(2)하는 기술과 얼굴 이외 부위를 삭제하고 얼굴 내부 미세신호 흔적을 분석(3)하는 기술, 눈코입과 얼굴 윤곽의 기하학적 오차 흔적을 분석(4)하는 기술이 쓰인다. KAIST 제공
위 사진이 원본 영상, 아래 사진이 딥페이크 영상이다. 카이캐치는 얼굴 추출 과정을 거쳐 딥페이크를 탐지하는데 얼굴 부위만 추출해 얼굴 주위 미세신호 흔적을 분석(2)하는 기술과 얼굴 이외 부위를 삭제하고 얼굴 내부 미세신호 흔적을 분석(3)하는 기술, 눈코입과 얼굴 윤곽의 기하학적 오차 흔적을 분석(4)하는 기술이 쓰인다. KAIST 제공

연구팀은 딥페이크 탐지를 위해 영상이 미세하게 변형된 신호 흔적을 찾아내고 이상 신호흔적도 탐지하는 기술을 적용했다. 얼굴 영역의 미세 변형과 코, 입, 얼굴 윤곽 등 얼굴 내 기하학적 왜곡이 발생가능한 영역을 탐지한 후에 이상신호 흔적을 분석한다. 이상신호가 발견되면 딥페이크 여부를 탐지한다.

 

앱은 avi나 mp4 형식의 딥페이크 의심 동영상을 올리면 이를 개별 프레임으로 잘라 이미지로 변환하고 딥페이크를 탐지한다. 동영상 속 얼굴이 가로세로 픽셀 128개 이하로 작거나 얼굴의 상당 부분이 잘린 경우가 아니라면 탐지 가능하다. 동영상 한 프레임을 캡처해 이미지로 만들어 앱에 올려도 딥페이크 여부를 확인할 수 있다. 분석 결과는 퍼센트로 표시돼 높을수록 딥페이크인 확률이 높은 것으로 판단한다.

 

사진 위변조 탐지도 가능하다. BMP, TIF, TIFF, PNG 등 무압축, 무손실 압축 사진 파일을 포함해 50여 개 표준 양자화 테이블과 1000여 개의 비표준화 양자화 테이블을 갖는 JPEG 이미지도 처리가능하다. 사진을 올리면 분석한 결과를 시각화한 두 장의 분석 이미지를 보여준다. 분석 이미지 안에는 위변조가 의심되는 특징이 포함된 영역이 다른 주변 영역들과 색상이 다르게 나타난다. 주요 영역들에 다양한 색상이 나타나면 해당 영역이 위변조된 것으로 누구나 쉽게 판단할 수 있다.

 

KAIST 제공
딥페이크 분석 결과. 색이 나타나는 부분이 위변조가 의심되는 부분이다. KAIST 제공

딥페이크와 사진 위변조 탐지가 가능한 모바일 애플리케이션 서비스는 국내 처음이다. 연구팀은 2015년 6월 사진 변형 탐지 소프트웨어 카이캐치 1.0을 개발했다. 이는 미국에 이어 두 번째 상용화다. 지난해 11월에는 사진위변조 탐지 소프트웨어 카이캐치 2.0을 선보였다.

 

이 교수는 “카이캐치는 AI와 미세 이상 신호 흔적 분석 기법을 사용해 다양한 유형의 변형에 대해 범용성을 갖도록 개발됐다”며 “예측하지 못하거나 모르는 변형 기법을 사용해도 90% 내외 높은 신뢰도로 탐지한다”고 말했다.

 

이 교수는 “가까운 시간 내에 안드로이드 외에도 애플 iOS 기반 앱 출시와 영어, 중국어, 일어 앱 등도 출시할 것”이라며 “기존 탐지 기법과는 다른 기법을 사용한 위변조 탐지 기술도 실용화해 카이캐치에 추가 탑재함으로써 탐지가 안되는 예외를 대폭 줄이도록 노력하겠다”고 말했다.

 

연구는 KAIST 창업기업 디지털이노텍과 공동으로 수행됐다.

 

관련 태그 뉴스

이 기사가 괜찮으셨나요? 메일로 더 많은 기사를 받아보세요!

댓글 0

20 + 7 = 새로고침
###
    과학기술과 관련된 분야에서 소개할 만한 재미있는 이야기, 고발 소재 등이 있으면 주저하지 마시고, 알려주세요. 제보하기