'딥페이크'같은 사진 위변조, AI가 적발한다

2020.11.03 13:00
유형 분석으로 찾는 AI 소프트웨어 개발
KAIST 제공
이흥규 KAIST 전산학부 교수 연구팀은 인공지능(AI)을 활용해 디지털 사진의 변형 여부를 탐지하는 소프트웨어 '카이캐치'를 개발했다. 카이캐치는 변형 유형을 파악해 사진 속 변이가 일어난 부분을 정확하게 찾아낸다. KAIST 제공

사진에 인공지능(AI) 기술을 이용해 다른 사진을 합성하는 ‘딥페이크’와 같은 영상 위변조를 탐지하는 AI 소프트웨어가 개발됐다.

 

이흥규 KAIST 전산학부 교수 연구팀은 인공신경망을 이용해 디지털 형태 사진 변형 여부를 탐지하는 소프트웨어 ‘카이캐치’를 개발했다고 이달 3일 밝혔다.

 

최근 ‘딥페이크’를 포함한 위조 및 변조 영상이 온라인상에 빠르게 퍼지면서 이를 탐지하는 기술 또한 개발되고 있다. 하지만 위조나 변조를 확인할 수 있는 분석 도구가 없어 사진 사실을 확인하거나 정황 판단에 의존해 진위를 판단하는 수밖에 없었다. 특히 기존 디지털사진 포렌식 기술은 각각 변형 유형에 대응해 개발돼 이미 알려진 변형에 대해서는 탐지 성능이 좋지만 어떤 변형이 가해진 것인지 알 수 없을 때는 판독 정확성이 떨어졌다.

 

연구팀은 일반인을 대상으로 2015년 6월부터 ‘디지털 이미지 위변조 식별 웹서비스’를 통해 약 30만 장의 유통 이미지 데이터와 포렌식 영상 데이터, 딥페이크 데이터 등을 확보해 분석했다. 잘라 붙이기와 지우기, 영상 물체 크기 변화, 리터칭 등 자주 발생하는 변형에서 항상 발생하는 변이를 분류했다. 변형의 유형을 특정하지 못해도 이런 변이가 아닌 변형이 발생했는지를 판단하면 탐지 신로도를 높이는 것이다.

 

카이캐치는 픽셀 단위의 미세한 변화를 탐지하는 기술을 응용한 ‘이상 영역 추정 엔진’과 ‘이상 유형 분석 엔진’ 두 개의 AI 엔진으로 구성됐다. 이상 영역 추정 엔진은 미국 국립표준기술연구소 평가 결과 67.18점으로 다른 기술들과 비교했을 때 30% 이상 뛰어났다. 이상 유형 분석 엔진은 정상인지 아닌지를 90% 내외로 판별하고 악의적인 변형이 있는지는 95% 내외로 탐지한다. BMP, TIF, TIFF, PNG 등 다양한 이미지를 포괄적으로 처리하는 기술도 개발했다.

 

이 교수는 “이 기술은 특히 임의의 환경에서 주어진 디지털사진의 변형 여부를 판단하는데 탁월한 성능을 보인다”며 “향후 각종 편집 도구들의 고급 기능들에 대한 광범위한 탐지 기능을 추가하고 실험실 수준의 딥페이크 탐지 엔진과 일반 비디오 변형 탐지 엔진들도 실용화 수준으로 발전시켜 카이캐치에 탑재하겠다”고 말했다.

 

이번 연구결과는 이 교수가 창업한 KAIST 창업기업인 디지털이노텍과 산학협력 연구로 수행됐다.
 

메일로 더 많은 기사를 받아보세요!

댓글 0

작성하기

    의견쓰기 폼
    0/150