인공지능(AI) 기술이 발전하면서 우리 삶 속 많은 부분들이 변화하고 있습니다.
특히 금융권에서는 인공지능 기반의 로보어드바이저 서비스가 빠르게 확산되고 있으며, 최근에는 인간과 기계 간 번역 대결에서도 사람이 승리하기 어려울 만큼 고도화된 모습을 보여주고 있다. 이처럼 인공지능 기술은 산업 전반에 걸쳐 혁신을 주도하며 다양한 분야에서 활용되고 있습니다. 대표적인 예로 딥페이크(Deepfake)라고 불리는 영상 합성 기술입니다. 딥페이크란 컴퓨터 그래픽 프로그램을 이용해 특정 인물의 얼굴 등을 영화의 CG처럼 합성한 편집물을 말합니다. 실제로는 존재하지 않는 허구의 이미지인 셈인것입니다.
그러나 딥페이크 기술은 얼마든지 조작이 가능하다는 점에서 심각한 사회적 문제를 야기한다. 이러한 딥페이크 제작자들이 주로 이용하는 방법은 포르노 사이트나 SNS 계정 해킹 후 피해자의 사진들을 확보하거나 지인에게 접근하여 직접 촬영한 음란동영상을 전송받는 방식입니다. 이렇게 만들어진 딥페이크 영상은 진짜 같은 자연스러움 때문에 사람들 사이에서 빠르게 확산되면서 심각한 2차 피해를 유발하고 있습니다. 특히 연예인 및 정치인 등 유명인들의 경우 이미지 실추라는 치명적인 타격을 입게 되겠죠. 가짜뉴스나 허위정보 유포 수단으로 악용될 수 있고, 정치·사회적 목적 달성을 위한 도구로 쓰일 위험성도 있으며, 개인의 프라이버시 침해 및 인권 유린으로까지 이어질 수 있다는 우려도 제기되고 있습니다. 따라서 이를 막기 위한 다양한 대책 마련이 시급한 상황입니다.
딥페이크 탐지기술이란 무엇인가요?
딥페이크 탐지는 크게 두 가지 방법으로 진행됩니다.
1) 원본영상과 생성된 위조영상을 비교해서 판별하는 패턴매칭 방식입니다.
이를 위해서는 먼저 대상자의 얼굴 특징을 추출해야 합니다. 그리고 해당 정보를 입력하면 학습된 모델이 유사한지 아닌지를 판단하게 됩니다. 이때 만약 차이가 발생한다면 위변조 여부를 파악할 수 있게 됩니다. 다만 아직까지는 정확도가 높지 않아 오탐률이 높은 편입니다. 따라서 보다 정교한 분석을 위해 다른 기법들을 복합적으로 적용하거나 새로운 알고리즘 개발이 필요한 상황입니다.
2) 데이터셋 내 모든 프레임마다 서로 다른 특징점을 부여함으로써 동일인물인지 아닌지를 구분하는 방식입니다.
즉, 한 장의 사진 안에 여러 개의 눈, 코, 입 모양을 배치시켜 놓고 각각의 위치값을 다르게 설정한다고 가정해보겠습니다. 그러면 각 요소별로 고유한 값을 가지게 되는데, 이렇게 되면 같은 얼굴이라도 미세한 차이를 나타낼 수밖에 없습니다. 결국 기존과는 전혀 다른 형태의 패턴이 나타나게 되고, 이것을 토대로 진짜와 가짜를 구별할 수 있게 됩니다. 현재 국내외 연구진들이 활발하게 연구개발을 진행하고 있지만, 아직 초기 단계이기 때문에 상용화되기까지는 다소 시간이 걸릴 것으로 예상됩니다.
여러분은 아래의 영상을 보고 어떻게 생각되세요?
현재 국내 기업들의 딥페이크 대응 현황은 어떤가요?
국내 주요 IT기업들은 이미 오래전부터 딥페이크 관련 솔루션을 준비해왔습니다. 삼성SDS는 지난 2018년 ‘멀티미디어 처리 가속화 플랫폼’을 출시했습니다. 멀티미디어 처리 가속화 플랫폼은 동영상 또는 이미지 파일의 메타데이터로부터 비디오 압축복원, 음성 분리, 문자 변환 등 다양한 작업을 고속으로 처리할 수 있는 고성능 분산처리 시스템입니다. LG CNS는 딥페이크 검출 원천기술을 보유한 이스라엘 스타트업 나노리프社에 투자했으며, SK텔레콤은 미국 싱클레어사와 손잡고 합작회사 '캐스트닷에라'를 설립했습니다. KT 역시 올해 초 글로벌 통신사 도이치텔레콤 산하 T-랩스와 협력해 5G 시대 지능형 영상보안 사업을 공동 추진키로 했습니다.
향후 딥페이크 시장 전망은 어떻게 되나요?
딥페이크 범죄 사례가 증가할수록 피해 규모도 커질 것으로 예상됩니다.
실제로 영국 BBC방송에 따르면 2020년 1분기에만 최소 2천 건 이상의 딥페이크 사건이 발생했다고 합니다. 이로 인한 경제적 손실액은 약 10억 달러(약 1조 원)에 달한다는 통계도 있습니다. 전문가들은 향후 몇 년 이내에 딥페이크 제작툴이 널리 보급되면서 누구나 쉽게 딥페이크 콘텐츠를 만들어낼 수 있을 것으로 보고 있습니다. 반면 보안업계에서는 딥페이크 방지 기술 도입이 본격화되는 시점을 2025년 이후로 내다보고 있습니다.
미국에서는 페이스북 CEO 마크 주커버그가 “향후 5년 안에 인간 수준의 지능을 가진 컴퓨터를 만들겠다”고 선언했습니다. 이렇게 된다면 지금보다도 훨씬 많은 양의 데이터가 쌓일테고, 그만큼 딥페이크 탐지시장 역시 성장할거라고 예상됩니다. 실제로 국내 기업중에선 이스트소프트라는 회사가 ‘인공지능(AI) 비전 검사’ 서비스를 출시했는데요, 현재 대기업 위주로 공급계약을 체결하며 사업을 확장시키고 있다고 합니다.
이렇듯 글로벌 IT기업뿐만 아니라 국내 스타트업 업체들도 딥페이크 탐지사업에 뛰어들고 있으니 우리나라에서의 딥페이크 탐지시장 규모도 점점 커질거라 기대됩니다.
오늘은 딥페이크 탐지기술에 대해 알아봤습니다.
하루빨리 딥페이크 범죄가 근절되어 모두가 안심하고 살 수 있는 세상이 왔으면 좋겠습니다.
방문자가 많이 본 글
'똑똑한 IT생존전략' 카테고리의 다른 글
| 뤼튼, 대규모 기능 업데이트 : 뉴스요약하기, 이미지 무제한 생성, 일상의 모든것을 AI가 척척, 전세계 AI 무료, 여행일정짜기 (0) | 2023.08.25 |
|---|---|
| 티스토리 블로그에서 애드센스 모바일 광고가 나타나지 않는 이유와 해결 방법 (0) | 2023.03.08 |
| 블로그 작성 시 검색엔진 SEO 포스팅하는법 (0) | 2023.02.11 |
| 문서작성AI '뤼튼', 이제 누구든 무제한으로 사용 가능. (0) | 2023.02.11 |
| MS, Bing 검색엔진에 chatGTP-4 모델 탑재하여 론칭 (0) | 2023.02.08 |