‘진짜 같은 가짜’를 만드는 딥페이크 기술이 점점 고도화되면서 합성 이미지를 활용하는 분야도 확대되는 분위기다.

유명인들의 얼굴을 불법 합성한 이미지·영상을 악용하는 사례들이 이미 개인적, 사회적 차원을 넘어 국가적 문제로 번지면서 이미 우리나라를 비롯한 세계 여러 나라에서는 딥페이크 기술의 위험성을 인지하고 있는 바다.

이에 각종 도구와 방안, 법규제까지 동원하여 딥페이크의 악용에 대응하고 있지만, 문제는 이 기술이 원본과의 차이를 찾기 어려울 정도로 정교해지고, 그 발전 속도 또한 매우 빠르다는 것이다.

딥페이크 기술이 점점 고도화되면서 합성 이미지를 활용하는 분야도 확대되는 분위기다. ⓒ게티이미지뱅크

특히 ‘생성적 대립 신경망(Generative Adversarial Networks, GAN)’ 기술이 발전하면서 딥페이크 이미지는 더욱 진짜에 가까워지고 있다.

네트워크를 구성하는 생성 모델이 진짜에 가까운 데이터를 만들고, 감별모델이 생성 데이터의 가짜를 찾아내는 핑퐁 과정을 통해 점점 더 실제에 가까운 정교한 이미지를 만들어내기 때문이다.

앞으로는 이 같은 기술이 ‘가짜 위성사진’을 만들어 확산하면, 국가 안보 문제로까지 번질 수 있다는 우려 어린 연구가 발표돼 관심을 끈다.

지리정보과학에까지 노출된 딥페이크 리스크

지리정보과학(GIS, Geographical Information Science)은 지리학을 비롯해 도시학, 환경학, 정보과학 등 다양한 분야의 학문이 융합하여 지리정보시스템을 구축한다. 따라서 지리정보 및 모델이 필요한 산업의 응용 프로그램의 기반이라 할 수 있다.

최근에는 인공지능을 통해 지리 공간 데이터를 추출하고, 분석하는 지리공간 인공지능(Geo AI)가 개발되면서, 인터넷 지도·위성사진 서비스, 교통정보 서비스, 자율주행차 등에 본격적으로 활용되고 있다.

이처럼 기술들이 발전하는 가운데 역설적으로 지리정보과학 역시 모든 유형의 가짜 이미지를 만들 수 있는 잠재적 리스크를 안게 되었다.

지리정보과학은 지리정보 및 모델이 필요한 산업의 응용 프로그램의 기반이다. ⓒdigitiseitindia

지난달 뉴욕 빙햄턴 대학(Binghamton Univ.) 쳉빈(Chengbin Deng) 교수를 필두로 한 연구팀은 ‘딥페이크 지리학’이라는 개념과 함께 이를 감지할 수 있는 방법을 모색한 논문을 발표했다.

쳉빈 교수는 딥페이크 기술이 GPS 신호 조작, 지리적 환경의 사진 조작, SNS의 위치 정보 조작 등의 방법을 통해 가짜 지도 및 위성 사진을 만들 수 있다고 밝혔다.

사실 보통 위성사진은 정부 기관이나 전문가가 제공하기 때문에 진위 여부를 의심하지 않았다. 하지만 그 어떤 유형의 이미지도 가짜일 수 있는 시대, 그것이 가능한 기술이 발전하고 있는 이상 맹목적 신뢰 대신 딥페이크를 감지하는 기술과 기술 조작에 윤리 의식을 가져야 할 때라는 것이 연구팀의 주장이다.

딥페이크 이미지 감별 방법, 딥페이크 역이용?

쳉빈 교수와 연구진은 “딥페이크 지리학을 이해하려면 딥페이크의 기본 알고리즘과 가짜 정보를 탐지하는 방식에서 영감을 얻어야 한다”고 주장한다.

따라서 이 연구는 조작된 위성사진을 감별하기 위해 오히려 딥페이크 프로그램(GAN)을 사용하여 샘플 이미지를 만드는, 즉 딥페이크 기술을 활용하는 방법으로 진행됐다.

이번 연구의 대상으로 선택된 워싱턴 주 타코마의 위성사진과 시애틀, 베이징의 위성사진을 결합하여 새로운 ‘가짜 도시’의 위성 이미지를 만들었다. 이렇게 변형된 딥페이크 이미지를 26개의 서로 다른 이미지들의 매트릭스와 비교한 결과 진짜와 가짜 사이에서 약 80%가량의 지표가 감별돼 나타났다고 밝혔다. 주로 CFI, 질감, 색감 대비, 이미지 품질 지수 등에서 변별됐는데, 예를 들어 가짜 이미지에서는 지붕의 색상, 가장자리의 선명도, 합성된 부분에 미세한 얼룩 등이 드러난 것.

쳉빈 교수는 이 연구가 딥페이크 지리정보과학에 시작점이라고 밝히면서, 연구에서 구성한 프로그램 역시 지속적으로 데이터를 수집하고 업데이트해야만 한다고 말했다.

워싱턴 주 타코마 지역의 실제 지도와 위성 이미지. 하단의 두 패널은 워싱턴주 시애틀(c)과 중국 베이징(d)의 지리 공간 데이터를 사용하여 생성된 시뮬레이션된 위성 이미지. ⓒCartography and Geographic Information Science via UW News

전문가들은 딥페이크 기술은 규제보다 빠르며, 대응하는 기술과 동반 발전할 것이라 입을 모은다. ‘이제는 기술적으로 조작 가능하지 않은 미디어는 없다’는 비관론이 나오는 이유다.

쳉빈 교수 역시 딥페이크에 완벽하게 대응하는 기술은 어렵다는 일반론에 동조한다. 단지 이 연구를 통해 지리정보과학도 딥페이크에 노출될 수 있는 분야이며, 위성사진 역시 다양한 유형의 딥페이크 이미지 중 하나가 될 수 있다는 가능성을 인식하기를 바란다고 밝혔다. 그리고 딥페이크를 효과적으로 방어하고, 탐지할 수 있는 기술의 발전과 더불어 인간이 기술을 사용하는 목적과 윤리에 대한 제고가 필요하다고 덧붙였다.