딥페이크(Deepfake) 기술에 대해 말하다

 

sciencefocus.com

 

딥페이크 기술은 인물이 실제로 하지 않은 말을 마치 하는 것처럼 보여주는 컴퓨터 인공지능 기술이다.

 

최근 인공지능(AI) 기술의 진전은 인간에게 유용한 발전을 선물함과 동시에 딥페이크와 같은 부정적인 효과도 야기하고 있다.

 

특히, 딥페이크의 경우, 영상 조작기술이 지속적으로 발전함에 따라 비디오 음색이 실제와 같아서 일반인은 그것의 진위를 구분하기 힘들어져서 큰 사회적 문제를 야기하고 있다.

 

 

최근 가장 대표적인 딥페이크 영상은 버락 오바마 전 미국 대통령의 연설이다. 

 

 

 

 

이 영상은 보다시피 오바마 대통령이 직접 말한 것이 아니다.

 

만약 당신이 딥페이크를 몰랐다면, 당신은 버락 오바마가 트럼프를 위하여 그러한 연설을 했을 거라 완전히 믿을 수도 있을 것이다.

 

 

또한, 딥페이크는 인터넷 상의 비디오와 이미지가 모두 실제라고 믿는 사람들에게 거대한 도전이 될 수도 있다.

 

딥페이크는 심지어 A라는 일반인의 얼굴에 B라는 엉뚱한 말을 입힐 수도 있다. 

 

따라서 당신은 실제로 A라는 사람이 B라고 말했다고 믿을 수밖에 없을 것이다.

 

이는 나쁜 방법으로 악용될 여지가 너무 많고 실제로도 이루어지고 있다.

 

최근 한국의 예가 그것이다.

 

 

최근 한국에서는 성인용 비디오 등에 특정 여성연예인의 얼굴을 합성한 딥페이크 영상이 온라인에서 유포되고 문제가 되고 있다.

 

여성 연예인의 불법 딥페이크 영상이 구글, 트위터 등을 통해 유통되고 수많은 관련 사이트가 생성되고 있다는 점에서,

 

간과할 수 없는 커다란 문제로 보인다. 

 

이는 분명한 범죄행위이다.

 

성폭력특별법에 따르면 사람의 신체를 대상자의 의사에 반해 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집, 합성하는 경우

 

5년 이하의 징역 또는 5000만원 이하의 벌금에 처할 수 있다고 되어 있다.

 

 

기술의 발전에는 분명 음과 양이 존재한다.

 

법과 제도에 따른 규제가 기술의 발전 속도를 따라갈 수 없기에,

 

사전 교육을 통해 기술에 대한 도덕적 수준을 높일 수 있는 방법을 고민해 볼 필요가 있을 것으로 보인다.