‘몸짱’ 오세훈 영상 등장에 ‘화들짝’…“너무 쉽고 빨라” 딥페이크 심각성 알렸다

서울시의회 정례회의서 ‘오세훈 딥페이크’ 영상 공개돼
“디지털성범죄센터, 딥페이크 삭제 AI 프로그램 도입”

서울시의회 정례회의에서 오세훈 서울시장의 딥페이크 영상이 공개돼 시선을 사로잡았다.

19일 윤영희 서울시의원(국민의힘)은 서울시의회 제327회 정례회 제3차 본회의에서 오 시장의 얼굴로 만들어진 딥페이크 영상을 공개했다. 최근 지방의원들을 대상으로 한 딥페이크 범죄를 막을 방안을 고민해달라는 요청을 하는 과정에서 딥페이크 기술의 파급력을 쉽게 설명하기 위해 직접 영상을 만들어 본 것이다.

윤 의원은 휴대폰 앱을 이용해 한 외국배우의 영상에 오 시장의 얼굴을 합성해 넣었다. 영상이 재생되자 회의장에 있던 모든 이들이 빵 터졌다는 전언이다. 오 시장도 피식 웃으면서 “묘하게 닮았다”고 말한 것으로 전해졌다.

윤 의원은 “제가 이 영상을 1분도 안 돼서 만들었다. 심지어 무료였고 너무 쉽고 너무 빨랐다”며 심각성을 강조했다.

딥페이크란 인공지능(AI) 기술을 활용해 특정 인물의 얼굴이나 신체를 다른 영상이나 이미지에 합성하는 것을 말한다. 최근 익명 메신저인 텔레그램을 통해 일반인의 얼굴을 합성한 음란물이 무차별적으로 유포되면서 딥페이크 피해가 빠르게 확산하고 있다.

오 시장은 딥페이크 범죄와 관련해 “서울시는 디지털성범죄센터에서 최초로 AI를 이용해 딥페이크 영상을 검출하고 삭제하는 프로그램을 도입했는데 기대 이상”이라며 “과거 같으면 사람이 일일이 수작업해야 하기 때문에 지워놓으면 바퀴벌레처럼 튀어나오는 이런 상황이 끊임없이 발생했는데 지금은 AI가 대량으로 해주고 있다”고 설명했다. 그러면서 “앞으로도 인격권이 철저히 보호받을 수 있게 하겠다”고 전했다.

이재명 기본소득엔 “구현되는 순간 재앙”

이날 오 시장은 행정감사로 밝혀진 서울교통공사 노조 간부들의 비위 행위에 대해선 “그동안 노조 힘이 지나치게 강화되다 보니까 도덕적 해이가 발생했다”며 “교통공사는 그동안 관행처럼 사실상 방치했다가 어느 날 갑자기 칼 들이댄다는 생각으로 항의하는 거 같은데, 저는 국민 법 감정이 용인할 수 있는 사안은 아니라고 생각한다”고 목소리를 높였다.

오 시장은 ‘시보 떡’, ‘모시는 날’ 같은 공무원 문화가 없어져야 한다는 지적에는 “100% 자의에 의한 것이 아니라면 제도화하는 것은 엄금하겠다”며 “어느 정도 융통성이 발휘돼야 하는 건 맞기 때문에 그런 점을 충분히 감안하겠다”고 답했다.

오 시장은 이재명 대표의 기본소득에 대해선 “구현되는 순간 재앙”이라며 “기본소득은 재원 마련도 불가능할 뿐 아니라, 아무 대가 없이 돈이 들어오면 누가 열심히 살겠느냐”고 비판했다.

그는 “기본소득 대신 서울시가 시범 사업 중인 ‘디딤돌 소득’의 경우 시행 2년 차 소득 보장 탈피율이 8.7% 늘고 근로소득도 30% 늘었다”면서 “복지 사각제도를 없애면서도 근로 의욕을 높이는 효과가 입증됐다”고 강조했다.

이어 “지금 재원이 더 필요한데 어느 정도까지 소득 기준을 설정해야 할지, 적절한 선을 찾는 게 남은 숙제”라고 덧붙였다.