소식

Aug 31, 2023

딥페이크란 무엇입니까? 가짜 AI 오디오 및 비디오를 식별하는 방법

컴퓨터는 현실을 시뮬레이션하는 능력이 점점 더 좋아지고 있습니다. 인공 지능(AI)에 의해 생성된 미디어는 심각한 헤드라인을 장식해 왔습니다. 특히 누군가를 모방하도록 설계된 비디오는

컴퓨터는 현실을 시뮬레이션하는 능력이 점점 더 좋아지고 있습니다. 인공 지능(AI)에 의해 생성된 미디어는 심각한 헤드라인을 장식해 왔습니다. 특히 누군가를 흉내 내도록 고안된 비디오는 마치 자신이 아닌 말이나 행동을 하는 것처럼 보이게 만듭니다.

한 Twitch 스트리머가 동료의 AI 생성 포르노를 제작하는 것으로 알려진 웹사이트에 적발되었습니다. 뉴욕의 한 무리의 학생들이 교장의 인종차별적 발언과 학생들을 위협하는 모습을 동영상으로 만들었습니다. 베네수엘라에서는 생성된 비디오가 정치적 선전을 전파하는 데 사용되고 있습니다.

세 가지 경우 모두 AI가 생성한 비디오는 누군가가 실제로 한 적이 없는 일을 했다는 것을 확신시키기 위한 목적으로 제작되었습니다. 이런 종류의 콘텐츠를 가리키는 단어가 있습니다: Deepfakes.

Deepfakes는 AI를 사용하여 완전히 새로운 비디오나 오디오를 생성하며, 최종 목표는 현실에서 실제로 발생하지 않은 것을 묘사하는 것입니다.

"딥페이크"라는 용어는 대규모 데이터 세트로 문제를 해결하도록 스스로 학습하고 실제 사람들의 가짜 콘텐츠를 만드는 데 사용될 수 있는 기본 기술인 딥 러닝 알고리즘에서 유래되었습니다.

디지털 네트워크 전반의 정보 흐름을 연구하는 회사인 Graphika의 수석 분석가인 Cristina López는 "딥페이크는 수많은 기존 이미지를 통해 훈련된 컴퓨터에 의해 생성된 영상입니다."라고 말했습니다.

딥페이크는 단순히 가짜이거나 오해를 불러일으키는 이미지가 아닙니다. AI가 생성한 패딩 재킷을 입은 교황이나 도널드 트럼프가 기소되기 직전에 유포된 체포되는 가짜 장면은 AI가 생성한 것이지만 딥페이크는 아닙니다. (이러한 이미지가 오해의 소지가 있는 정보와 결합되면 일반적으로 "얕은 가짜"라고 합니다.) 딥페이크를 구분하는 것은 인간의 입력 요소입니다.

딥페이크의 경우, 사용자는 생성된 것이 자신이 원하는 것인지 아닌지를 생성 프로세스의 마지막 단계에서만 결정할 수 있습니다. 훈련 데이터를 조정하고 컴퓨터가 생성한 결과에 대해 "예" 또는 "아니오"라고 말하는 것 외에는 컴퓨터가 데이터를 만드는 방법에 대해 아무런 발언권도 없습니다.

메모: Photoshop 및 CGI와 같은 컴퓨터 지원 기술은 일반적으로 미디어를 만드는 데 사용되지만 차이점은 Adobe의 생성 Firefly 도구와 같은 최근 개발을 제외하고 프로세스의 모든 단계에 인간이 참여한다는 것입니다. "CGI에 대한 많은 AI 지원이 있지만 결국에는 출력이 어떻게 될지 제어하는 ​​인간의 관점을 가진 인간이 있습니다"라고 López는 말했습니다.

딥페이크를 만드는 방법에는 여러 가지가 있지만 가장 일반적인 방법은 얼굴 교환 기술을 사용하는 심층 신경망을 사용하는 것입니다. 먼저 딥페이크의 기초로 사용할 대상 비디오가 필요하고 대상에 삽입하려는 사람의 비디오 클립 모음이 필요합니다.

비디오는 전혀 관련이 없을 수 있습니다. 예를 들어 대상은 헐리우드 영화의 클립일 수 있고 영화에 삽입하려는 사람의 비디오는 YouTube에서 다운로드한 임의의 클립일 수 있습니다.

이 프로그램은 여러 각도와 조건에서 사람의 모습을 추측한 다음 공통적인 특징을 찾아 해당 사람을 대상 비디오의 다른 사람과 매핑합니다.

GAN(Generative Adversarial Networks)으로 알려진 또 다른 유형의 기계 학습이 혼합에 추가되어 여러 라운드 내에서 딥페이크의 결함을 감지하고 개선하여 딥페이크 탐지기가 이를 디코딩하기 어렵게 만듭니다.

프로세스가 복잡하기는 하지만 소프트웨어에 접근하기가 더 쉽습니다. 중국 앱인 Zao, DeepFace Lab, FakeApp, Face Swap 등 초보자도 딥페이크를 쉽게 생성할 수 있는 여러 앱이 있으며 오픈 소스 개발 커뮤니티인 GitHub에서 대량의 딥페이크 소프트웨어를 찾을 수 있습니다.

Deepfake 기술은 역사적으로 합의되지 않은 음란물 생성을 포함하여 불법적인 목적으로 사용되어 왔습니다. FBI는 2023년 6월에 생성 AI의 위험성과 이것이 '노골적인 콘텐츠 생성', '성착취', '괴롭힘'에 어떻게 사용되는지 대중에게 경고하는 공익 광고를 발표했습니다.