딥페이크 메이커

Kapwing의 무료 계정을 사용하고 있다면, 딥페이크 메이커를 포함한 모든 내보내기에 워터마크가 포함됩니다. Pro 계정으로 업그레이드하면 워터마크가 완전히 제거됩니다.

'딥페이크'라는 용어는 'AI의 한 분야인 딥러닝'과 '가짜'의 조합으로, 콘텐츠 제작 방식과 그 속이는 본질을 반영해요. AI 기술의 발전으로 마치 진짜처럼 보이지만 조작되거나 완전히 만들어진 매우 사실적인 이미지, 동영상, 음성을 만들 수 있게 됐어요. 동영상과 음성에서 딥페이크는 보통 사람의 얼굴, 목소리, 움직임을 대체하거나 바꿔서 실제로 하지 않은 말이나 행동을 하는 것처럼 보이게 해요. 딥페이크는 종종 창의적이고 엔터테인먼트, 교육적 목적으로 사용되지만, 허위 정보를 퍼뜨리고 프라이버시를 침해할 수 있어 윤리적, 법적 우려도 있어요. 이런 이유로 Kapwing은 모든 딥페이크 콘텐츠에 제거할 수 없는 'AI 생성' 워터마크를 명확하게 표시해요.

아니, 딥페이크 동영상은 불법이 아니고 미국에는 딥페이크를 금지하거나 규제하는 연방법이 없어요. 하지만 10개 주에서는 노골적인 딥페이크 콘텐츠를 만들고 공유하는 사람들을 특별히 겨냥한 법률이 있고, Kapwing가 기반을 둔 캘리포니아도 그중 하나예요.

2024년 1월, Taylor Swift는 딥페이크 유출의 피해자가 됐어요. 대중을 속인 가짜 동영상들이 소셜 미디어에 퍼졌고, 한 동영상은 X(Twitter)에서 4,700만 뷰를 기록한 후 삭제됐어요. 이 사건으로 미국 정치인들이 새로운 법안을 요구했죠. 그럼에도 불구하고 7개월 후인 2024년 8월, Donald Trump는 Taylor Swift와 그녀의 팬들이 그의 대통령 캠페인을 지지한다고 허위로 묘사한 AI 생성 이미지 모음을 공유했어요. Kapwing의 AI 연구에 따르면 Taylor Swift는 인터넷에서 가장 많이 딥페이크된 10명의 유명인 중 3위를 차지해요.

Kapwing는 딥페이크 콘텐츠의 통제와 안전을 지지하고, 우리 엔지니어들은 AI 콘텐츠가 노골적이거나 오해의 소지가 있는 또는 부적절한 주제에 사용되지 않도록 열심히 노력하고 있어요.

우리가 어떻게 AI 콘텐츠가 해를 끼치지 않도록 하는지 더 자세히 알고 싶다면 이용약관을 확인해보세요.

평균적인 소셜 미디어 사용자가 딥페이크 콘텐츠를 감지하는 건 정말 어려워요 — 단 17%의 사람들만 유명인의 연설이 진짜인지 가짜인지 판단하는 Kapwing의 AI 퀴즈를 완료했어요. 가장 뚜렷한 특징들은 말과 입 움직임의 불일치, 배경 세부사항의 불일치, 이상한 팔다리나 얼굴 움직임, 비디오 결함, 그리고 흐릿함 등이에요. 연구자들, 기술 기업, 그리고 비디오 전문가들은 프레임별 분석과 딥페이크 탐지 소프트웨어를 활용해 딥페이크 콘텐츠를 식별하고 인터넷을 안전한 공간으로 유지해요. 해로운 딥페이크 콘텐츠는 해당 앱이나 웹사이트에서 신고할 수도 있어요.

딥페이크 콘텐츠의 역사는 1990년대 초반 CGI의 발전이 앞으로의 딥페이크 여정에 촉매제 역할을 했을 때로 거슬러 올라갑니다. 하지만 2017년 후반, Reddit 사용자가 '딥페이크'라는 용어를 만들어내고 유명인의 얼굴로 대체된 AI 생성 동영상을 공유하기 전까지는 아무도 몰랐죠. 바로 이 순간이 딥페이크가 '발명된' 때입니다.

Kapwing의 '교육' 섹션을 사용하면 최신 오픈 소스 립싱크 기술을 활용한 딥페이크 콘텐츠 만드는 방법을 쉽게 배울 수 있어요. Taylor Swift, Elon Musk, Donald Trump 같은 유명인들이 연구 사례로 선택됐어요. 사용자는 허가받은 사람들의 Persona 비디오만 올릴 수 있어요. 자신의 비디오를 쓰거나, 승인된 스톡 Persona를 고르거나, 다른 사람의 비디오를 Persona로 학습할 때는 반드시 명시적 허가를 받아야 해요. 유명인이나 허가 없이 다른 사람의 비디오를 사용하는 건 금지되며 Kapwing의 서비스 약관을 어기는 행위예요.

딥페이크 기술은 고급 AI, 특히 생성적 적대 신경망(GANs)과 같은 딥러닝 알고리즘을 사용해 매우 사실적인 가짜 동영상, 이미지, 또는 오디오를 만들어요. 이 기술은 한 사람의 얼굴이나 목소리에 대한 대규모 데이터셋으로 모델을 훈련시켜 그 사람의 표정, 움직임, 말투를 모방할 수 있어요. 결과적으로 완전히 조작된 콘텐츠임에도 불구하고 실제 사람과 매우 흡사하게 보이거나 들리게 됩니다.

맞아, 딥페이크가 전 세계적으로 인기를 얻고 있어. Kapwing가 딥페이크에 대한 글로벌 관심을 분석했더니 한국(13,399), 체코(11,356), 스웨덴(10,443)이 백만 명당 10,000건 이상의 딥페이크 관련 검색을 기록한 유일한 국가들이었어.