가짜 동영상을 만드는 딥페이크 기술을 이용한 범죄가 많이 늘어난 가운데, 그에 대응하는 기술을 같이 개발한다. 딥 러닝(Deep Learning) 기술은 인공지능의 비약적인 발전을 가져왔는데, 그 반대급부로 가짜 동영상을 만드는 딥페이크도 범람하고 있다.

딥페이크 모니터링 기업인 센서티가 얼마 전 2024년 딥페이크 현황 보고서(The State of Deepfakes 2024)를 내놨는데, 최근 투자 사기에 사용된 2000개 이상의 딥페이크 동영상 중 약 25%에서 미국 전기자동차 제조사인 테슬라의 CEO인 일론 머스크가 등장한다고 보고했다. 특히, 암호화폐와 관련돼서는 90%에 달한다고 한다. 그는 암호화폐에 우호적인 새로운 트럼프 행정부에서 정부효율성위원회( Department of Government Efficiency)의 공동 책임자를 맡을 정도로 지명도가 높다. 
https://sensity.ai/reports

사실적인 가짜 동영상으로 신뢰를 얻는 사기 방식

목소리나 사진과 동영상을 이용해 사기꾼이 작성한 대본대로 말하는 가짜 동영상을 만들어 사람을 속이는 사례가 많다. 그중에서도 대면하지 않는 인터넷과 전화를 이용한 사기가 극성인데, 궁극적으로는 돈을 노리는 사기 사건에서 신뢰를 얻는 과정은 매우 중요하다. 그래서 검찰, 경찰청, 국세청, 우체국, 은행, 통신사 등 누구나 아는 공공기관이나 대기업 등의 이름을 도용하는 경우가 많다. 이것이 한층 발전해 아예 동영상으로 접근하므로 속기 쉽다.

심지어 올해 초 영국에서는 최고재무책임자(CFO)로 가장한 사기꾼과 화상 회의를 통해 거액을 사기당한 기업이 있을 정도다. 사실적인 딥페이크 동영상으로 단순히 돈을 잃는 것에 그치지 않고, 여론을 바꾸며 정치적인 영향력까지 행사하는 것도 큰 문제다. 

외국어로 연설하는 인공지능 독재자
https://trenddb.com/life/1564766

해킹된 언론 매체를 통해 유통된 딥페이크 영상
https://trenddb.com/life/1441361

딥페이크 기술을 사용한 것인지 식별하는 기술

사회관계망 서비스에서 자기 얼굴 사진을 공개하는 사람이 많은데, 이런 사진을 합성해서 불건전하게 이용하는 문화가 문제가 되고 있다. 최근 한국에서도 텔레그램에서 지인 능욕을 목적으로 딥페이크 합성 사진을 유포해 사회적으로 논란이 됐다. 또, 딥페이크 사진으로 음란한 이미지를 만들어서 협박하는 사건도 있었다. 그래서 범죄자들이 얼굴 이미지를 이용하지 못하도록 보호하는 필터를 적용하거나 현재 보고 있는 사진이나 동영상이 딥페이크 기술로 만든 건 아닌지 알려주는 기술을 사용한다. 

얼굴 이미지의 딥페이크를 방지하는 필터
https://trenddb.com/life/1561346

가짜 프로필 사진을 찾아주는 확장 프로그램
https://trenddb.com/life/1441544