2023년 03월 24일 트렌드디비
이미지를 생성하는 인공지능 서비스인 미드저니가 3월 16일, 실사와 다름없는 초고화질의 이미지를 생성하는 새로운 버전을 발표했다. 그런데, 영국의 탐사보도기관인 벨링캣의 창립자인 엘리옷 히긴스가 3월 21일, 현재 형사 고발당한 트럼프 미국 대통령이 체포돼서 감옥에 갇히고 재판을 하고 탈옥을 하는 과정을 담은 사진 수 십 장을 트위터에 게재했다.
이에 미드저니는 타인을 공격하거나 학대하는 텍스트를 사용할 수 없다는 이용 약관을 위반했다면서 사용 금지 조치를 했다. 이에 이런 식으로 조작된 이미지가 얼마나 실제처럼 느껴지는지 실험한 것이라면서 미드저니 자체가 유명인의 이미지를 학습하는데, 그것은 법을 위반하는 게 아닌지 반문했다.
생성형 인공지능 서비스는 그림을 그릴 줄 몰라도 누구나 쉽게 이미지를 만들 수 있다는 장점이 있지만, 유명인이나 지인의 얼굴을 합성해서 부적절한 이미지를 생성하고 유포될 수 있다는 위험이 있다. 기술의 발전과 함께 법적인 안전망을 마련하고, 사람들의 디지털 윤리 의식을 고양할 필요가 있다.
Trump's Arrest, Eliot Higgins
http://twitter.com/EliotHiggins/status/1637927681734987777
http://bellingcat.com
삭제하시겠습니까?
관련 연구
