(시사캐스트, SISACAST= 이지나 기자)

AI 기술을 악용해 선정적이고 폭력적인 콘텐츠를 만들어 유통하거나 사기를 치는 사례가 늘 것이라는 우려 가 높아진 상황에서 실제 피해가 발생해 경각심이 커지고 있다. 범죄자는 아이의 음성을 AI 목소리로 합성해 부모에게 돈을 요구했고, 아이의 부모는 아이의 절규를 듣고 범죄자에게 돈을 송금했다.

6일(현지시간) 영국 더타임스에 따르면, 캐나다 앨버타에 사는 벤저민 파커(39)의 부모는 최근 AI기술을 활용한 보이스피싱 피해를 당했다. 보이스피싱범은 AI로 위조한 목소리를 사용해 부모를 속였다.

파커의 부모는 아들의 변호사라고 주장하는 이의 전화를 받게 됐다. 그는 파커가 교통사고로 미국인 외교관을 숨지게 한 뒤 수감돼 있다고 전하면서 아들의 목소리를 들려줬다. 당시 수화기 너머에서는 파커의 목소리와 매우 비슷한 음성이 흘러나왔다. 그리고 부모에게 “다음날 있을 법원 심리 전까지 2만1000캐나다달러(약 2000만원)을 송금해 달라”고 요구했다.

파커의 부모는 수상했으나 아들의 목소리가 옳았다고 판단하고 여로 곳에서 돈을 인출한 뒤 변호사에게 비트코인으로 돈을 보냈다. 하지만 그날 진짜 아들의 전화를 받은 부모는 사기를 깨달았다. 더타임스는 온라인에서 무료로 배포하는 소프트웨어 프로그램만으로도 목소리를 쉽게 위조할 수 있다고 전했다.

AI기술을 악용한 범죄 사기는 이뿐만이 아니다. 실제 인물에 영상이나 음성을 합성하는 AI 기술이 발달하면서 유명 배우들의 얼굴이 한 순간 포느노 광고에 등장하기도 했다. 최근 중국에서는 한 장의 얼굴을 간단하게 딥페이크(Deepfake)로 합성해 영상을 만들어내는 앱 ‘ZAO’가 등장하기도 했다. 최근에는 할리우드 배우 엠마 왓슨 등 유명 배우들이 딥페이크를 활용한 음란광고에 등장하고 있다는 뉴스가 전해져 충격을 주고 있다.

미국 NBC 뉴스가 8일(현지시간) 보도한 내용에 따르면, 딥페이크 관련 애플리케이션 광고물에서 왓슨의 얼굴이 등장했다. 그녀는 처음에 수줍게 웃다가 카메라 앞에 몸을 굽히며 야릇한 행동을 취한다.이 광고는 실제 왓슨이 아닌 딥페이크 기술을 활용한 사기인 것이다.

페이스북 등 메타의 SNS에 나온 앱 광고물 중 127개가 왓슨을 닮은 것이었고 다른 74개는 할리우드 액션 여배우 스칼릿 조핸슨의 얼굴을 쓴 것으로 파악됐다고 NBC는 전했다. NBC는 실제로 최근 이 같은 앱을 이용해 딥페이크 기술을 적용해 보니 수 초 만에 뚝딱 얼굴을 바꿀 수 있었다고 전했다.

이런 피해는 유명 인사뿐 아니라 인플루언서, 일반인까지 어떤 얼굴도 사기의 대상이 될 수 있다는 점에서 경각심이 더해지고 있다. [시사캐스트]

이지나 기자 sisa.mintboo@gmail.com 다른기사 보기