21세기 ‘장산범’, AI와 보이스피싱의 결합 AI 악용한 딥보이스·딥페이크 기술로 사기 수법 진화해 한국 도시전설에 ‘장산범’이라는 요괴가 있다. 자연의 소리와 다른 동물의 소리는 물론, 사람의 목소리까지 한번만 들으면 똑같이 흉내낼 수 있어 이를 이용해 산을 찾은 사람을 잡아먹는다는 것이다. 보이스피싱(전화금융사기)은 이 장산범처럼 우리를 홀리고 피해를 준다. 경찰청 국가수사본부가 지난 22일 발표한 보도자료에 따르면, 최근 보이스피싱은 기존 검사 및 금융감독원 직원 사칭에 더해 우체국 집배원이나 고객센터 상담원 등으로도 위장해 발생하고 있다. 특히, 개인정보유출문제가 발생했다며 원격제어 앱을 설치할 것을 유도해 피해자의 휴대폰에 악성 앱을 설치하고 범행 마지막 단계에서 증거를 인멸하는 용도로 사용한다. 또, 새로운 휴대폰을 개통시키고 새로 개통한 휴대폰으로만 연락하다가 현금 인출시에는 기존 휴대폰만 지참하게해 보이스피싱을 의심한 은행직원과 경찰관이 판단할 수 있는 대화내용을 숨기기는 방식도 발견됐다. 보이스피싱은 기술의 발달에 따라 그 수법이 더욱 정교해지고 있다. 최근 한 대학생 커뮤니티에는 이런 게시글도 공유됐다. “전화를 받았는데, 상대방이 한마디도 안했다. 무심코 여보세요? 하려다가 교수님이 '모르는 번호로 걸려왔는데 아무말도 안하면, 목소리를 따서 가족한테 사기치려는 것'이라고 했던 말씀이 떠올라서 바로 끊었다”조회수를 많이 올리기위한 거짓말이라는 반응도 있지만, 최근 AI(인공지능) 기술의 발전 동향을 따져보면 충분히 조심할 필요가 있다. 요즘 유튜브에는 ‘AI 커버’라는 영상들이 즐비하다. 유명인의 목소리와 특징을 학습시킨 AI로, 그가 부른 적 없는 노래를 제작한 것이다. 프레디 머큐리가 아이유의 노래를 부르거나, 도널드 트럼프가 에미넴의 랩을 하는 식이다. 모창 수준도 제법이다.이렇게 AI로 목소리를 흉내내는 ‘딥보이스’ 기술은 목소리 샘플만 있으면 수초내에도 이뤄질 수있다. 데이터가 많을수록 그 수준도 향상된다. 보이스피싱 초창기에도 가족이 납치당했거나 사고를 당했다는 식으로 돈을 갈취하는 방식은 존재했다. 당시에는 가족의 목소리나 비명을 비슷한 또래의 범죄자가 연기했음에도, 상당수의 피해자가 발생했다. 하물며, AI로 제작한 가족의 목소리는 어떨까? 거기다 ‘딥페이크’ 기술을 악용해 가족의 얼굴을 영상통화로 비춘다면, 사기 당하지 않을 자신감을 가지기는 어려울 것이다. 다행히, 대처법은 기존과 크게 다르지 않다. 가족끼리 미리 정해놓은 암호 또는 당사자만 아는 질문으로 신원을 확인하는 것이다. 일상적인 대화를 시도하는 것도 방법이 될 수 있다. AI 학습이 미숙할만한 응답을 유도해 부자연스러운 억양 등을 확인하는 것이다. 또한 기관을 사칭하거나 가족의 얼굴과 목소리를 제작해오더라도, 보이스피싱의 핵심은 결국 금전 요구다. 경찰청은 보도자료에서 ‘평소 보이스피싱 수법을 숙지하고 있으면 피해를 예방할 수 있다’라고 강조했다. 수상한 전화나 문자를 받으면, 연락 받은 번호가 아닌 해당 기관의 대표번호나 112로 전화해 보이스피싱 여부를 확인하고 도움을 받으라는 것이다. AI 보이스피싱 대응도 경찰청이 안내한 방법과 같다. 조금이라도 이상한 점이 발견되면 전화를 끊거나 다른 연락 수단으로 가족의 안전을 확인하고, 수사기관에 신고하면 된다. 금융감독원에서도 ‘보이스피싱지킴이’ 웹사이트를 운영하고 있다. 이 사이트에서는 보이스피싱 주요 사례와 사전예방법, 보이스피싱를 당한 후 행동요령, 각 금융기관의 전담 연락처, 제보 등을 이용할 수 있다. 한편, 사기집단의 손에서 도구로 악용된 AI는, 이들을 수사하는데도 역량을 뽐내고 있다. 지난해부터 경찰은 ‘보이스피싱 음성분석 모델’을 수사에 투입해 사기집단을 검거하고 있다. 피해자의 전화에 녹음된 음성을 AI로 분석해 혐의를 입증하는 것이다. 정부와 통신사의 상호 업무협약을 통해 통화의 키워드를 탐지하고 맥락을 파악해 보이스피싱을 탐지하는 AI 서비스도 개발되고 있다. 도시괴담 속 요괴처럼 우리의 일상을 흉내내고 파괴하는 보이스피싱. 이를 소재로 한 영화 ‘보이스(2021년 개봉)’는 다음과 같이 당부의 메시지를 남겼다. “수상한 전화는 받지말고 돈 얘기가 나오면 무조건 끊으라. 많은 피해자들이 자책하시는데, 피해자의 잘못이 아니다. 그놈들이 악랄한 것이다. 경찰이 끝까지 쫓아가서 잡을 것”

21세기 ‘장산범’, AI와 보이스피싱의 결합

AI 악용한 딥보이스·딥페이크 기술로 사기 수법 진화해

기사입력 2024-08-05 13:00:34

마이크로소프트 Copilot으로 생성한 이미지

[산업일보]
한국 도시전설에 ‘장산범’이라는 요괴가 있다. 자연의 소리와 다른 동물의 소리는 물론, 사람의 목소리까지 한번만 들으면 똑같이 흉내낼 수 있어 이를 이용해 산을 찾은 사람을 잡아먹는다는 것이다.

보이스피싱(전화금융사기)은 이 장산범처럼 우리를 홀리고 피해를 준다. 경찰청 국가수사본부가 지난 22일 발표한 보도자료에 따르면, 최근 보이스피싱은 기존 검사 및 금융감독원 직원 사칭에 더해 우체국 집배원이나 고객센터 상담원 등으로도 위장해 발생하고 있다.

특히, 개인정보유출문제가 발생했다며 원격제어 앱을 설치할 것을 유도해 피해자의 휴대폰에 악성 앱을 설치하고 범행 마지막 단계에서 증거를 인멸하는 용도로 사용한다.

또, 새로운 휴대폰을 개통시키고 새로 개통한 휴대폰으로만 연락하다가 현금 인출시에는 기존 휴대폰만 지참하게해 보이스피싱을 의심한 은행직원과 경찰관이 판단할 수 있는 대화내용을 숨기기는 방식도 발견됐다.

보이스피싱은 기술의 발달에 따라 그 수법이 더욱 정교해지고 있다. 최근 한 대학생 커뮤니티에는 이런 게시글도 공유됐다.

“전화를 받았는데, 상대방이 한마디도 안했다. 무심코 여보세요? 하려다가 교수님이 '모르는 번호로 걸려왔는데 아무말도 안하면, 목소리를 따서 가족한테 사기치려는 것'이라고 했던 말씀이 떠올라서 바로 끊었다”

조회수를 많이 올리기위한 거짓말이라는 반응도 있지만, 최근 AI(인공지능) 기술의 발전 동향을 따져보면 충분히 조심할 필요가 있다.

유튜브 'AI커버' 검색결과 화면 캡처

요즘 유튜브에는 ‘AI 커버’라는 영상들이 즐비하다. 유명인의 목소리와 특징을 학습시킨 AI로, 그가 부른 적 없는 노래를 제작한 것이다. 프레디 머큐리가 아이유의 노래를 부르거나, 도널드 트럼프가 에미넴의 랩을 하는 식이다. 모창 수준도 제법이다.

이렇게 AI로 목소리를 흉내내는 ‘딥보이스’ 기술은 목소리 샘플만 있으면 수초내에도 이뤄질 수있다. 데이터가 많을수록 그 수준도 향상된다.

보이스피싱 초창기에도 가족이 납치당했거나 사고를 당했다는 식으로 돈을 갈취하는 방식은 존재했다. 당시에는 가족의 목소리나 비명을 비슷한 또래의 범죄자가 연기했음에도, 상당수의 피해자가 발생했다. 하물며, AI로 제작한 가족의 목소리는 어떨까? 거기다 ‘딥페이크’ 기술을 악용해 가족의 얼굴을 영상통화로 비춘다면, 사기 당하지 않을 자신감을 가지기는 어려울 것이다.

다행히, 대처법은 기존과 크게 다르지 않다. 가족끼리 미리 정해놓은 암호 또는 당사자만 아는 질문으로 신원을 확인하는 것이다. 일상적인 대화를 시도하는 것도 방법이 될 수 있다. AI 학습이 미숙할만한 응답을 유도해 부자연스러운 억양 등을 확인하는 것이다.

또한 기관을 사칭하거나 가족의 얼굴과 목소리를 제작해오더라도, 보이스피싱의 핵심은 결국 금전 요구다.

경찰청은 보도자료에서 ‘평소 보이스피싱 수법을 숙지하고 있으면 피해를 예방할 수 있다’라고 강조했다. 수상한 전화나 문자를 받으면, 연락 받은 번호가 아닌 해당 기관의 대표번호나 112로 전화해 보이스피싱 여부를 확인하고 도움을 받으라는 것이다.

AI 보이스피싱 대응도 경찰청이 안내한 방법과 같다. 조금이라도 이상한 점이 발견되면 전화를 끊거나 다른 연락 수단으로 가족의 안전을 확인하고, 수사기관에 신고하면 된다.

금융감독원 '보이스피싱지킴이' 웹사이트 화면 캡처

금융감독원에서도 ‘보이스피싱지킴이’ 웹사이트를 운영하고 있다. 이 사이트에서는 보이스피싱 주요 사례와 사전예방법, 보이스피싱를 당한 후 행동요령, 각 금융기관의 전담 연락처, 제보 등을 이용할 수 있다.

한편, 사기집단의 손에서 도구로 악용된 AI는, 이들을 수사하는데도 역량을 뽐내고 있다.

지난해부터 경찰은 ‘보이스피싱 음성분석 모델’을 수사에 투입해 사기집단을 검거하고 있다. 피해자의 전화에 녹음된 음성을 AI로 분석해 혐의를 입증하는 것이다.

정부와 통신사의 상호 업무협약을 통해 통화의 키워드를 탐지하고 맥락을 파악해 보이스피싱을 탐지하는 AI 서비스도 개발되고 있다.

도시괴담 속 요괴처럼 우리의 일상을 흉내내고 파괴하는 보이스피싱. 이를 소재로 한 영화 ‘보이스(2021년 개봉)’는 다음과 같이 당부의 메시지를 남겼다.

“수상한 전화는 받지말고 돈 얘기가 나오면 무조건 끊으라. 많은 피해자들이 자책하시는데, 피해자의 잘못이 아니다. 그놈들이 악랄한 것이다. 경찰이 끝까지 쫓아가서 잡을 것”