AI 기술로 가능한 사기 유형 및 AI 구별 방법

AI 기술로 가능한 사기 유형 및 AI 구별 방법

 

AI 기술은 손쉽게 전문적인 정보에 접근 할 수 있도록 하여 생활을 윤탁하게 하는 반면 이러한 기술은 동시에 범죄에 악용될 수 있는 무기가 되기도 합니다. 특히 최근에는 실제 사람처럼 말하고, 설득력 있게 문장을 만들어내는 AI가 사기 수법에 활용되는 사례가 급증하고 있는데요. 더 이상 사기는 저급한 언어와 허술한 내용이 아닌, 정교한 딥페이크 영상, 인간처럼 말하는 보이스봇, 감쪽같은 이메일까지도 AI로 인해 생성이 가능한 시대가 왔습니다. 이 글에서는 AI 기술로 가능한 주요 사기 수법 몇 가지를  함께 살펴보고, 우리가 일상에서 AI 사기를 어떻게 구별할 수 있는지에 대한 대응 방법을 알아보고자 합니다.

 

 

AI로 가능한 사기
① 딥페이크 영상과 얼굴 합성 사기

AI 기반 딥페이크 기술은 특정 인물의 얼굴을 다른 사람의 얼굴에 정교하게 합성하고, 실제처럼 움직이게 만들 수 있는데요.

최근에는 SNS에 유명 인플루언서, 기업 대표, 연예인의 얼굴을 활용한 딥페이크 광고 영상이 등장하고 있으며, 이 영상들은 실제 인터뷰나 발표 장면처럼 꾸며져 있습니다.

실제로 2023년, 중국에서는 한 기업 대표가 딥페이크 영상 회의에 속아 250만 달러를 송금한 사건이 있었습니다.

범인은 영상 회의에 CEO의 얼굴과 목소리를 딥페이크로 입혀, 실시간 화상회의를 통해 돈을 요구했고 상대방은 이를 실제로 믿고 거래를 승인하여 벌어진 사건이었습니다.
이처럼 영상 속 인물이 실제 사람처럼 말하고, 감정을 표현하는 수준까지 도달하면서, 딥페이크 사기는 단순 장난이 아닌 고도화된 범죄 수법으로 진화하고 있습니다.

② 보이스피싱과 음성 복제 사기

AI 보이스 클로닝(Voice Cloning) 기술은 단 몇 초의 음성 샘플만으로도 사람의 목소리를 그대로 복제할 수 있습니다.

피해자의 부모, 친구, 상사 등으로 위장해 실제처럼 전화를 걸거나, 문자와 함께 음성 메시지를 첨부해 신뢰를 유도하는 방식이 대표적인데요. 예를 들어, “아빠, 나 사고 났어. 지금 급하게 돈이 필요해”라는 음성 메시지를 실제 자녀의 목소리로 보내면, 부모는 의심 없이 송금을 결정하게 되고 이런 기술은 누구나 사용할 수 있는 오픈소스 AI 모델이나 보이스 클로닝 웹사이트로 손쉽게 접근이 가능합니다.

보통 전화번호가 저장된 지인으로부터 평소와 다른 방식으로 급하게 돈을 요구할 경우ㅡ 전화 대신 음성 파일이나 녹음 메시지가 도착한 경우, 감정이 과도하게 담긴 “도와줘” “급해” “지금 보내줘” 같은 말이 반복되는 경우에는  반드시 영상통화나, 기존에 사용했던 채널(카카오톡, 문자 등)로 재확인을 하는 것이 가장 안전한 방법입니다.

③ 이메일 피싱과 GPT 기반 스팸 메시지

GPT 같은 생성형 AI는 사람처럼 자연스러운 문장을 만들어낼 수 있어, 피싱 이메일이나 스팸 메시지를 이전보다 훨씬 설득력 있게 작성할 수 있습니다. 기존의 피싱 메일은 어색한 번역투, 이상한 문장 구조로 쉽게 구별이 가능했지만, 이제는 전문가가 쓴 것처럼 정교한 문장으로 실제 메일과 같이 위장된 내용으로 발신됩니다.

예를 들어, "국세청 세금 환급 안내", "구글 계정 보안 경고", "쇼핑몰 배송 오류 안내" 등의 제목과 함께 GPT가 자동 생성한 텍스트로 사용자에게 링크 클릭을 유도하고 이 링크를 클릭하면 개인정보 탈취, 계정 해킹, 악성 코드 설치 등으로 이어질 수 있습니다.

여기서 주위깊게 확인해보면 위장한 이메일을 가려낼 수 있습니다.

도메인이 회사 공식 주소와 미세하게 다르거나 메일 내용에 "지금 클릭하세요", "24시간 내에 조치하세요"와 같은  문구가  반복되는 경우가 있습니다. 메일 제목이 아무리 자연스러워도 보낸 주소와 링크 주소를 반드시 확인하는 습관이 필요합니다.

AI 사기를 구별하는 5가지 현실적인 방법

AI 기술로 생성된 콘텐츠는 점점 사람과 구별하기 어려워지고 있지만, 여전히 구별할 수 있는 몇 가지 특징이 있습니다.

구별 방법

- 정보 출처 확인 : 이메일, 문자, 영상을 보낸 사람의 계정이 신뢰할 수 있는 것인지 확인합니다. 

- 문장에 긴급함과 압박적인 글이 포함되는 경우가 많습니다.  

- 링크 주소 검토: 절대 클릭 하지 말고 마우스를 링크에 올리기만 하는 것으로 주소를 확인할 수 있으며 이로 인해 공식 도메인인지 판단 가능합니다.

- 음성의 부자연스러움: 보이스 클로닝은 감정표현이 과장되거나 반복적일 수 있으며 억양이 단조롭고 뚝뚝 끊기면 의심해봐야 합니다. 

- 영상 & 이미지 분석 툴: 딥페이크 영상은 ‘Sensity AI’, ‘Hive’, ‘Microsoft Video Authenticator’ 등의 탐지 도구로 검출이 가능합니다.