현실보다 더 진짜 같은 가짜, 신종 AI 범죄의 위협

우리 일상 깊숙이 파고든 인공지능 기술은 편리함을 주기도 하지만, 이를 악용한 새로운 형태의 범죄들이 늘어나고 있어 각별한 주의가 필요합니다. 오늘은 최근 급증하고 있는 신종 AI 범죄의 실태와 이에 따른 제도적 한계를 함께 살펴보겠습니다.

구분	주요 내용
범죄 유형	중고 거래 송장 합성, 진단서 위조, 디페이크 성착취물 등
피해 사례	1억 5천만 원 상당의 보험 사기, 가짜 탄원서 작성 등
현황	딥페이크 성범죄 급증(사이버 성폭력의 35%), 통계 집계 미비
문제점	해외 사업자 규제 어려움, AI 표시 제거 앱 등장 등 기술적 한계

교묘해지는 사기 수법과 AI 활용 실태

최근 온라인 중고 거래에서는 AI로 합성한 가짜 택배 송장 사진이 기승을 부리고 있습니다. 판매자가 주소와 바코드가 선명한 사진을 보내주니 구매자는 믿고 돈을 입금하지만, 실제로는 존재하지 않는 가짜 사진인 경우가 많습니다. 또한 생성형 AI를 활용해 날짜나 이름을 메모장에 합성하는 일은 이제 누구나 쉽게 할 수 있을 정도로 기술이 대중화되었습니다.

사기 수법의 진화

분류	상세 내용
중고 거래	AI 합성을 통한 가짜 송장 및 인증 사진 제작
문서 위조	챗GPT 등을 활용한 진단서 위조 및 가짜 탄원서 작성
금융 범죄	위조된 문서를 통한 수억 원대 보험금 편취

문서 위조를 통한 지능형 범죄의 등장

단순한 사진 합성을 넘어 전문적인 문서를 위조하는 사례도 늘고 있습니다. 실제로 부산에서는 20대 남성이 챗GPT를 이용해 병원 진단서 내용을 정교하게 위조하여 보험사로부터 1억 5천만 원 상당의 보험금을 가로채다 적발된 사건이 있었습니다. 또한 마약 사범이 생성형 AI로 반성문이나 탄원서를 대필하여 제출했다가 징역형을 선고받는 등 사법 체계를 교란하는 범죄로까지 이어지고 있습니다.

심각해지는 성범죄와 통계의 사각지대

가장 우려스러운 부분 중 하나는 딥페이크 기술을 악용한 성착취물 범죄입니다. 지난해 적발된 건수만 1,500여 건에 달하며, 이는 전체 사이버 성폭력 범죄의 약 35%를 차지할 정도로 비중이 높습니다. 하지만 안타깝게도 현재 수사 체계에서는 AI 활용 범죄를 별도의 항목으로 집계하지 않고 단순 사기나 성범죄로 분류하고 있어, 정확한 범죄 현황을 파악하는 데 어려움을 겪고 있습니다.

AI 범죄 현황 및 한계

항목	실태 및 문제점
성범죄 비중	전체 사이버 성폭력 중 디페이크 관련 범죄 35% 육박
통계 관리	AI 활용 여부에 대한 별도 통계 산출 시스템 부재
기술적 대립	판별 기술이 나오면 이를 우회하는 새로운 AI 기술 등장

제도적 대책의 실효성과 향후 과제

올해부터 AI 제작물에 대한 표시 의무화 등을 골자로 한 AI 기본법이 시행되었지만, 실효성 면에서는 여전히 의문이 제기되고 있습니다. 구글이나 메타처럼 본사가 해외에 있는 기업들에게 국내법을 적용하기가 까다롭기 때문입니다. 더욱이 최근에는 영상이나 사진에 새겨진 AI 표시(워터마크)를 흔적 없이 지워주는 앱까지 등장하여 법망을 비웃고 있습니다. 범죄 수법은 나날이 진화하는데 법과 제도는 이를 따라가지 못하는 실정입니다.

기술과 법의 간극 극복

구분	내용
법적 규제	AI 제작물 표시 의무화 시행 중이나 해외 사업자 적용 한계
악용 사례	AI 표시 제거 기술 등장으로 규제 무력화 시도
필요 대책	종합적인 범죄 예방 시스템 구축 및 사회적 합의 필요

이제는 AI 범죄를 단순히 개인의 주의 문제로 치부할 것이 아니라, 국가 차원의 종합적인 대책 마련과 사회적 고민이 필요한 시점입니다. 기술의 발전이 범죄의 도구가 되지 않도록 우리 모두의 관심과 제도적 뒷받침이 절실합니다.