얼마 전 캄보디아에서 온라인 사기(Scam) 범죄에 연루된 한국인 수십 명이 송환되었다. 그들은 단순한 인신매매 피해자가 아니었다. 사기 조직이 운영하는 보이스피싱, 연애사기 등 불법 온라인 사기에 가담하도록 강요받은 사람들이었다. 이들이 다루던 것은 총이나 칼이 아니라, 인공지능(AI) 기능을 활용한 디지털 도구였다. AI 기술이 범죄 도구로서 그 역할과 위험성이 더 극대화되고 있는 것이다.

캄보디아 사건은 전통적인 보이스피싱 단계를 넘어섰다. AI 번역기와 딥페이크(AI로 만든 이미지·영상), 음성합성 기술이 결합하면서 범죄조직은 언어의 한계를 넘어서 전 세계를 대상으로 공격할 수 있게 되었다. SNS에서 만난 인물이 실제 사람이라고 믿었지만, 그들의 대화 뒤에는 AI 기술이 만든 가짜가 있었다. AI는 상대의 관심사와 시간대에 맞춰 메시지를 조정하며, 사람처럼 반응하는 ‘가짜 신뢰감’을 만들어낸다. 이쯤 되면 단순한 사기가 아니라, 정교하게 설계된 인지조작 시스템에 가깝다.

AI 사기의 본질은 인간의 판단력과 경계심을 무너뜨리는 기술적 설득력에 있다. 사람이 가장 쉽게 믿는 요소(자연스러운 문장, 친근한 말투, 유창한 번역)를 기계가 모방하면서 신뢰의 문턱은 점점 낮아지고 있다. AI는 사람을 속이는 강력하고 자동화된 설득 도구가 될 수 있다.

AI는 원래 고객 응대, 번역, 정보검색을 위해 개발됐다. 그러나 동일한 기술이 범죄조직의 손에 들어가면 ‘서비스 자동화’는 곧 ‘사기 자동화’로 바뀐다. AI가 만들어내는 가짜 신뢰는 인간의 인지적 허점을 정확히 겨냥한다. 딥페이크 영상, 자동 작성된 투자 보고서, AI 음성으로 변조된 지인의 목소리 등 이런 기술이 결합하면 진짜와 가짜의 경계는 더욱 흐려진다. 고도로 설득력 있는 기만 패턴이 AI를 통해 학습되고 생성되는 순간, 사람은 기술의 진위를 판단하기 점점 어려워진다.

이처럼 AI 사기의 확산은 기술의 문제가 아니라 신뢰 검증 체계의 실패에서 비롯된다. 이제 우리는 더 똑똑한 알고리즘보다 더 신뢰할 수 있는 알고리즘을 고민해야 한다. 이를 위해 세 가지 대응이 필요하다. 첫째, 기술적 방어체계다. AI가 생성한 콘텐츠에는 진위 식별을 위한 디지털 워터마크를 삽입하고, 딥페이크 탐지 기술을 고도화해 영상·음성 합성 여부를 식별해야 한다.

둘째, 국제 협력 규범이 필요하다. AI 사기는 국경을 넘어 작동하기 때문에, 경제협력개발기구(OECD) 같은 국제기구가 정보보호와 윤리 기준을 실질적 제도로 발전시켜야 한다.

셋째, 과학과 윤리의 접점을 강화해야 한다. AI가 인간의 신뢰를 흉내 내는 순간, 그 한계를 윤리적으로 대응할 필요가 있다. 기술의 문제가 아니라, 인간의 통제력 부재 등 책임의 문제로 접근해야 한다.

AI 사기의 진화는 기술문명의 어두운 단면을 보여준다. 과학기술이 인간을 돕는다는 믿음은 여전히 유효하지만, 그 기술을 악용하는 속도는 언제나 더 빠르다. 기술의 발전이 멈추지 않는다면, 그만큼 신뢰의 과학과 윤리의 제도화도 함께 진화해야 한다.

캄보디아에서 구출된 피해자들의 증언은 단순한 범죄 사건이 아니라 기술문명의 경고문이다. “기술은 누구를 위해 작동하는가?” 이 질문에 답하지 못한다면 AI는 인간의 도구가 아니라, 인간을 조종하는 새로운 권력이 될지도 모른다.

과학의 미래는 더 강한 알고리즘이 아니라, 더 책임 있는 인간에게 달렸다.

/채재우 한국재료연구원 책임연구원