동남아시아에 근거지를 둔 범죄조직이 생성형 인공지능(AI) 챗GPT를 이용해 사기 행각을 벌이고 있는 것으로 드러났다. 챗GPT 활용으로 범행 능률이 증가하면서 더 많은 피해자가 나오고 있다는 증언도 이어졌다.

로이터통신은 15일(현지시간) 범죄조직에 납치돼 미얀마·태국 국경 지역에서 온라인 사기에 가담하게 된 케냐인 던컨 오킨도(26)의 사연을 소개했다.

오킨도는 ‘고객 서비스 업무’ 채용 공고를 보고 지난해 태국 방콕으로 향했다. 하지만 그는 입국 직후 범죄 조직에 붙잡혀 미얀마·태국 국경 지역의 대규모 온라인 사기와 인신매매 거점인 이른바 ‘KK 단지’로 끌려갔다.

오킨도가 끌려간 건물에는 인신매매 피해자 수백 명이 강제로 노역에 동원돼 있었다. 이들은 데스크톱 PC에서 무료 버전의 챗GPT를 실행해 미국 부동산 중개인을 대상으로 가상통화 투자를 유도하는 메시지를 작성했다고 한다. 로이터는 주로 중국 범죄조직이 ‘돼지 도살’이라고 불리는 이 같은 수법을 이용한다고 전했다.

오킨도는 부동산 중개 웹사이트에 접속해 개인 정보를 수집했고, 자신을 ‘부유한 투자자’로 소개하며 이들과 접촉했다. 그는 자신이 가상통화로 큰돈을 벌었다고 속여 대상자가 특정 가상통화 거래 플랫폼에 현금을 입금하도록 유도했다. 이 플랫폼은 이 범죄조직이 만든 허위 사이트였다.

오킨도는 챗GPT를 “사기꾼이 사기 칠 때 가장 많이 사용하는 AI 도구”라고 했다. 자신을 텍사스주의 목장주, 앨라배마주의 콩밭 농장주 등으로 속인 그는 챗GPT가 알려준 사투리로 피해자와 대화했을 뿐만 아니라 부동산 중개인이 가상통화나 미국 주택 시장에 대해 질문하면 챗GPT에서 그럴듯한 답변을 얻어냈다. 오킨도는 AI를 통해 얻어낸 새 사기 수법으로 이미 사기 피해를 본 피해자들까지 다시 속일 수 있었다고 덧붙였다.

오킨도는 하루 할당량을 채우지 못하면 현장 관리자가 인신매매 피해자들을 때리거나 전기봉으로 충격을 가했다고 말했다. 그는 태국 정부가 단지 전력을 차단해 범죄조직을 압박하자 납치 4개월 만에 KK 단지에서 벗어날 수 있었다.

로이터는 범죄조직으로부터 연애 빙자 사기(로맨스스캠)에 가담하도록 강요받은 미얀마 남성 두 명도 챗GPT를 활용해 피해자를 속였다고 전했다. 한 미얀마 남성은 “챗GPT의 설득력 있는 문체는 피해자들이 우리를 더 믿게 했다”며 “AI와 협력하는 것은 정말 효율적이었다”고 말했다.

오픈AI는 이 사건과 관련해 “사기 관련 오용을 적발하고 차단하기 위해 적극적으로 노력하고 있다”며 자사 조사관들이 사용자의 오용 행위를 감시하고 있다고 해명했다.