서울시 ‘범죄 예고글’ 자동 감지하는 AI 시스템 개발 착수···“무차별 범죄 잡겠다”

서울시가 온라인 커뮤니티 등에 게시되는 살인·흉기난동 등 ‘무차별 범죄’ 예고글을 자동으로 감지하는 인공지능(AI) 기반 시스템 구축에 나선다. 범죄 가능성을 빠르게 인지해 즉각적인 신고 등 대응을 돕기 위한 것이다.

서울기술연구원은 지난 22일 범죄 예고 게시글에 대한 분석·신고지원 시스템 개발에 착수했다고 24일 밝혔다. 시스템 초기 버전을 개발하는 데 3개월, 안정적인 버전을 완성하기까지 6개월 정도 소요될 것으로 연구원은 보고 있다.

이 시스템은 인터넷에 올라오는 게시글들을 AI 기반 모델이 실시간으로 크롤링(수집)·분석해 요주의 글을 감지할 수 있게 만들어질 예정이다. 현재는 수사기관이 혹시 모를 범죄 예고를 일일이 검색해서 대응하고 있다.

시스템을 구축하려면 AI가 범죄 예고글 패턴을 학습해서 익혀야 한다. 그래야 해당 유형에 맞는 게시글이 올라왔을 때 이를 자동으로 인식해서 알릴 수 있다.

이를 위해 연구진은 최근 5년간 게재된 범죄 예고글을 수집했다. 연구원 관계자는 “원본 기준으로 20여 건이 모였는데 대부분 최근 올라온 것들”이라고 말했다. 공유된 글까지 포함하면 수백여 건에 이른다.

범죄 예고글 자동 감지, 분석, 신고지원 프로세스. 서울기술연구 제공

AI가 학습하기에 표본의 양은 충분한 것일까. 연구진은 범죄 예고글이 ‘모월 모일 모시에 모처에서’ 범행하겠다는 형식으로 구성돼있기 때문에 비교적 적은 데이터로도 학습이 용이하다고 설명했다. 연구원 관계자는 “자연어처리 기법으로 패턴 분석이 충분히 가능하다”고 했다.

데이터는 새로 생기는 대로 추가된다. 범죄 예고글이 텍스트가 아닌 이미지로 올라오는 경우에는 OCR(광학문자인식) 기법으로 텍스트를 추출해서 인식할 수 있다.

현실적으로 모든 웹에 올라오는 글을 전부 모니터링하기는 어렵다. 디시인사이드, 보배드림 등 이용자가 많은 온라인 커뮤니티와 사회관계망서비스(SNS) 등을 선정해 적용하면서 단계적으로 확대할 방침이다.

다만 사람이 문제의 글을 발견하고 신고하는 것보다 시스템이 더 빨라야 한다는 점은 과제다. 연구원 관계자는 “신속성을 담보하는 게 주요 연구 주제 중 하나”라고 말했다. 현재는 수사기관이 같은 게시글에 대해서도 동시다발적으로 여러 건의 신고를 접수하고 있지만, 더 빠르게 게시글 내용을 감지해 정제된 형태로 수사기관에 제공할 수 있게 한다는 것이다.

임성은 서울기술연구원장은 “시민 불안을 가중시키는 온라인 범죄예고 게시글에 발빠르게 대처할 수 있을 것으로 기대된다”며 “서울 시민의 불안을 해소하고 안전한 서울을 만들겠다”고 밝혔다.