서울시 '시민안전' 위해 10월 본격 가동

▲ 이미지를 이용한 게시물 필터링 우회 사례. ⓒ 서울시
▲ 이미지를 이용한 게시물 필터링 우회 사례. ⓒ 서울시

사이버범죄가 증가하는 가운데 서울시가 불법대부, 다단계 판매 같은 민생범죄 수사에 인공지능 기술을 도입한다고 22일 밝혔다.

빅데이터 기술로 SNS, 블로그 등 온라인 콘텐츠 가운데 불법성이 의심되는 게시글이나 이미지를 실시간으로 수집하고, 이런 불법 광고에서 자주 발견되는 패턴 등을 인공지능에 학습시켜 정상적인 게시물과 불법 게시물을 분류하는 것이 핵심이다.

최근 한글을 파괴하거나 은어, 신조어, 기호 등을 활용한 불법 광고물이 인터넷 상에 확산하고 있지만 검색이 어렵고 생성·삭제가 쉬운 온라인 특성상 증거 수집이 쉽지 않아 수사에 어려움이 있다.

AI 기술을 활용하면, 수사관이 일일이 인터넷 사이트를 방문하거나 검색해서 게시물의 불법성을 판단했던 기존 방식 대신 빅데이터 분석 기법으로 인터넷 상의 막대한 양의 수사단서를 신속하게 찾을 수 있다.

시는 이번 기술용역을 통해 한글을 파괴하거나 기호나 은어 사용 등 검색을 회피하는 다양한 패턴을 찾아내는 알고리즘을 개발할 계획이다. 또 불법 광고 내용을 텍스트 형태가 아닌 이미지에 삽입해 검색을 피하는 수법이 증가함에 따라 이미지를 분석해 정보를 추출하는 기술도 추가로 도입한다는 계획이다.

서울시는 연말까지 관련 시스템을 구축해 인공지능 수사관을 도입한다. 불법 콘텐츠 분류 정확도를 90% 이상으로 끌어올린다는 목표다.

우선 연말까지 불법 대부업, 다단계, 부동산 불법 거래, 상표권 침해행위 등 5개 분야 수사에 적용하고, 내년부터 수사 분야를 점진적으로 확대해나간다는 계획이다.

서울시 관계자는 "경찰에서도 관련 기술을 개발하고 있지만 기술 용역 발주 시기와 진행 속도를 볼 때 서울시가 국내 최초로 인공지능 기술을 수사에 도입하는 것"이라며 "빠르면 10~11월쯤 인공지능 수사관이 본격 활동할 것"이라고 밝혔다.

서울시는 지난 5~7월 수사영역에 인공지능 기술 적용 가능성을 검증하기 위해 불법 다단계·방문판매 분야를 대상으로 인공지능 알고리즘을 개발하는 시범사업을 진행해 82%의 분류정확도를 확보했다고 밝혔다.

이를 통해 대출을 머출, 명작을 띵작으로 자·모음의 유사성을 이용해서 비슷한 글자로 바꿔쓰는 일명 '야민정음' 등 키워드를 발견하는 추가적인 성과가 있었다고 전했다.

김태균 서울시 정보기획관은 "민생범죄로부터 시민의 안전이라는 구체적인 목표를 달성하기 위해 인공지능을 수사에 활용한 최초 사례"라며 "인터넷 상의 잘못된 정보로 피해받는 시민들을 보호하기 위해 4차 산업혁명 기술을 활용하고 스마트도시 행정서비스를 선도해가기 위해 최선을 다하겠다"고 말했다.

저작권자 © 누구나 안심하고 살 수 있는 세상을 만드는 언론 세이프타임즈 무단전재 및 재배포 금지