경찰 AI 조작물 탐지·분석체계, 분석관 전국 배치로 달라지는 것

01무슨 일인가

정책브리핑 정책뉴스가 10월 16일 전한 경찰의 기본계획 이름은 AI 불법 조작물 탐지·분석체계 고도화예요. 경찰청 보도 원문은 열지 못했고, 같은 날 정책브리핑에 실린 기사로 내용을 맞췄어요. 8대 세부 과제는 기술, 시스템, 인력, 조직 측면으로 나뉘어요.

탐지 쪽은 두 갈래예요. 2024년부터 쓰는 딥페이크 탐지 시스템을 한국인 자료로 다시 학습시켜 성능을 높이고, 영상과 음성과 문자를 함께 보며 입 모양과 목소리, 음성과 자막이 맞는지 따지는 멀티모달 기술도 연구해요.

분석 쪽은 사람과 도구예요. 조작물 분석 전문가인 AI 전문분석관을 전국 시도경찰청에 배치해 운영하고, 현장수사관과 분석관 교육을 크게 늘려요. 최신 AI 동향과 탐지 사례를 나누는 민·관·학 전문가 그룹도 꾸려요.

02왜 이렇게 됐나

계획에는 개인 컴퓨터 같은 로컬 환경에서 돌리는 AI 모델을 대상으로 한 포렌식 기술 개발이 따로 들어 있어요. 조작물이 만들어지고 퍼지는 과정 어디에 증거가 남는지 찾는 자동화 도구를 만드는 사업이고, 생성형 AI 서비스의 실행 이력과 명령어 기록, 쓰인 프로그램을 분석하는 기법도 함께 개발해 설명서를 보급하고 있어요.

이미 쌓인 수사 경험도 배경이에요. 국가수사본부는 8월 발표에서 올해 1~7월 딥페이크 범죄 피의자 419명을 검거하고 17명을 구속했다고 밝혔어요. 탐지 소프트웨어는 개발 뒤 지금까지 1636건의 영상에 쓰였고, 판독이 모호하면 과학수사 영상분석관이 영상 분석 프로그램으로 위·변조를 검증하는 절차를 두고 있어요.

수사기관마다 따로 갖추던 판별 도구를 하나로 모으려는 뜻도 읽혀요. 허위조작 콘텐츠 진위 판별 시스템은 개발이 끝나면 모든 수사기관이 공동으로 활용하는 것을 목표로 해요.

함께 운영하는 곳

03이 숫자는 큰 건가

두 연구개발 사업의 총사업비는 91억원과 100억원이에요. 연도별 배분이 공개되지 않아 똑같이 나눈다고 치면, 진위 판별 시스템은 2025~2027년 3개 연도라 연평균 약 30억원이고 로컬환경 AI 포렌식은 2026~2029년 4개 연도라 연평균 25억원이에요. 두 사업이 겹치는 올해 몫은 합쳐서 약 55억원이에요.

올해 경찰청 전체 R&D 예산 682억1200만원과 견주면 올해 두 사업 몫 약 55억원은 8% 안팎이에요. 경찰청 연구개발 가운데 이 영역이 작지 않은 자리를 차지한다는 정도의 크기예요.

정확도는 또 다른 문제예요. 2024년 보도에서는 진위 탐지율이 80% 정도라 탐지 결과를 증거가 아니라 수사 방향을 잡는 용도로 본다는 취지가 소개됐어요. 이번 계획이 정확도 수치를 새로 밝힌 것은 아니고, 그 값이 최신인지도 확인하지 못했어요.

04지난번엔 어떻게 됐나

경찰은 이미 3중 대응체계를 갖췄다고 밝혔어요. 탐지 소프트웨어, 과학수사 영상분석관의 판독, AI 범행도구 분석의 세 갈래이고, 시도경찰청 소속 전문분석관이 어떤 프로그램으로 어느 부분을 바꿨는지 제작부터 유포까지 재구성해요. 이번 계획은 이 체계에 학습 데이터와 인력, 교육을 더하는 확장이에요.

법 쪽의 움직임과도 이어져요. 10월 14일 글에서 다룬 퍼블리시티권 침해 형사처벌 추진은 AI로 흉내 낸 얼굴과 목소리를 법으로 다루려는 흐름이고, 이번 계획은 그런 가짜를 수사 현장에서 가려내는 쪽이에요.

05나한테 뭐가 달라지나

내 얼굴이나 목소리로 만든 가짜가 퍼졌다면 신고 뒤에 따라가는 절차가 위에 적은 순서예요. 탐지 소프트웨어가 먼저 걸러 보고, 판독이 모호하면 영상분석관이 위·변조를 검증하고, 사건이 커지면 시도경찰청 전문분석관이 제작부터 유포까지 재구성해요. 1~7월 피의자 419명 가운데 구속은 17명, 약 4%였어요.

수상한 영상이나 음성을 받은 쪽이라면 탐지 도구가 완벽하지 않다는 전제가 필요해요. 2024년 보도의 탐지율 80%를 그대로 대면 열 건 중 두 건은 놓치거나 틀릴 수 있어요. 최신 수치는 아니라서 정확도 자체보다 도구가 닿지 않는 틈이 있다는 점이 요지예요.