경찰이 인공지능(AI)을 악용한 신종 범죄를 수사할 때 단순한 영상 진위 판별을 넘어 조작물 생성에 쓰인 프로그램과 프롬프트(명령어) 기록까지 추적해 입증하는 체계를 갖춘다. 시각 정보에 치중했던 종전 분석의 한계를 극복하고 범행의 고의성과 인과관계를 법정에서 입증하기 위한 조치다.
경찰청 국가수사본부 수사국 디지털포렌식센터는 2026년 10월 15일 이 같은 내용을 뼈대로 하는 ‘AI 불법 조작물 탐지·분석체계 고도화 기본계획’을 수립해 시행한다고 발표했다. 이번 계획은 기술·시스템 4개 과제와 인력·조직 4개 과제를 합친 총 8대 세부 과제로 추진된다.
핵심 기술 과제는 시각과 청각, 문자를 결합해 검증하는 ‘멀티모달(Multi Modal)’ 딥페이크 탐지 시스템 구축이다. 종전에는 영상과 사진의 시각적 변형 여부를 확인하는 데 치중해 음성 합성과 자막 왜곡이 결합된 복합 조작물을 가려내는 데 한계가 있었다. 새 시스템은 인물의 입 모양과 목소리가 일치하는지, 음성과 자막 내용이 부합하는지 등을 종합해 검증한다.
경찰은 기술 개발을 위해 대규모 연구개발(R&D) 예산을 투입한다. 2025년부터 2027년까지 3년간 총예산 91억 원을 들이는 ‘허위조작 콘텐츠 진위여부 판별 시스템 개발’ 사업을 추진해 향후 전 수사기관이 공동 활용하는 플랫폼을 구축할 방침이다. 이어 2026년부터 2029년까지 4년간 100억 원을 들여 개인 PC나 모바일 등 로컬 환경에 설치된 오픈소스 인공지능 모델을 분석하고 증거를 자동 추출하는 기술을 확보하기로 했다.
수사 실무에서는 상용 생성형 AI 서비스의 프로그램 실행 이력과 프롬프트 기록 분석 기법을 매뉴얼로 보급하고 있다. 피의자가 어떤 명령어로 허위영상물이나 음성을 만들어 유포했는지 입증하는 증거 자동 추출 도구도 개발한다. 형사재판에서 성폭력처벌법 제14조의2(허위영상물 등의 반포등)나 정보통신망법상 명예훼손, 형법상 사기 혐의를 입증할 때 프롬프트 로그가 핵심 증거로 쓰일 전망이다.
현장 수사 역량도 강화했다. 경찰은 2026년 5월 전국 시도경찰청에 ‘AI 전문분석관’ 52명을 지정해 배치했다. 경찰이 자체 개발한 탐지 소프트웨어는 2026년 8월 기준 누적 1,636건의 수사에 활용됐으며, 2026년 1월부터 7월까지 허위영상물 범죄 피의자 419명을 검거해 17명을 구속 송치했다.
김종철 경찰청장 직무대행은 “AI를 이용한 범죄 수법이 빠르게 변하는 만큼 경찰의 대응도 달라져야 한다”며 “경찰은 AI로 만든 가짜를 신속하게 찾아내는 것은 물론, 어떻게 만들어지고 유포됐는지까지 효과적으로 추적할 수 있는 첨단 수사 역량을 갖춰 국민이 안심하고 AI 기술을 이용할 수 있도록 하겠다”고 말했다.
