인공지능(AI)을 활용한 테러 예방 활동이 명확한 법적 통제 없이 이뤄지면 오히려 극단주의 위험을 키울 수 있다는 경찰 내부 연구 결과가 나왔다. 대테러 현장에 AI 기술을 도입하기에 앞서 비례성 원칙과 적법절차를 보장하는 법적 기반부터 갖춰야 한다는 취지다.

경찰청과 경찰대학 치안정책연구소(소장 장한주)는 공공안전연구부 소속 조정혜 경위의 논문 ‘AI 시대의 예방적 대테러: 전략적 효과성과 인권침해 위험(Preventive Counterterrorism in the Age of AI: Strategic Effectiveness and Human Rights Risks)’이 스코퍼스(SCOPUS) 등재 국제학술지 ‘시큐리티 앤드 휴먼 라이츠(Security and Human Rights)’에 게재됐다고 2026년 11월 15일 밝혔다. 이 학술지는 네덜란드 헬싱키위원회(Netherlands Helsinki Committee) 후원으로 1990년 창간돼 유럽안보협력기구(OSCE)의 활동과 원칙을 다룬다.

최근 온라인 공간을 매개로 극단주의 콘텐츠가 확산하고 테러 위협 양상이 급변하고 있다. 이에 세계 각국 수사·안보기관은 AI로 사전 징후를 탐색하고 예방하는 전략을 확대 도입하는 추세다. 조 경위는 논문에서 유엔 인권최고대표사무소(OHCHR) 원칙과 유럽연합(EU) 인공지능법(AI Act), 유럽안보협력기구 규범을 기준으로 삼아 AI 기반 예방 활동이 기본권을 침해할 소지가 있는지 분석했다.

연구는 법적 통제 장치가 없는 AI 감시와 정보 수집이 초래할 3대 인권 위험 요인을 짚었다. 대규모 자료 수집 및 감시에 따른 사생활 침해, 알고리즘 편향에 따른 특정 집단의 차별적 표적화, AI 판단 과정의 설명 가능성 부족(불투명성)에 따른 적법절차 훼손이다.

특히 알고리즘 오류나 오탐(false positive)이 발생하면 한정된 치안 자원이 낭비될 뿐 아니라, 특정 집단을 과도하게 표적화해 사회적 소외와 반발을 부를 수 있는 것으로 나타났다. 테러를 막으려던 예방 조치가 장기적으로는 구성원의 급진화(극단주의화) 위험을 오히려 높이는 역효과를 낸다는 분석이다.

조 경위는 이를 막기 위한 5대 법적·제도적 개선 과제를 제시했다. 구체적으로 AI 활용의 명확한 법적 근거 마련, 정보 수집 및 분석 범위의 필요 최소한 제한(비례성 원칙), 기본권 제한의 지속적인 필요성·비례성 평가 체계 구축, 알고리즘의 투명성 및 설명 가능성(XAI) 확보, 책임성 강화 및 독립적 감시체계 구축이 필요하다고 제언했다.

조 경위는 “인권 보호는 대테러 활동의 효율성을 제한하는 외부적 제약이 아니라, 정책의 실효성과 지속가능성을 결정하는 핵심 조건”이라며 “AI 기술 도입 자체보다 이를 정당화할 수 있는 법적·제도적 기반 마련이 우선돼야 한다”고 강조했다.

이번 연구는 향후 수사·공공안전 영역에서 AI 감시 기법을 도입하거나 국내 기본 법률인 국민보호와 공공안전을 위한 테러방지법(테러방지법) 등 관련 법제를 정비할 때 비례성 심사와 적법절차 확보의 학술적 논거로 쓰일 전망이다. 저자인 조 경위는 앞서 ‘세계 테러리즘 지수로 본 테러 범죄와 대테러 경찰 활동에 관한 연구’(2023), ‘테러 피해자에 대한 국가적 지원체계’(2024) 등 대테러 법제 연구를 이어 왔다. 2024년 11월에는 국가공무원인재개발원이 주관한 ‘제42회 공공인적자원개발(HRD) 콘테스트’ 연구개발 분야에서 1위(인사혁신처장상)를 수상했다.