경찰대학, AI 대테러 전략 인권침해 위험 분석…국제학술지 게재

AI 기반 테러 예방 효과 분석…사생활 침해·알고리즘 편향 위험 지적
유엔 인권 원칙·EU AI법 검토…대테러 정책의 법적 정당성 강조

경찰대학./연합뉴스

경찰대학 치안정책연구소 소속 조정혜 경위가 인공지능(AI)을 활용한 예방적 대테러 전략의 효과성과 인권침해 위험을 분석한 연구논문을 국제학술지에 게재했다. AI 기반 대테러 활동의 실효성을 높이기 위해서는 기술적 효율성뿐 아니라 인권 보호와 법적 통제체계 마련이 중요하다는 분석이다.

경찰대학 치안정책연구소는 조 경위의 연구논문 'AI 시대의 예방적 대테러: 전략적 효과성과 인권침해 위험'이 스코퍼스(SCOPUS) 등재 국제학술지 'Security and Human Rights'에 게재됐다고 15일 밝혔다.

해당 학술지는 네덜란드 헬싱키위원회 후원으로 1990년 창간됐으며, 유럽안보협력기구(OSCE)의 활동과 원칙을 바탕으로 국제 안보와 인권 보호에 관한 연구를 다루고 있다.

이번 논문은 온라인 공간을 중심으로 테러 위협이 변화하면서 각국이 AI 기반 예방적 대테러 전략을 확대하는 상황에 주목했다. 특히 AI 기술을 활용한 테러 위험 예측과 감시 활동이 국가안보뿐 아니라 시민의 기본권에 미치는 영향을 중점적으로 분석했다.

조 경위는 유엔 인권최고대표사무소(OHCHR)의 원칙을 분석 기준으로 삼고, 유럽연합(EU) 인공지능법(AI Act)과 OSCE의 관련 규범을 검토했다. 이를 통해 AI 기반 대테러 활동의 주요 위험으로 대규모 정보 수집에 따른 사생활 침해, 알고리즘 편향에 따른 차별적 표적화, AI 판단 과정의 불투명성으로 인한 적법절차 훼손 등을 제시했다.

특히 광범위한 감시와 불명확한 판단 기준이 시민의 신뢰를 떨어뜨리고, AI의 예측 오류와 오탐이 치안 자원의 비효율적 배분으로 이어질 수 있다고 지적했다. 특정 집단에 대한 과도한 권리 제한은 사회적 소외와 반발을 심화시켜 장기적으로 급진화 위험을 높일 가능성도 있다고 분석했다.

이에 따라 AI 기술 도입 자체보다 이를 정당화할 수 있는 법적·제도적 기반 마련이 우선돼야 한다고 강조했다. 구체적으로 명확한 법적 근거 마련, 정보 수집 범위의 최소화, 기본권 제한에 대한 필요성·비례성 평가, 알고리즘의 투명성과 설명 가능성 확보, 독립적 감시체계 구축 등을 주요 과제로 제안했다.

이번 연구는 AI를 활용한 온라인 극단주의 콘텐츠 분석과 급진화 징후 탐색의 가능성을 인정하면서도, 인권 보호가 대테러 정책의 효과성과 지속가능성을 높이는 핵심 조건이라는 점을 강조했다는 데 의미가 있다.

한편 조 경위는 2024년 국가공무원인재개발원이 주관한 제42회 공공인적자원개발 경연(공공HRD콘테스트) 연구개발 분야에서 1위를 차지한 바 있다.

경찰대학 치안정책연구소는 1980년 개소한 경찰대학 부설 연구기관으로, 현재 1과 2부 8개 연구실·연구센터 체제로 운영되고 있다.