경찰청 인공지능의 개발 및 활용에 관한 규칙

제1장 총칙

제1조(목적) 이 규칙은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 및 같은 법 시행령 등에 따라 경찰청 및 「경찰청과 그 소속기관 직제」 제2조에 따른 소속기관이 치안 분야의 인공지능을 체계적이고 안전하게 개발ㆍ활용하기 위한 기준을 제시함을 목적으로 한다.

제2조(정의) 이 규칙에서 사용하는 용어의 뜻은 다음과 같다. 1. "인공지능"이란 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 (이하 "기본법"이라 한다) 제2조제1호에 따른 인공지능을 말한다. 2. "인공지능시스템"이란 기본법 제2조제2호에 따른 인공지능시스템을 말한다. 3. "인공지능기술"이란 기본법 제2조제3호에 따른 인공지능기술을 말한다. 4. "고영향 인공지능"이란 기본법 제2조제4호에 따른 고영향 인공지능을 말한다. 5. "생성형 인공지능"이란 기본법 제2조제5호에 따른 생성형 인공지능을 말한다. 6. "인공지능사업"이란 「국가경찰과 자치경찰의 조직 및 운영에 관한 법률」(이하 "경찰법"이라 한다) 제3조에 따른 경찰의 임무 수행을 지원할 목적으로 인공지능시스템 또는 인공지능기술을 개발ㆍ도입ㆍ운영ㆍ활용하기 위하여 예산과 인력을 투입하는 일련의 사업을 말한다. 7. "인공지능사업부서"란 경찰청 및 「경찰청과 그 소속기관 직제」 제2조에 따른 소속기관(이하 "경찰기관"이라 한다)에서 인공지능사업을 수행하는 부서로서, 사업계획을 수립하고 발주하여 사업의 착수부터 종료까지 추진ㆍ관리하는 과 단위의 조직(팀, 단, 담당관 등 과에 상당하는 조직을 포함한다)을 말한다. 8. "치안데이터"란 경찰법 제3조에 따른 경찰의 임무를 수행하는 과정에서 생성ㆍ수집ㆍ가공ㆍ분석되는 모든 데이터를 말한다. 9. "메타데이터"란 데이터의 체계적인 관리와 편리한 검색 및 활용을 위하여 데이터의 구조, 속성, 특성, 이력 등을 표현한 자료를 말한다. 10. "데이터 품질관리"란 데이터 사용자에게 유용한 가치를 제공하도록 데이터의 품질을 확보하기 위한 품질목표 설정, 품질진단 및 개선 등 일련의 활동을 말한다.

제3조(경찰기관의 책무) ① 경찰기관은 인공지능의 개발ㆍ활용 과정에서 사람의 생명ㆍ신체의 안전 및 기본권을 보호하고, 공공의 안녕과 질서 유지에 기여하도록 노력해야 한다. ② 경찰기관은 인공지능의 안전성과 신뢰성을 확보하고, 오작동이나 오류 등으로 인한 피해를 예방하기 위하여 인공지능을 지속적으로 관리해야 한다. ③ 경찰기관은 공정성과 책임성의 원칙에 따라 인공지능을 개발ㆍ활용해야 하며, 특정 개인이나 집단에 대한 차별이나 편향이 발생하지 않도록 해야 한다. ④ 경찰기관은 인공지능의 개발ㆍ활용 과정에서 치안 목적 수행에 필요한 최소한의 범위에서만 개인정보를 수집ㆍ이용해야 한다.

제4조(적용 범위) 이 규칙은 경찰기관이 수행하는 모든 인공지능사업에 적용한다.

제5조(기본법의 적용 제외 인공지능 지정) ① 기본법 제4조제2항 및 같은 법 시행령 제2조제3호에 따라 기본법의 적용 제외 인공지능 업무를 직접 기획ㆍ수행하는 부서의 장(이하 "소관부서의 장"이라 한다)은 경찰청장에게 기본법의 적용 제외 인공지능 지정을 요청할 수 있다. ② 경찰청장은 적용 범위의 적절성 등을 검토하여 기본법의 적용 제외 인공지능을 지정할 수 있다. ③ 소관부서의 장은 기본법의 적용 제외 인공지능 지정 사유가 해소된 경우 경찰청장에게 지정 해제를 건의해야 한다.

제2장 인공지능 정책 추진체계

제6조(인공지능책임관) 기본법 제10조제4항에 따른 경찰청의 인공지능책임관은 경찰청 차장으로 한다.

제7조(인공지능총괄부서) 인공지능총괄부서는 미래치안정책국으로 하며, 경찰청 인공지능 관련 다음 각 호의 사항을 담당한다. 1. 정책 수립 및 주요 사업의 수행 2. 연구개발 전략 수립 3. 정책 및 사업의 국ㆍ관 및 소속기관 간 조정 4. 인공지능사업 추진에 필요한 치안데이터 구축 및 활용 촉진 시책 마련 5. 활용을 저해하는 규제 발굴 및 개선 6. 공정성ㆍ투명성ㆍ책임성ㆍ안전성 확보 등 신뢰 기반 조성 7. 전문인력 양성 8. 그 밖에 인공지능 발전을 위해 필요한 사항

제8조(인공지능담당관) 소속기관(경찰서는 제외한다)의 장은 다음 각 호의 사항을 담당하도록 하기 위하여 소속 과장 중 1명을 인공지능담당관으로 지정할 수 있다. 1. 소속기관의 인공지능 관련 시책 및 사업의 기획, 조정 및 총괄 2. 관할 지역 치안데이터의 구축 및 활용 촉진에 관한 사항 3. 소속기관 인공지능 전문인력 양성 4. 인공지능총괄부서와의 시책 및 사업 관련 협력 및 보고 5. 그 밖에 소속기관 인공지능 발전을 위해 필요한 사항

제9조(전문가 등 자문 및 업무의 위탁) 인공지능총괄부서의 장은 인공지능 관련 정책의 수립, 전문인력 양성 교육, 인공지능사업 관리, 치안데이터 관리, 인공지능 윤리 및 신뢰성 확보 등 업무 추진 시 필요하다고 판단하는 경우 외부 전문가 또는 전문기관에 자문하거나 업무의 전부 또는 일부를 위탁할 수 있다.

제3장 인공지능사업 관리

제10조(중기사업계획서의 제출) 인공지능사업부서의 장은 당해 회계연도부터 5회계연도 내에 착수 또는 추진하려는 인공지능 관련 신규사업 및 주요 계속사업에 대한 중기사업계획서를 작성하여 인공지능총괄부서의 장에게 제출해야 한다.

제11조(인공지능투자계획의 수립) ① 인공지능사업부서의 장은 다음 각 호의 어느 하나에 해당하는 사업을 계획하는 경우 제10조에 따른 중기사업계획서를 기초로 다음 연도 인공지능투자계획서를 작성하여 전년도 12월 31일까지 인공지능총괄부서의 장에게 제출하고 사전협의를 요청해야 한다. 1. 사업예산이 소요되는 인공지능시스템 구축, 서비스 개발 및 인공지능제품 구매 등 사업 2. 향후 유지관리 비용이 소요되는 무상 도입 소프트웨어 및 장비 등 인공지능시스템 관련 사업 3. 사업예산에 반영된 사업계획을 변경하여 추진하고자 하는 사업 ② 제1항에 따른 인공지능투자계획서에는 다음 각 호의 사항이 포함되어야 한다. 1. 인공지능사업 개요ㆍ목적ㆍ내용ㆍ기간 2. 인공지능사업 추진현황, 추진상의 문제점 및 대책 3. 세부추진일정, 추진조직 4. 목표시스템 구성도, 시스템 구축내용 5. 사용 예정인 인공지능 기술, 학습 데이터의 현황 6. 기본법 등 관련 법령 준수방안 7. 인공지능사업 추진을 통한 업무 개선사항 및 기대효과 8. 예산 편성의 세부내역 9. 그 밖에 인공지능사업 예산 검토에 필요한 사항

제12조(인공지능예산의 검토 및 조정) ① 인공지능총괄부서의 장은 제11조제1항에 따른 사전협의 요청에 대하여 다음 각 호의 사항을 검토해야 한다. 1. 인공지능사업 소요예산의 적정성 2. 인공지능사업의 타당성, 중복성, 상호운용성 3. 기본법 등 관련 법령 준수 여부 4. 그 밖에 예산 검토에 필요한 사항 ② 인공지능총괄부서의 장은 제1항의 검토 결과에 따라 인공지능사업부서에서 요청한 예산을 조정할 수 있다. ③ 인공지능총괄부서의 장은 제1항의 검토 결과를 인공지능사업부서의 장 및 재정담당관에게 통보해야 한다.

제13조(인공지능사업의 조정) ① 인공지능총괄부서의 장은 인공지능사업의 기획 또는 추진 과정에서 유사ㆍ중복 또는 상호 연계가 필요한 사업들을 발견한 경우, 관련 인공지능사업부서의 장과 협의하여 사업을 통합ㆍ조정하거나 사업 내용을 변경하도록 요청할 수 있다. ② 인공지능사업부서의 장은 제1항에 따른 조정 요청을 받은 경우 특별한 사유가 없는 한 이에 따라야 하며, 요청을 이행하기 어려운 경우에는 그 사유를 명시하여 인공지능총괄부서의 장에게 통보해야 한다. ③ 인공지능총괄부서의 장은 제2항에 따라 인공지능사업부서의 장으로부터 조정 요청 이행이 어렵다는 사유를 통보받은 경우 해당 사항을 「경찰 정보화업무 관리규칙」 제4조의 정보화심의위원회에 제출하여 심의를 요청할 수 있다.

제14조(인공지능사업의 사전협의) ① 인공지능사업부서의 장은 예산이 확정된 인공지능사업을 추진하는 경우 사업의 성과목표, 추진계획 및 제안요청서(또는 과업지시서)를 포함한 사업계획서를 작성하여 다음 각 호의 사항을 인공지능총괄부서의 장과 사업의 발주 전에 협의해야 한다. 1. 기존 인공지능사업과의 중복 여부 및 공동 활용 가능성 2. 사업의 구성ㆍ규모 및 추진기간의 적정성 3. 정보보호, 개인정보 보호 및 인공지능 관련 법령 준수 여부 4. 인공지능 투명성 확보 여부 및 고영향 인공지능 해당 시 안전성ㆍ신뢰성 확보 방안 5. 그 밖에 인공지능사업 수행에 필요한 사항 ② 인공지능총괄부서의 장은 제1항에 따라 제출된 사업계획서를 검토하고, 그 결과를 서면 또는 전자적 방식으로 인공지능사업부서의 장에게 통보해야 한다.

제15조(사업 수행 등의 지원) ① 인공지능사업부서의 장은 사업계획 수립, 발주 및 사업 수행을 위하여 필요한 경우 인공지능총괄부서의 장에게 지원을 요청할 수 있다. ② 인공지능총괄부서의 장은 인공지능사업부서의 장으로부터 제1항에 따른 지원 요청을 받은 경우 특별한 사정이 없는 한 이에 협조해야 하며, 필요한 경우 지원 담당자를 지정하여 통보해야 한다. ③ 인공지능총괄부서의 장은 인공지능사업의 원활한 추진을 위하여 다음 각 호의 업무를 지원할 수 있다. 1. 사업계획의 적정성 검토 및 기술적 자문 2. 사업 발주 및 계약(제안서 검토, 기술 협상 등) 과정 검토 3. 분석, 설계, 구현, 시험, 전개 등 단계별 산출물 점검 4. 일정ㆍ위험ㆍ품질 등 사업관리 전반에 대한 자문

제16조(사업관리) 인공지능사업부서의 장은 인공지능사업을 추진함에 있어 사업계획 수립, 발주, 기술성 평가, 계약, 일정관리, 산출물관리, 품질관리, 검수 등 각 단계별 업무를 「경찰 정보화업무 관리규칙」 및 그 밖에 경찰청장이 정하는 바에 따라 체계적으로 관리해야 한다.

제17조(사업완료 통보) ① 인공지능사업부서의 장은 인공지능사업이 완료된 경우, 최종 사업완료 보고서와 다음 각 호의 산출물을 인공지능총괄부서의 장에게 서면 또는 전자적 방식으로 통보해야 한다. 1. 데이터셋 현황 자료: 구축 데이터의 구성, 수량, 분류 기준, 메타데이터, 데이터 항목 정의서, 데이터 관계도 등 2. 데이터 품질관리 자료: 품질 검수 결과, 오류 검출ㆍ보정 이력, 검증 보고서 3. 모델 개발 산출물: 학습ㆍ검증에 사용된 데이터 버전 정보, 모델 구조, 학습 파라미터 및 평가 결과 4. 운영ㆍ활용 매뉴얼: 시스템 운영 절차서, 관리자 매뉴얼, 사용자 매뉴얼 등 5. 보안 및 개인정보 처리 관련 자료: 비식별화ㆍ익명화 내역, 보안점검 결과 등 6. 그 밖에 인공지능총괄부서의 장이 필요하다고 인정하는 산출물 ② 인공지능총괄부서의 장은 필요하다고 판단하는 경우 제1항 각 호의 산출물에 대한 추가 제출이나 보완을 요청할 수 있으며, 인공지능사업부서의 장은 특별한 사정이 없는 한 이에 따라야 한다.

제4장 인공지능윤리 및 신뢰성 확보

제18조(인공지능 투명성 확보) ① 인공지능사업부서의 장은 고영향 인공지능이나 생성형 인공지능을 이용한 시스템을 운영하려는 경우 기본법 제31조에 따른 투명성 확보 조치를 이행해야 한다. ② 제1항에 따른 투명성 확보 조치는 다음 각 호의 어느 하나에 해당하는 경우에는 적용하지 않는다. 1. 인공지능시스템의 명칭, 이용자 화면에 표시된 문구 등을 고려할 때 고영향 인공지능 또는 생성형 인공지능 기반 운용 사실이 명백한 경우 2. 경찰기관 내부 업무 용도로만 사용되는 경우 3. 그 밖에 인공지능시스템의 유형ㆍ특성이나 결과물의 내용, 이용형태 및 기술 수준 등을 고려하여 기본법 제31조제1항부터 제3항까지 중 전부 또는 일부에 대한 적용 예외가 필요한 사항으로 과학기술정보통신부 장관이 정하여 고시하는 경우

제19조(고영향 인공지능의 확인) ① 인공지능사업부서의 장은 인공지능시스템을 운영하려는 경우 그 인공지능이 고영향 인공지능에 해당하는지에 대하여 사전에 인공지능총괄부서의 장에게 서면 또는 전자적 방식으로 확인을 요청해야 한다. ② 인공지능총괄부서의 장은 다음 각 호의 사항을 고려하여 고영향 인공지능 해당 여부를 판단해야 한다. 1. 인공지능이 기본법 제2조제4호 각 목의 어느 하나의 영역에서 활용되는지 여부 2. 사람의 생명ㆍ신체의 안전 및 기본권에 초래할 수 있는 위험의 영향, 중대성, 빈도 및 활용 영역별 특수성 ③ 인공지능총괄부서의 장은 고영향 인공지능 해당 여부 판단을 위하여 필요한 경우 외부 전문가의 자문을 받을 수 있다. ④ 인공지능총괄부서의 장은 제2항에 따라 고영향 인공지능 해당 여부를 판단하기 위하여 필요한 경우 기본법 제33조제1항에 따라 과학기술정보통신부장관에게 고영향 인공지능 해당 여부의 확인을 요청할 수 있다. 이 경우 인공지능사업부서의 장은 기본법 시행령 제25조제1항 각 호의 서류를 인공지능총괄부서의 장에게 제출해야 한다. ⑤ 인공지능총괄부서의 장은 경찰기관 내 고영향 인공지능의 목록을 정리하여 별도로 관리해야 한다.

제20조(고영향 인공지능 안전성ㆍ신뢰성 확보조치 등) ① 인공지능총괄부서의 장은 기본법 제34조제1항제1호에 따른 경찰청 위험관리방안의 수립ㆍ운영 업무를 총괄ㆍ지원한다. ② 인공지능사업부서의 장은 고영향 인공지능의 안전성ㆍ신뢰성을 확보하기 위해 다음 각 호의 업무를 수행한다. 1. 기본법 제34조제1항제1호에 따른 위험관리정책 수립(최신 기술 및 관리방법론이 적용될 수 있도록 주기적으로 갱신해야 한다) 2. 기본법 제34조제1항제2호에 따른 설명 방안의 수립ㆍ시행 3. 기본법 제34조제1항제3호에 따른 이용자 보호 방안의 수립ㆍ운영 4. 기본법 제34조제1항제4호에 따른 고영향 인공지능에 대한 사람의 관리ㆍ감독 ③ 인공지능사업부서의 장은 제2항의 조치를 이행하고 그 근거를 문서로 작성하여 5년간 보관해야 한다. ④ 인공지능사업부서의 장은 제3항에서 작성한 문서를 인공지능총괄부서의 장에게 서면 또는 전자적 방식으로 제출해야 한다.

제21조(공공분야 인공지능 영향평가의 실시 등) ① 경찰청장은 인공지능사업을 수행하기 전에 「인공지능 및 데이터 기반 행정 활성화에 관한 법률」 제32조제1항에 따라 공공분야 인공지능 영향평가를 실시하고 그 결과를 공표해야 한다. ② 제1항에도 불구하고 경찰청장은 도입하려는 인공지능이 「인공지능 및 데이터 기반 행정 활성화에 관한 법률」 제32조제2항제1호부터 제3호까지의 어느 하나에 해당하는 경우로서 행정안전부장관과 협의한 경우와 같은 항 제4호에 해당하는 경우에는 공공분야 인공지능 영향평가를 실시하지 않을 수 있다. ③ 인공지능사업부서의 장은 제1항에 따른 영향평가를 수행하여 그 결과를 서면 또는 전자적 방식으로 인공지능총괄부서의 장에게 제출해야 하며, 인공지능총괄부서의 장은 이를 검토하여 주요 내용을 경찰청장에게 보고해야 한다. ④ 경찰청장은 필요하다고 판단하는 경우 「인공지능 및 데이터 기반 행정 활성화에 관한 법률」 제21조에 따른 전문기관 또는 같은 법 시행령으로 정하는 기관에 공공분야 인공지능 영향평가의 실시를 의뢰할 수 있다.

제22조(재검토기한) 경찰청장은 「훈령ㆍ예규 등의 발령 및 관리에 관한 규정」에 따라 이 규칙에 대하여 2026년 6월 1일을 기준으로 매 3년이 되는 시점(매 3년째의 5월 31일을 말한다)마다 그 타당성을 검토하여 개선 등의 조치를 해야 한다.