事案機関AIレポート
① 有能で公正な「AI警察官」は可能か

[비즈한국] 人工知能（AI）が産業や日常生活を越え、国家行政や事案システムまで変えている。警察庁、検察庁、国税庁は最近、AI専門組織を新設・拡大し、捜査や調査、民願（苦情）業務へのAI導入システム構築に乗り出した。効率性と正確性を高めるという趣旨だが、これら機関が扱う情報や権限は国民の基本権と直結しているという点で、AI導入の重みも並外れている。Biz Hankookは、警察庁、検察庁、国税庁の3大事案機関のAI転換状況と、その過程で残された課題を点検する。

警察庁が、捜査および民願業務全般に人工知能（AI）を導入する作業を加速させている。判例検索や令状申請書の草案作成、被疑者尋問調書の質問推奨、民願相談・受付支援、ディープフェイク探知など、AIが警察業務の補助ツールを越え、実際の治安行政の判断過程に近いところに入り込む流れだ。警察庁はこれを裏付けるために専門組織を整備し、内部ネットワーク基盤のAI統合プラットフォームや、治安特化型巨大言語モデル（LLM）の開発も推進中である。

Biz Hankookの取材を総合すると、警察庁は最近「AI影響評価およびリスク管理策の策定」に関する政策研究を進めている。契約金額4100万ウォン、遂行期間120日規模でThinkForBielが担当して進行中だ。警察庁の関係者は「今年末に研究を終える計画」と明らかにした。「AI導入に伴う警察庁の個人情報保護体系高度化策に関する研究」も同時に推進される。AIの学習・推論過程で発生しうる再識別リスクとデータバイアス、CCTV映像分析時の個人情報保護基準までを深く掘り下げることが骨子だ。

二つの研究は、AI基本法（人工知能の発展と信頼基盤造成等に関する法律）と、来年2月末に施行される「公共AI法（人工知能およびデータ基盤行政活性化に関する法律）」への対応という性格が強い。AI基本法と公共AI法では、治安分野の多様なAIが「高影響人工知能」に分類される可能性が高いという評価だ。AI基本法は透明性の確保とリスク管理体系の構築などの義務を付与し、公共AI法の場合は、公共機関がAIを導入する前に影響評価とリスク管理策を設けるよう規定している。

コントロールタワーから統合プラットフォームまで

警察庁は、このような制度・法的基盤の整備とともに、組織・インフラの再編、捜査・現場業務へのAI適用拡大という3つの方向でAI転換を加速させている。

今年3月、警察庁は未来治安政策局傘下の「未来治安政策課」を「治安人工知能政策課」に改編し、AI専門のコントロールタワーを公式化した。既存の治安AIイノベーションタスクフォース（TF）を正規組織に吸収し、局長直属の人工知能協力官を新設した。情報化基盤課も治安人工知能基盤課へと名称を変更した。

組織改編とともに、行政業務全般に生成型AIを適用するための「AI統合プラットフォーム」構築も推進中だ。WearBizが遂行する情報化戦略計画（ISP）事業を通じ、警察内部ネットワークである「Pol-Net」に報告書作成や翻訳、文書要約などを支援するAI機能を連動させる案が検討されている。担当の警察関係者は「今年中にISP事業を完了し、来年度予算に反映させて本格的な構築に入れるよう準備している」と述べた。

警察大学は治安特化型巨大言語モデル（LLM）の開発を担っている。4月には総警（警視正クラス）・警正（警視クラス）の管理者を対象とした「治安AIリーダー養成教育（CAIO）」も開始された。生成型AIやフィジカルAI、AIセキュリティ・倫理などを扱う。

捜査現場に浸透するAI…懸念はないか

2024年11月に導入された捜査支援AI「KICS-AI」は、判例検索や令状申請書の草案作成を支援してきた。総額46億ウォン規模の高度化事業を通じ、司法警察官の決定書・捜査結果通知書の作成、被疑者尋問調書の質問推奨、犯罪一覧表の作成、起訴状・判決文を活用した捜査還流体系の構築まで機能を拡大する予定だ。昨年からはデジタルフォレンジック分野にもAI活用が推進されている。

民願分野では、政府の「公共人工知能転換（AX）プロジェクト」課題の一つとして、総額107億ウォンが投入された「みんなの警察官」が開発されている。「警察民願24」や「182コールセンター」などと連動し、2027年12月までに民願相談・受付・書類作成を支援する予定で、18日には市民および現場警察官200人規模の諮問団発足式が開かれた。

ただし、このような治安AIの拡散に対し、実効性とセキュリティへの懸念も少なくない。顔認識、ボイスフィッシングAI遮断、捜査報告書自動化などはすべてAI基本法上の「高影響AI」に該当し、警察庁が影響評価とリスク管理策の策定に乗り出したのも、こうした懸念を制度的に吸収するための布石と解釈される。

警察大学のイ・サンヨプ教授は、海外学術データを分析した論文の中で、警察AI研究の核心キーワードとして「データ（Data）」が導き出されたと指摘し、「国内の警察AI研究は法学や行政学など制度的観点に偏っている一方、海外ではコンピュータ工学基盤の技術適用研究が主流である。人工知能がもたらす法的争点への対応とともに、警察業務に安全に適用するための技術高度化研究も必要な時期だ」と強調した。

東国大学情報保護大学院のファン・ソクジン教授は、「被疑者尋問調書の作成や捜査・行政支援など、バイアスがあってはならない業務にAIを使いながら、それを検証する装置が不足しており、情報の無断持ち出しや存在しない事実を作り出すハルシネーション（幻覚）問題も検証が難しい」と述べた。続けて「法制処の判例程度しか活用できず、画像・映像判読が困難な場合もあり、データそのものに限界がある」とし、「アルゴリズムにバイアスが反映されれば透明性の保証が難しくなるが、問題が発生した際に誰が責任を取るべきかという制度的ガイドラインやマニュアルはほとんどない状態だ」と指摘した。

このため、警察の裁量に直接触れる技術よりは、抵抗感が低い技術から段階的に導入すべきだという提言も出ている。

警察庁関係者は、こうした懸念に対し「警察庁が進めるすべてのAI関連事業について影響評価を行う計画」とし、「高影響AIは国民の日常生活と基本権に影響を及ぼしうる分野であるだけに、侵害する部分がないか評価しようというものだ」と趣旨を説明した。また「来年の法施行までに、関連基準を整備しリスク要因を体系的に管理できる基盤を整える計画」と付け加えた。