[비즈한국] ミトス・ショック以降、公共と民間の双方が「AIの攻撃はAIで防ぐ」という原則のもと、対応体制の再編を本格化させている。金融業界は自律型AI模擬ハッキングとAI基盤のセキュリティ監視を導入し、公共部門もAI時代を前提としたネットワークセキュリティ体系への転換を急いでいる。
最も迅速に動いているのが金融業界だ。金融は顧客情報と資金の流れがリアルタイムでつながっている国家の核心インフラであるだけに、AIが攻撃スピードを加速させるほど被害が最も早く現実化しかねない分野として挙げられる。
ウリィ金融グループは最近、オフェンシブ・サイバーセキュリティ企業であるTheori（ティオリ）のAI基盤自律型ブラックボックス模擬ハッキングソリューション「Xint Web」を導入した。システム内部の情報なしに、実際のハッカーのようにサービス外部を攻撃して弱点を探す方式だ。KB金融グループも、独自開発したAI模擬ハッキングエージェントやゼロトラスト基盤のセキュリティ体系を拡大適用するなど、AI基盤の対応を強化している。
韓国銀行も、ミトス対応の国際協力体「プロジェクト・グラスウィング（Project Glasswing）」の初期参加企業である米パロアルトネットワークスの機器を導入するなど、公共部門もAI基盤のセキュリティ体系への転換に乗り出した。
「AIの攻撃はAIで防ぐ」…国内対応が本格化
企業が技術的対応に乗り出す中、政府も制度的基盤の構築に着手した。金融委員会はミトスの登場以降、セキュリティ目的のAI活用に限ってネットワーク分離規制を一時的に緩和することにした。総資産10兆ウォン以上、常時従業員1000人以上の49の金融会社を対象とし、セキュリティ管理能力評価を経て1年間規制が緩和される。科学技術情報通信部も、Anthropic（アンソロピック）とミトスへのアクセス権確保を含む協力案を議論するなど、AI基盤のセキュリティ能力確保に集中している。
専門家は、ミトス・ショックの本質を「完全自動化されたAIハッカーの登場」そのものよりも、セキュリティ業務の遂行方式が根本的に変化しているという点に見出している。ビッグデータ分析AI企業S2Wのヤン・ジョンホン部門長は「核心は完全自動化が直ちに完成したということではなく、セキュリティ業務の単価や速度、再現性が変わり始めたという点」とし、「この変化は脆弱性研究者の働き方はもちろん、ソフトウェアサプライチェーンやパッチ管理体系全体を揺るがしかねない」と指摘した。
セキュリティ領域において、人間の競争力がかつては脆弱性を発見する能力から生まれていたとすれば、今後はAIが導き出した結果を検証し、実際の危険度を判断して対応の優先順位を決める能力がいっそう重要になるという説明だ。
AIが攻撃と防御の大部分を担うようになったとしても、最終的な責任は結局、人間に帰する。技術の発展と同等に、AIを管理するガバナンス体系が強調される理由だ。高麗大学AI研究所のチェ・ビョンホ教授は「現実的なシステムにおいては、人間とAIが協力しなければならず、協力する人間が責任を負う構造にならざるを得ない」と語った。ただ、「まだそのガバナンスシステムが完成していないため、こうした事件が起きればなすすべがない」とし、「全世界が1級セキュリティ市場を無力化されかねない非常に高いリスク状態にある」と述べた。
ヤン部門長は「企業としてまず必要なのは資産とコードの可視性」とし、「どのようなシステムを運用しているのか、どのオープンソースライブラリに依存しているのかを知らなければ、AIが発見した脆弱性も実際の脅威へと結びつけることは困難だ」と指摘した。AIが大量の脆弱性を見つけたとしても、それを自社システムの実際の危険として読み解く基礎体力（地力）がなければ無用の長物だということだ。
世宗研究所のユ・ジュング上級研究委員も関連報告書で「データ基盤の主要インフラセキュリティの核心は、外部の防壁を高めることではなく、内部アカウントが奪取された時に権限をどうコントロールするかにかかっている」と診断した。完璧なセキュリティを前提とするのではなく、攻撃者が目標を達成するまでに経なければならない検証ステップを緻密に設計する方向へ進むべきだということだ。
性能よりも「アクセス権・コントロール力」…政府もセキュリティ特化AIに重き
では、韓国はミトス級の最上位モデルにどれだけ近づけるのか。アクセス権を確保したとしても、国内でミトス級のフロンティアモデルを直接活用するのは容易ではないという診断が出ている。海外のフロンティアAIが次第に国家戦略資産として管理されており、アクセス自体が制限される可能性が高まっているためだ。
韓国インターネット振興院（KISA）とサムスン電子、SKテレコムなどがAnthropicからミトスへのアクセス権を確保したが、米国がフロンティアAIを戦略資産として管理する方向に政策を転換しているため、長期的には活用の余地が次第に狭まるという見方が支配的だ。今年6月、米商務省がミトス5とフェイブル5の一般モデルに対する輸出規制を18日目に解除したが、以前よりも強化されたセーフガードが適用されたことで、セキュリティ研究に活用できる範囲はむしろ狭まった。
だからといって、ミトスと同じレベルの超巨大モデル開発競争に飛び込むのが現実的な解決策ではないとの指摘もある。韓国情報保護学会の会長であり釜山大学教授でもあるキム・ホウォン氏は、先月9日に開催されたサイバーセキュリティ発展方向模索セミナーにて「同じようにミトスを独自開発しようとすれば、チキンゲームに巻き込まれる恐れがあり、外資モデルを使えばデータ主権のジレンマに陥る」とし、「複数のAIを有機的にコントロールするエージェント・オーケストレーション基盤の小型特化モデル（sLLM）戦略が現実的な代替案になり得る」と語った。
開発の余力も十分ではない。莫大な演算リソースと投資コストが必要だからだ。ペ・ギョンフン副首相兼科学技術情報通信部長官は、先月の就任1周年記者懇談会で「現在の独自AIファウンデーションモデル事業で支援するレベルでは、ミトス級のフロンティアモデルを開発するのは難しい」とし、「ベラ・ルービン級GPU約1万枚が必要になると見ているが、現在の価格だけで約3兆5000億ウォン規模だ」と言及したことがある。
問題はコストと技術だけではない。アクセス自体が政治的判断に左右されうるという点も、新たなリスクとして浮上した。徳成女子大学国際経営学科のワン・ユンジョン教授は、米国のAnthropic接続遮断事例をめぐり「他国の生成AIサービスが一日で中断されうるという『スイッチオフ・リスク』が現実化した」と評価した。その上で「ソブリンAIは市場競争のための手段ではなく、海外AIへのアクセスが制限される場合に備えた国家レベルのバックアップシステムという観点からアプローチする必要がある」と強調した。
併せて、規制の予測可能性が大幅に低下しただけに、国内企業がグローバル顧客との契約に米行政府の輸出規制措置を明示的な「不可抗力」事由として盛り込むべきだとも助言した。
海外ではすでに国家・企業単位での対応体系が具体化している。マイクロソフト（MS）は先月27日、自律型AI攻撃対応プロジェクト「パーセプション（Perception）」とセキュリティ特化AIモデルを公開し、韓国科学技術院（KAIST）などが参加する外部レッドチーム連合（EXTRA）を発足させるなど、AIセキュリティ競争を本格化させている。
ミトス・ショックは、AIの性能競争を超えた、活用とコントロールの競争時代の到来を告げている。国内においても、技術確保と併せて、いかにセキュリティ体系と制度的対応を構築するかが今後の課題として残った。
これに伴い、政府は独自AIファウンデーションモデル事業とは別に、フロンティアAIの開発可能性を検討する「ツートラック戦略」を構想する一方、既存モデルを活用した「セキュリティ特化AI」の開発を優先的に推進する方針だ。ペ副首相は「すぐにフロンティアモデルを作れなくても、現在保有しているモデルをセキュリティデータでファインチューニング（微調整）すれば、様々な脆弱性をチェックするセキュリティ特化AIモデルは作れる」とし、「今年中に開発し、公共部門から適用を開始する計画だ」と明らかにした。