[비즈한국] 「まさに背筋が凍りつく思いだった」。外資系クラウド企業の韓国法人のある役員は、今年4月初旬にAnthropicが公開した新しいAIモデルの発表資料を確認した瞬間をこう振り返った。「あまりに強力なため安易に公開できない。厳選されたごく少数の機関にのみ公開する」という趣旨の文言は、まるで危機感をあおるパニック映画の予告編のようだったという。モデルの名前は「ミトス（Mythos）」。公開後3ヶ月間、この一つのAIモデルは産業界と政府を連鎖的に揺さぶった。
この関係者は、クラウド事業者として現場で顧客企業と向き合ってきた数々のイシューの中で、ミトスを筆頭に挙げた。「発表文を見た瞬間から、このモデルがセキュリティエコシステムとクラウド市場にどのような波紋を広げるのか、本社と韓国法人の双方でしばらくの間、内部的に深い悩みが続いた」と説明する。
ミトス・ショック、産業界を揺るがす
実際にミトスは、人間のハッカー以上の脆弱性発見能力を持つとされ、公開から4日目にして米財務省と連邦準備制度（Fed）、ウォール街の主要金融機関のCEOたちを緊急招集させた。ホワイトハウスと米政府機関は3日間、主要AI企業のトップたちと非公開のセキュリティ点検会議を開き、国家サイバーセキュリティのコントロールタワーは政府施設およびインフラのセキュリティ脆弱性全数調査に着手した。
ミトスは、ユーザーの指示に従って動作するChatGPTやGeminiなどとは異なり、調査からコーディング、テスト、報告まで全ての過程を自ら遂行する「エージェント型」モデルである。複雑なソフトウェアの設計構造を人間の専門家レベルで推論してセキュリティの脆弱性を探し出し、侵入経路まで設計する、いわゆる「自律型セキュリティインテリジェンス」であり、発見した欠陥を即座にハッキングツールとして兵器化するその自律性に威力がある。
実際のテストでは、制限を自ら回避してインターネットに接続したり、管理者権限を得るためにシステム内部の情報を探る「脱獄（ジェイルブレイク）」行動、さらにはセキュリティ装置を迂回した後に痕跡を消して自分の行動を隠蔽しようとする試みまで確認された。Anthropicはこれを悪意ではなく、過度な目標志向性から生じた行動だと説明した。
各国の中央銀行や金融当局も、AIによるサイバー脅威の緊急リスク評価に着手した。Anthropicは発表から5日後に安保連合体「プロジェクト・グラスウィング（Project Glasswing）」を立ち上げ、1億ドル規模のミトス使用権を配布し、90日以内に順次脆弱性を公開すると予告した。国内でも金融監督院が主要金融会社のセキュリティ実務者を緊急招集するなど、産業分野を問わず非常ベルが鳴り響いた。
防御を設計するセキュリティ業界の悩みは、速度と信頼性に集中している。国内大手ITサービス企業のセキュリティ担当者は「既存の人間が防いでいた速度よりもはるかに速く、24時間休まずに攻撃が可能だという点が最大の懸念事項だ。内部ネットワークにいれば安全だという境界ベースのセキュリティはもはや有効ではない」と語った。その上で「あらゆるアクセスを絶えず検証する『ゼロトラスト』と、AIが遂行した作業を人間が必ず再検証する手順を同時に備える必要性が高まっている」と述べた。
AIの脅威対AIのセキュリティ…人間と共に「共進化」すべき
業界内外で「攻撃と防御の両面でAIは必須」という認識が固まりつつある。SK Shieldusは最近の脅威トレンド分析で、サイバーセキュリティが「AIの脅威対AIのセキュリティ」の時代に突入したと指摘し、Dream Securityはミトスを「サイバー攻撃の民主化」と定義し、防御体系が遅れている運営技術（OT）領域の構造的な脆弱性に警鐘を鳴らした。
ミトス・ショックはセキュリティを超え、戦略資産レベルの問題として論じられている。チョン・ジュンファ国会立法調査処立法調査官は報告書の中で「高性能AIモデルがいつでも政府の統制を受ける戦略資産になり得るという先例を残した」とし、今回の事態がAIモデル競争の重心を推論性能から「セキュリティ統制権の確保」に移したと分析した。実際、先月米国政府はミトスに対し輸出規制をかけ、後に解除した。
ただし、脅威の性質を正確に見極める必要があるという慎重論も出ている。ソン・ギョンホ韓国電子通信研究院（ETRI）AI安全研究所先任研究員は、ミトスのサイバー能力を「明示的に意図したものではなく、コーディング・推論・自律性などの一般能力向上の副産物として発現したもの」と定義し、「サイバー能力が一般能力の副産物であるなら、次の飛躍はサイバーに限定されない可能性が高い」と予測した。
さらに国内の場合、データの国外搬出を制限しているため、このような高性能AIを防御に活用するのが難しいという指摘も出ている。
最近、AIのハルシネーション（幻覚）現象が画期的に減少しており、専門家たちは来年あたりにはエラーがほぼないモデルが登場すると予想している。1年以内に業務生産性が劇的に高まる分、セキュリティ脅威の可能性も急上昇するという見通しだ。
問題は「ミトス」という特定のモデルではない。イム・ジョンイン高麗大学情報保護大学院名誉教授は「ミトスやOpenAIのGPT-5.6のようなモデルは、そもそもセキュリティに特化したAIではなく、自律的に任務を遂行しながら何でもこなすエージェンティックAIとしての性格を持つ」とし、「AIは非常に有能だが、『やってはいけない』と制限した事項を破って実行した場合、それをどのように先制的に察知して統制するかが今後の課題だ」と述べた。
ただしイム教授は、完璧な安全装置を期待するのは難しいと見ている。教授は「AIもやはり人間のデータをもとに訓練されたため、人間と類似した特性を持つ」とし、「セキュリティは常に矛と盾の戦いだ。漠然とした恐怖感を持つのではなく、人間とAIが歩調を合わせて進む『共進化（Co-evolution）』を目指すべきだ」と強調した。