[비즈한국] LG Uplus032640の人工知能（AI）通話アプリ「ixi-O（イクシオ）」で利用者の通話内容が流出する事故が発生し、機密データを活用するAIサービスの安全性に対する懸念が提起されている。AI通話アプリは、顧客の通話履歴、使用パターン、スケジュール、関心事といった高感度な情報に基づいて作動するため、セキュリティの信頼性が事業の重要な前提となる。利便性を期待してサービスを利用した顧客の立場からは、サーバーの保存構造や内部管理体制に疑問が生じる状況だ。セキュリティを強みとしていた通話アプリが、AI秘書機能の導入から約1ヶ月で脆弱性を露呈したことで、セキュリティ強化と信頼回復が急務の課題として浮上している。
リリースから1年余りで顧客情報流出事故
LG Uplusは、自社のAI通話アプリ「ixi-O」で顧客の通話情報が流出し、個人情報保護委員会に自主申告したと6日に明らかにした。会社側は、事故の原因をサーバー作業者による一時保存スペース（キャッシュ）の設定エラーであると確認した。
事故はサーバー改善作業中に発生した。LG Uplusによると、2日にixi-Oのサービス運営改善作業が行われた後、午後8時から14時間にわたり、アプリを新規インストールまたは再インストールした利用者101人に対して、他の利用者36人の通話内容要約文などが露出する事故が起きた。会社は3日午前10時に「他人の通話要約文が見える」という報告を受けて事故を認知し、2日間で流出情報へのアクセス遮断措置を完了し、6日午前9時頃に個人情報保護委員会へ申告したと説明している。
ixi-Oは昨年11月にリリースされた独自開発の通話アプリだ。類似サービスには、先にリリースされたSK Telecom017670の「A.(エイドット)」がある。ixi-Oは、既存のリアルタイム・ボイスフィッシング検知、通話録音および記録・要約機能に、先月AI秘書機能が新たに搭載され、通話秘書アプリへと進化した。ixi-OのAI秘書は、通話中に呼び出すと会話の文脈を把握して即座に検索情報を提供する、オンデバイスAIベースの機能だ。職場の上司や友人と通話中にixi-Oを呼び出し、週末の天気や地下鉄駅から待ち合わせ場所までの移動時間などを尋ねると、AI音声が即座に情報を検索して結果を共有するといったものだ。
今回の事故で流出した情報は、通話要約文、相手の電話番号、通話時刻などである。住民登録番号などの固有識別情報や金融情報、通話の全編、連絡先と共に保存された名前などは含まれていない。
会社側は、ハッキングではなく内部的なミスであることを強調している。しかし、一部の設定ミスだけでデリケートな通話要約情報が暗号化されないまま他人に露出され得る構造的な問題はないのかを問い直すべきだという指摘が出ている。管理ミスが情報流出に直結したことは、多重セキュリティ装置が欠如していたか、正常に作動していなかったという構造的な脆弱性を示しているとの見方だ。
東国大学情報保護大学院のファン・ソクジン教授は「ロジックを設計する段階から結果値のみを信じて、小さな部分への検証を疎かにすれば、運営上のエラーはいつでも発生する。データを扱う過程で安全装置を二重、三重に組み込む構造的アプローチが不十分だったといえる」と述べた。
通話要約はサーバー保存方式
LG UplusのAIエージェント推進グループ長であるチェ・ユンホ氏は、先月13日の「ixi-O」AI秘書サービス公開記者会見で、「ixi-Oで生成された通話録音と要約は、顧客のスマートフォンの中に安全に保存されている」と語っていた。LG UplusはこれまでオンデバイスAIの安全性を強調してきたが、通話要約本はサーバーに保管されており、サーバー管理上のミスが直ちに情報流出につながったという点で、オンデバイス範囲の限界も露呈したとの評価が出ている。ixi-Oの構造において、オンデバイスAIは主に通話音声ファイルの処理および録音までを担当し、流出した通話要約本はサーバーに保存されて管理されている。
