[비즈한국] 人工知能（AI）の発展と安全性問題を扱う「AI基本法」が22日、全面施行された。この法案は、国内のAI競争力を高めると同時に、生成物のウォーターマーク義務化など保護措置を講じることで、AI活用に対する信頼基盤を構築することを目指している。生成AIが日常に組み込まれつつある状況で、産業全体を網羅する法体系が機能することになった。ただ、核心規制である「高影響AI」の具体的な判断基準については解釈の余地があり、透明性確保の義務の現実的な適用方法も議論中である。制度は整ったものの、実行基準や証拠体系が依然として曖昧であり、多くの課題が残っているとの指摘がある。
偽物か本物か…AI生成物の表示を義務化
AI基本法の施行により、利用者が体感する主な変化は「透明性義務」の適用である。AI事業者は、生成AIを活用した画像・映像・音声などのコンテンツを流通または提供する際、該当コンテンツの制作にAIが使用されたことを利用者が明確に分かるようにしなければならない。いわゆる「AIウォーターマーク」である。
政府は、技術的な受容性を考慮し、表示方法を柔軟に設定できるようにしていると説明する。コンテンツの特性に応じ、目に見える形式（可視的）や、機械が読み取れるようにデータにコードを埋め込む方式（不可視的）のいずれも許可される。特に社会的な弊害が懸念され、実物との区別が困難なディープフェイクの結果物については、AI生成の事実を利用者が明確に認識できるよう告知または表示しなければならない。
こうした透明性確保の義務は、AI製品やサービスを提供する事業者にのみ適用される。これには国内の利用者にAI製品・サービスを提供する海外事業者も含まれる。対象は、利用者に最終的にAIサービスを提供する事業者である。例えば、A社が開発したAIモデルをB社がAPI形式で導入し、自社サービスで活用する場合、透明性義務はB社に課せられる。OpenAI、Google、Naver035420のようにモデルを開発しながら直接サービスまで提供する場合は、これらが透明性義務を負う。
単純にAIツールを利用してコンテンツを消費したり、個人のSNSに投稿したりする「個人ユーザー」は、規制対象から除外される。サービスごとのウォーターマーク方式は、科学技術情報通信部（過激情通部）の透明性ガイドラインを参照すればよい。
生命・安全に直結する「高影響AI」の10大領域を分類
法令のもう一つの核心は「高影響AI」制度である。施行令によると、生命・安全・基本権と直結する10の領域（エネルギー、飲料水、保健医療、原子力、犯罪捜査、採用、融資審査、交通、公共サービス、教育）で活用されるAIが「高影響AI」に分類される。
具体的な事例としては、「完全自動運転レベル4以上の車両（人が介入しない高度自動化システム）」がある。医療・採用・融資審査のように人の生命や権利に大きな影響を与える分野でも、事業者はリスク管理体系を備え、利用者保護計画を樹立するなど、強化された信頼性確保措置を履行しなければならない。
「高影響AI」に該当するかどうかは、事業者が自ら検討しなければならない。AI事業者が該当の可否を判断しにくい場合は、科学技術情報通信部に確認を要請できる。ただし、どの程度のレベルの技術やサービスが規制対象に含まれるかについては、依然として解釈の余地が大きいとの評価だ。業界内外では「完全自動運転レベルのように、人が最終的な意思決定に介入しない場合にのみ高影響AIと見なすべきだ」という声と、「基本権侵害の恐れがあるすべてのアルゴリズムを含めるべきだ」という意見が対立している。
実務適用に向けた具体的な物差しが不足しているとの指摘がある中、政府は法施行に伴う産業界の混乱を考慮し、強力な処罰よりも制度の定着に注力する計画だ。基本法上の義務違反時には最大3000万ウォンの過料が科されるが、企業の混乱を最小限に抑えるため、今後少なくとも1年以上は規制を猶予する。
これとともに政府は、法に関連する企業からの問い合わせに対応するため「AI基本法サポートデスク」を設置・運営することにした。また、来月から産業界、市民団体、学界が参加する「制度改善研究班」を運営し、制度改善事項を発掘していく予定である。
政府「1年間の猶予期間」…プラットフォーム・通信業界は先制対応
国内の主要プラットフォームおよび通信各社は、AI基本法の施行によりAI技術に関連する社会的責任が強調される中、社内ポリシーやガバナンスを整備している。
Kakao035720は、来る2月4日から適用されるサービス利用規約に「AIベースサービスの包含および告知義務」を明文化した。Naverも来月7日からAIベースのコンテンツ利用ポリシーを強化する。Naverは昨年末、ブログやカフェ、クリップなどユーザー制作コンテンツプラットフォームに「AI生成コンテンツ表記」機能を導入した。
通信業界は全社的なガバナンス体制の強化に注力している。SKテレコム017670は、構成員を対象に「グッドAI（Good AI）」キャンペーンを展開し、「AIガバナンスポータル」を高度化して企画段階からリスクを点検するようにした。KT030200は、専門組織である「責任あるAIセンター（RAIC）」を通じて、安全性と信頼性を確保したAIエコシステムの構築に乗り出す。
政府は、国民に影響を与える海外のAI事業者にも法を適用できるようにすることで、国内企業との逆差別を防止する方針だ。EUの規制（2027年）の適用など海外の動向を考慮し、猶予期間の延長の可能性も残している。
キム・ギョンマン科学技術情報通信部人工知能政策室長は「AI基本法は80〜90％が産業振興に関する内容だ。初期には規制執行よりも企業が制度に適応できるよう支援することに注力する」とし、「EUの規制は3500万ユーロ（約670億ウォン）または総売上の7％のいずれか高い方を課徴金として賦課するが、国内法の過料は3000万ウォン以下だ。イノベーションを阻害しない最低限の規制である」と強調した。