[비즈한국] 来年1月の施行を控えた「人工知能（AI）基本法」が岐路に立たされている。海外のビッグテック企業からは柔軟な対応を求められ、国内では規制の根拠となる合理的かつ明確な基準を設けるべきだとの指摘が上がっている。世界初のAI基本法を制定した欧州が規制緩和の準備を進める中、韓国政府の悩みも深まっている。
「規制も甘んじて受け入れる」としていたAI先進のビッグテック各社だが、トランプ政権発足後に態度を一変させた。トランプ政権による規制緩和の動きを追い風に、著作権法の緩和など、成長に配慮した政策を推し進めるのに躍起だ。ニューヨーク・タイムズなどの外信は、「AIビッグテック企業がトランプ氏の姿勢に勢いづいている」と報じている。
韓国もその影響圏にある。科学技術情報通信部は最近、OpenAIやGoogleから法案適用における柔軟性を求められた。業界によると、科学技術情報通信部のAI政策担当者は最近、OpenAIのアジア太平洋地域政策総括を務めるサンディ・クンバタナガン氏、GoogleのAI・新技術政策担当グローバル責任者アリス・ハント・フレンド氏、同社のアジア太平洋地域担当ユニス・ファン氏とそれぞれ面談した。
Adobe、Amazon Web Services (AWS)、IBM、Microsoftなど約70社のグローバルソフトウェア企業を代表するビジネス・ソフトウェア・アライアンス（BSA）とも別途協議を行った。この場においてビッグテック側は、AI基本法の施行令に盛り込まれる事業者の責務のうち、利用者保護策の範囲や「高影響AI」の具体的な定義などについて質疑したと伝えられている。
基本法の核心「高影響AI」の曖昧さ改善が「急務」
これにより、韓国のAI基本法は内外から挑戦を受けることとなった。昨年末に国会を通過したAI基本法は、現在施行令の策定が進められている。この法律に対しては、一部から「AI開発や産業成長の重荷になりかねない」との指摘が出ている。単なる「振興対規制」という論理の戦いではない。
最大の争点は、基本法の核心とされる「高影響AI」の定義と適用範囲の曖昧さだ。立法調査官のチョン・ジュンファ氏は、「AI基本法を遵守・解釈すべき当事者は、何がその概念に合致するAIなのかを把握する必要があるが、現在の法律規定だけでは明確で一貫した答えを出すのは難しい」とし、「高影響AIについては法律で明確な体系を確立する必要がある」と指摘した。
人工知能基本法第2条4号は、高影響AIを「人の生命・身体の安全および基本権に重大な影響を及ぼす、または危険をもたらす恐れがある人工知能システム」と定義している。具体的には、個人の権利および義務関係に重大な影響を及ぼしたり、公共機関の意思決定に影響を与えたりするなど、11の基準項目を明示している。
しかし、基準が不明確なため、現場では技術開発の初期段階で規制対象になるのかどうか判断に困るという評価だ。データ品質や公平性の基準、倫理的基準と実践策についても、具体的な指針が不足しているとの指摘がある。
インターネット企業協会のデジタル経済研究院は報告書を通じて、「倫理原則には『安全性、信頼性、アクセシビリティ』などを含むと言及されているが、基準が曖昧で、具体的な実践基準や手続きが不在だ」と指摘した。
重複規制と韓国企業への不均衡な適用を防ぐべき
このような指摘は法曹界からも出ている。18日に開催された「人工知能基本法の限界と改善の方向」セミナーで、弁護士のク・テオン氏は、「EU基本法（AI Act）で分類する『高リスク』という用語と結局は同じ意味だが、『良い影響』と『悪い影響』の両方に解釈可能な『高影響』という表現は、法体系上馴染みがない。法適用の混乱を招く不適切な立法だ」と述べた。
EUの場合、基準を4段階に分類しており、「低リスク」と「最低限のリスク」のAIには個別の定義規定を設けていない。一方、「禁止（許容不可能）」AIについては、「潜在意識への働きかけ、意思決定能力の阻害」、「脆弱性の利用」、「不公平な扱いまたは社会的スコア評価を目的としたもの」、「リアルタイム遠隔生体認証システム」など、適用基準を明示している。
AI基本法第33条では、事業者が科学技術情報通信部長官に対し、高影響AIに該当するかどうかの確認を要請できるようになっているが、委任規定のみが存在し、実質的な管理を担保できない状況だ。立法調査官のチョン氏は、「常任委員会での審査過程で、リスクが持つ否定的なイメージを緩和するために『高影響AI』という価値中立的な表現に変更された。否定的な印象は多少和らいだが、概念の曖昧さが問題だ」と説明し、「政府がどのレベルまで具体的な解決策を準備できるかも疑問だ」と語った。
重複規制が発生しないように改善すべきとの声もある。基本法でありながら具体的な権利と義務関係を定める規定が多く、個別の法律と衝突する可能性があるほか、金融・医療・製造など分野別規制とAI基本法との間で責任の所在が不明確だとの見方がある。
業界は、AI基本法と施行令が来年1月の施行に向けて最終的にどのような構成になるのかを注視している。国内規制によって追加の負担を負うことになった韓国企業と、規制の最小化を求めるグローバルビッグテックにとって、この法がどう作用するのかにも注目が集まる。リーガルテック＆AIフォーラム副会長のク・テオン氏は、「法律がイノベーションの妨げではなく、健全な成長のためのガイドラインとして機能できるよう、政府が業界の意見を十分に聞き、弾力的な執行を行う必要がある」と強調した。