[비즈한국] 生成AI（人工知能）の発達とともに、金融業界でもAI技術の活用が活発化している。これに伴い、「新技術による金融詐欺」という副作用も現れた。技術の高度化により本物と偽物の見分けが困難になり、新技術を悪用した詐欺被害は今後さらに拡大すると予想されるが、現行法では予防や被害救済が容易ではない。11月26日に「人工知能の発展と信頼基盤の造成等に関する法律（AI基本法）」が国会科学技術情報放送通信委員会を通過したが、AI金融犯罪の被害を防ぐためのより緻密な立法が必要だとの声が上がっている。
生成AI技術を悪用した金融詐欺が増加する中、消費者の被害予防と救済策を議論する場が設けられた。11月27日、消費者権益フォーラム、韓国金融消費者学会、未来消費者行動、キム・ビョンギ共に民主党国会議員室は「新技術を利用した金融詐欺の消費者保護策の模索」フォーラムを開催した。
AIを活用した金融詐欺には主に3つの種類がある。第一に、有名人を騙った動画で投資家を誘い込むディープフェイク詐欺である。社会的な信頼度が高い金融業界の要人や芸能人の顔をディープフェイク動画にして、投資を誘導する手口だ。今年3月には、なりすましの被害を受けた著名人137人が自ら対策を求めて声を上げた。
第二に「AIウォッシング（AI washing）」詐欺である。AI技術を実際には使用していないにもかかわらず、誇張や虚偽のマーケティングを行い消費者を誘い込む。「AIベースの株式売買プログラムを利用して高収益を得られる」と宣伝しながら、実際にはそのようなプログラムや投資手法が存在しないケースだ。
第三に「AIチャットボット」詐欺である。多数の被害者に対してメッセージで接触し、相手の好感を得た後に金銭を要求する「ロマンス詐欺」犯罪にも活用されている。
この日のフォーラムに集まった専門家たちは、現行法ではAI金融詐欺を食い止めることや被害救済が困難であるという点で意見が一致した。発題を担当した未来消費者行動のムン・チャンヒョン専門委員（国際認定ファイナンシャルプランナー）は、「ディープフェイク投資詐欺動画を見ると、実はクオリティはそれほど高くない。偽物だと分かるほど粗雑であるにもかかわらず、被害は発生し続けている。それだけ金融弱者が多いということだ」とし、「金融詐欺被害者の特性を見ると、高齢者や低学歴者という通念とは異なり、むしろ経済活動が活発な40〜50代で多く発生している。詐欺加害者の1位が知人で、次に金融業従事者が続くという点も被害が大きい理由だ」と語った。
ムン専門委員は、「金融詐欺の類型が類似受信、フィッシング、スミッシング、詐欺などが複合的に現れる様相を見せており、1人当たりの被害額も増加している」とし、「金融消費者保護のために、金融詐欺関連の処罰を強化するなど制度を補完し、多様な手口や予防法を周知する広報活動に力を入れ、消費者の能力を育てるための金融教育を行う必要がある」と助言した。
金融機関のAIサービスを利用した消費者が被害に遭った場合でも、補償がほとんど不可能であるという指摘も出た。韓国外国語大学法学専門大学院のチョン・シンドン教授は、「金融分野では膨大な量のデータが蓄積されるが、機密情報も多い」とした上で、「しかし、金融機関の過失で被害が発生しても、消費者が自ら問題を立証することはできない。AIの特性である『自律性』と『不透明性』のためだ」と指摘した。
AIは自律的に判断するが、事故発生時に人間ではなくAIに過失責任を問うことは難しい。過失の主体ではないAI開発者に責任を問うことも曖昧だ。不透明性については、企業がAIアルゴリズムなどを「営業秘密」として公開しない上、開発者自身もAIがどのような結果を出すか予測できないという点で、過失の因果関係を証明することが困難である。
チョン教授は、「伝統的な法秩序では消費者被害を防ぐことはできない。法的な空白が明確にある」とし、「AIの算出物であることを消費者が認識できるよう義務的に表記するなど、透明性を強化することが基本だ。AI技術を活用して犯罪を未然に防げるよう、制度的な支援も必要だ」と述べた。
発題後の指定討論では、詐欺被害回復のための立法の必要性も議論された。成均館大学法学研究所のソン・ジュノ上級研究員は、「加害者を処罰したからといって被害が回復するわけではない」とし、「しかもロマンス詐欺や新種の投資詐欺は、被害者が騙されたとはいえ自ら送金したという点から、実質的な救済策がない」と述べた。
資本市場研究院金融産業室のイ・ヒョソプ上級研究員は、「生成AIベースのプラットフォームで金融紛争が発生した場合、消費者が自分が被害者であることに気づかないことも多く、救済までに長い時間がかかる。独立した金融紛争調整機関が必要だ」と指摘し、「詐欺犯罪では被害額の回収が事実上不可能であるため、被害者保護法を別途制定して保護すべきだ」と主張した。
AI金融詐欺の被害者に証明責任を負わせる現行法の問題についても言及された。法務法人デユルのペク・ジュソン弁護士は、「環境犯罪、医療過失、知的財産権紛争では、関連法や判例で加害者の過失や因果関係を推定し、被害者の証明責任を軽減している。これに対し、大規模な金融詐欺被害事件ではそれが認められていない」とし、「EUのAI不法行為責任法などを参考にして、裁判所の恣意的な判断を防ぐ緻密な制度補完が必要だ」と説明した。
11月26日に科学技術情報放送通信委員会を通過したAI基本法についても議論された。国会立法調査処社会文化調査室科学放送通信チームのチョン・ジュナ立法調査官は、「AI関連の基本法が19件提案されたが、最終的に『信頼基盤』という名称に統一された。AI詐欺の核心には、消費者がAIが作った仮想情報なのか実在する情報なのかを区別しにくいという点がある。法案でもAI著作物の表記を強調している」とした上で、「しかし、表示義務を負う主体が曖昧であり、これを具体化しなければならない。また、AI安全研究所だけでなく、消費者被害を専門的に調査する保護センターの役割を果たす機関も必要だ」と述べた。
チョン調査官は、金融消費者のデジタルリテラシー（情報の理解・獲得能力）の強化は最小限の措置と見なすべきだと強調した。彼は、「デジタルリテラシーの強調は、詳しく見ると危険な話だ。リテラシーが低い消費者だけでなく、高い消費者でも詐欺に遭う可能性がある。自分の判断を強く信じているからだ」とし、「デジタルリテラシーを過度に重視すれば、政府や公的な責任を消費者に転嫁するという問題が生じる」と強調した。