[비즈한국] フェイクニュースはもはや単なる「言葉の問題」ではない。一人の評判を失墜させ、特定の集団に対する嫌悪を助長し、選挙や公論の場を揺るがし、時には実際の暴力や社会的な対立へとつながる。かつては虚偽情報をメディアの倫理や個人の名誉毀損問題として扱う傾向が強かった。しかし、デジタルプラットフォームと生成AIが結びついた今、フェイクニュースははるかに速く、巧妙で、時には確認が不可能に近いほど複雑な形で拡散される。
最近、YouTubeチャンネル「カロセロ研究所」のキム・セウィ代表が法定拘束された。彼は俳優の元キム・セロン氏とキム・スヒョン氏を巡る虚偽事実の流布および名誉毀損などの容疑を問われ、裁判所は証拠隠滅や逃亡の恐れを理由に逮捕状を発付した。この事件を、単に一人のユーチューバーの逸脱としてだけ見ることができるだろうか。欧州の視点から見ると、核心となる質問はこうだ。個人が何を言ったかだけでなく、その言葉がどのようなプラットフォーム構造を通じて増幅され、どのようなアルゴリズムや収益構造の中で繰り返し消費されたのか、という点だ。
EUは2018年の「虚偽情報対応行動計画（Action Plan against Disinformation）」において、虚偽情報を民主主義に対する脅威と規定した。虚偽情報が公論の場の信頼を毀損し、選挙を歪め、社会的な分断を深めるという認識があるからだ。そのため、欧州のアプローチは「フェイクニュースを誰が作ったか」で止まらない。「誰がそれを増幅させたのか」、「どのような推薦システムがそれをより多くの人々に押し付けたのか」、「プラットフォームはその危険性を知りながら放置したのか」という点まで踏み込んでいる。
プラットフォームを通じたフェイクニュース拡散を防ぐ最前線「DSA」
その中心にある法律が、欧州連合の「デジタルサービス法（DSA, Digital Service Act）」だ。DSAはオンラインプラットフォームに対し、違法コンテンツと社会的なリスクを減らす責任を課す。DSAを遵守するため、YouTube、X（旧Twitter）、Facebook、Instagram、TikTokのような超巨大オンラインプラットフォームは、虚偽情報、選挙操作、ヘイトスピーチ、児童保護、消費者被害など、システムレベルの危険性を定期的に評価し、緩和しなければならない。
重要な点は、DSAがすべての問題のあるコンテンツを国家が直接削除するような検閲モデルではないということだ。欧州流のアプローチの核心は「プラットフォームのシステム責任」にある。アルゴリズムが何を表示するのか、広告システムがどのような政治的・商業的メッセージを拡散させるのか、研究者や市民社会がプラットフォームのデータを検証できるかという点に焦点が当てられている。
欧州連合はすでにこの法律を実際に執行し始めている。Xは2025年12月5日、DSAの透明性義務違反により1億2000万ユーロ（約2094億ウォン）の課徴金を科された。これは象徴的な事件である。表現の自由を理由に、プラットフォームが責任を回避することが難しくなったというシグナルだからだ。DSA違反に対しては、全世界の年間売上高の最大6％まで課徴金を科すことができる。ビッグテック企業にとっては、欧州の規制をもはや「レピュテーションリスク（評判リスク）」程度として扱うことができないほど重要な事件となった。今や法定的・財務的リスクとなったのだ。
AIが危険信号を見つけ、人間が判断する
ここで興味深いのは技術の役割だ。欧州はフェイクニュース問題を法律だけで解決しようとはしない。むしろ法律と技術、市民社会、メディア、研究機関が共に動く構造を作っている。フェイクニュース対応技術は今や、単なるコンテンツフィルタリングを超越している。AI生成画像や音声、ディープフェイク映像、改ざんされたキャプチャ画像、悪意ある編集、ボットネットワーク、反復的な物語の捏造まで追跡しなければならない。問題は、人間のファクトチェッカーだけではこのスピードについていけないということだ。そのため、欧州の技術的対応は「AIが判断して削除する」のではなく、「AIが危険信号を見つけ出し、人間の専門家が判断する」というヒューマンAI協業モデルへと発展している。
代表的なプロジェクトが「vera.ai」だ。vera.aiは、オンライン上の虚偽情報や改ざんコンテンツを検知するためのEU支援の研究開発プロジェクトである。このプロジェクトはテキスト、画像、映像、オーディオなど多様な形式のコンテンツを分析し、ディープフェイク検知と多言語検証を目的としている。重要なのは、この技術がジャーナリストやファクトチェッカーに取って代わるのではなく、彼らの検証業務を支援するように設計されているという点だ。AIは疑わしいコンテンツを素早く捕捉し、人間の検証者が文脈や意図を判断する。このプロジェクトは2025年10月31日に公式に終了したが、その成果が各欧州諸国に重要な基準点を提供した。
「AI4TRUST」も似たような方向性を持っている。このプロジェクトはソーシャルメディアやニュースメディアをほぼリアルタイムでモニタリングし、虚偽情報の可能性が高いコンテンツを選別して専門家の検討につなげるシステムを開発する。虚偽情報は人間のペースで作られるわけではない。ボット、自動化アカウント、生成AI、組織的なキャンペーンが結合されると、人間が手動で確認するのは不可能な速度で拡散される。AI4TRUSTが狙うのは、まさにこの「速度の格差」だ。人間がすべての情報を確認できないのであれば、AIが先に信号をフィルタリングし、人間が最終判断を下す体系が必要なのだ。
「TITAN」はまた別の方向性を示している。TITANはファクトチェックの結果を正解のように提供するサービスではなく、ユーザーが自ら問い、疑い、判断する能力を養うためのAIベースの「ソクラテス式コーチングツール」だ。これは欧州のフェイクニュース対応の哲学をよく表している。虚偽情報問題は削除だけで解決できるものではない。一度削除されたコンテンツは別のプラットフォームで再び登場し、陰謀論は反論されるほどにより強い信念として固まることもある。結局、市民が情報を受け入れる方式自体を変えなければ、問題は繰り返される。TITANが教育、市民社会、公共機関と連携している理由はここにある。
このような流れはスタートアップ市場でも現れている。ノルウェーの「Factiverse」は、AIベースのファクトチェッキングおよび情報検証ソリューションを提供するスタートアップだ。北欧の公共放送やメディアは、選挙、政治討論、YouTube動画のように膨大なコンテンツを人間がすべて確認することが難しい状況において、Factiverseの技術を活用している。例えば、政治関連のYouTube動画が1日に何十、何百時間分も生成される際、AIは発言を抽出し、主張単位を分離し、検証可能な文章と出典をリンクさせる。メディアとしては、すべての動画を見る代わりに、危険度が高いか、検証が必要な発言に集中できる。
イタリアの「IdentifAI」は、ディープフェイクと生成AIコンテンツの検知に焦点を当てたスタートアップだ。生成AIが作った画像、映像、音声録音が実際の人間が作ったものか、改ざんされたものかを判別する技術を開発する。2025年には500万ユーロ（約87億ウォン）規模の投資を誘致し、欧州と米国市場への進出を進めていると報じられた。これはフェイクニュース対応市場がもはや公共プロジェクトや市民団体の活動にとどまらず、サイバーセキュリティとメディアの信頼インフラ市場へと拡大していることを示している。
欧州でこの分野がスタートアップの機会として浮上している理由は明確だ。第一に、規制が市場を創出しているからだ。DSAは超大型オンラインプラットフォームや検索エンジンに対し、単なるコンテンツ削除義務を超え、システムリスク評価、アルゴリズムの透明性、広告保存所の公開、研究者のデータアクセス、コンテンツ通報・措置体系の構築を要求する。これはプラットフォームが虚偽情報について「知らなかった」とか「ユーザーが上げたものだ」とだけ主張することが難しい構造を作る。欧州委員会がXに課徴金を科した事例で分かるように、虚偽情報への対応はもはや倫理的な勧告ではなく、規制遵守と財務リスクの問題となった。この過程で、コンプライアンスソリューション、リスクモニタリング、アルゴリズム監査、広告透明性管理、コンテンツの出典認証、ディープフェイク検知、ファクトチェッキング自動化のような新しい市場が形成されている。
第二に、メディアや公共機関の需要が高まっているからだ。選挙、戦争、健康危機、移民、気候変動のように社会的な対立が大きなテーマであるほど、虚偽情報は急速に拡散する。特にロシアのウクライナ侵攻、コロナ19パンデミック、欧州議会選挙、難民・移民論争は、虚偽情報が単なるオンラインの噂を超え、安全保障、公衆衛生、選挙の信頼、社会統合の問題につながる可能性があることを示した。「欧州デジタルメディア観測所（EDMO）」のような機関がファクトチェッカー、研究者、ジャーナリスト、メディアリテラシーの専門家を連携させる理由もここにある。メディアは膨大なソーシャルメディアコンテンツをすべて手作業で検証することが難しく、公共機関は危機状況において虚偽情報の拡散経路と影響範囲を迅速に把握しなければならない。したがって、自動モニタリング、多言語ファクトチェッキング支援、虚偽情報ネットワーク分析、選挙・危機対応ダッシュボードに対する技術的需要が高まらざるを得ない。
第三に、企業も虚偽情報の直接的な被害者となっているからだ。虚偽の噂、改ざん映像、偽のレビュー、ブランドのなりすまし、競合他社を狙った情報操作は、企業の評判と消費者の信頼を直接的に毀損する。生成AIの拡散により、企業CEOの偽の音声、改ざんされたインタビュー映像、虚偽のプレスリリース、偽の顧客レビューさえも少ない費用で作れるようになったことで、企業のコミュニケーションリスクははるかに大きくなった。企業にとって虚偽情報への対応は、広報チームの事後の解明業務ではなく、ブランド保護、サイバーセキュリティ、投資家関係、消費者信頼管理とつながったリスク管理領域となっている。このため、レピュテーションモニタリング、ディープフェイク検知、偽レビュー分析、ブランドのなりすまし探知、危機コミュニケーション支援技術に対する需要も同時に高まっている。
真実には「信頼のインフラ」が必要だ
韓国にも示唆するところは大きい。韓国のフェイクニュース論争は、しばしば「処罰するか、しないか」という構図に矮小化される。これに対し、欧州の議論はもう少し構造的だ。個別の発言者だけではなく、虚偽情報が金になり、怒りがクリックを誘い、アルゴリズムが刺激的なコンテンツを繰り返し推薦するという構造である。だとすれば、解決策も個人の処罰にとどまることはできない。プラットフォームの推薦システム、収益化構造、広告の透明性、研究者のアクセス権、市民教育、技術ベースの検証システムが共に議論されるべきだ。
キム・セウィの拘束事件を欧州の視点で見ると、問いは結局一つに集約される。韓国社会は虚偽情報を事後処罰の問題としてだけ扱うのか、それとも情報エコシステムの構造的リスクとして扱うのか。欧州はすでに後者の方向へ移動している。プラットフォームに責任を問い、技術で拡散経路を追跡し、市民が自ら情報を判断できるよう支援する方式だ。
フェイクニュースの時代、真実は勝手に生き残るわけではない。真実にもインフラが必要だ。法律、技術、メディア、市民社会、教育、スタートアップが共に作る「信頼のインフラ」のことだ。欧州のフェイクニュース対応スタートアップたちが示しているのは、まさにこの点である。未来の民主主義は、単に良いジャーナリズムだけで守られるのではない。虚偽情報が作られ、増幅され、消費される全過程を監視し、検証し、説明する新しい技術エコシステムが必要だ。
韓国でも今、問いを変える時だ。誰が嘘をついたのかを問うことから一歩踏み出さなければならない。なぜその嘘はこれほど早く広がったのか。誰がそれで金を稼いだのか。どのようなプラットフォーム構造がそれを可能にしたのか。そして、私たちはその構造をどう変えるのか。この問いに答える場所でこそ、フェイクニュース対応技術とスタートアップの新しい市場も開かれるだろう。
筆者イ・ウンソは韓国で法学を専攻し、ベルリンで演劇を学んだ。芸術の街であり、欧州のスタートアップハブであるベルリンに腰を据え、都市と共に成長しながら、韓国とドイツのスタートアップエコシステムをつなぐ「123Factory」を率いている。