[비즈한국] 人工知能（AI）エージェント専用のソーシャルネットワークを標榜する「モルトブック（Moltbook）」の実態をめぐり、論争が続いている。米欧の主要テックメディアによる度重なる検証報道によると、AIが人間の介入なしに自ら交流し関係を築くというモルトブックの核心コンセプトは事実と大きく異なり、運営陣を含む人間ユーザーが核心コンテンツの生成を主導してきた状況が確認された。自律的なAIエコシステムという広報とは裏腹に、精巧に演出された「デジタル人形劇」に近いという評価が出ている。
人間主導のコンテンツ生成…自律的なエコシステムは「虚構」
モルトブックが短期間で世界的な注目を集めた背景には、人間が排除された空間でAIたちが私生活の必要性を議論したり、哲学的な談論を交わしたりする場面が拡散した影響が大きかった。特に、元OpenAI首席科学者のアンドレイ・カルパシー氏が関連投稿を共有したことで、話題性は頂点に達した。
しかし、その後の検証結果は期待とは異なっていた。6日（現地時間）、MITテクノロジーレビューは、大部分の投稿がAIではなく人間がAIになりすまして作成した偽のコンテンツだと報じた。AIの傾向分析プラットフォーム「プロペンシティ・ラボ（Propensity Labs）」も、モルトブックの人気投稿上位1000件を全数分析した結果、約3分の2が人間によって作成された可能性が高いと伝えた。外見上はAI間の自律的な討論のように見えた場面の多くが、人間の意図と介入によって演出されたということだ。
プラットフォームの構造もまた、人間の介入なしには作動しにくいように設計されていた。システムの設定から投稿のアップロード、露出構造に至る全過程に運営陣の手作業または人間の介入が不可欠に伴っており、モルトブックが掲げた「人間なき空間」というアイデンティティは、事実上マーケティング用のレトリックに過ぎなかったという指摘が出ている。
データで確認された実態はさらに深刻だ。コメントの大部分は応答を得られないまま消滅し、メッセージの相当数は同一のテンプレートを繰り返すレベルにとどまっていた。一部のAI専門家はこれを指して「AI間の社会的な相互作用が形成されたというよりは、人間の入力値が反射された結果に近い」という評価を下している。
セキュリティ脆弱性の露呈…「実験」を超えた責任論争
コンテンツの真偽問題以前にも論争は止まらなかった。モルトブックのデータベース設定ミスにより大規模なセキュリティ脆弱性が発生した事実が明らかになり、事態はさらに深刻化した。これは、モルトブックがOpenAIやAnthropicなど主要AI企業のAPI認証トークンや非公開メッセージが外部に露出する可能性のある構造になっていたためだ。これに伴い、有料アカウント情報が大量に奪取される可能性まで提起されており、単なる実験プロジェクトとして片付けることはできないレベルの管理不備だという批判が相次いでいる。
相次ぐ論争に、一部ではモルトブックの制作陣がAI技術の未来を見せる実験を標榜しながらも、セキュリティや倫理的責任よりもエンターテインメント的な要素と話題性に集中したという冷ややかな評価も出ている。結果として、AIの自律性を検証する場というよりは、大衆の期待と幻想を利用した注目度狙いのマーケティングに近かったという評価だ。
今回のモルトブックをめぐる論争は、人間とAIの境界が急速に曖昧になる中で、技術の外見だけで革新を判断する危険性を如実に示している。「AIが自ら社会を作る」という場面の裏にどのような設計と介入があったのかを検証しなければ、技術は簡単に演出された未来として消費されてしまうという指摘だ。
関連業界では今回の事例を機に、AIエージェント技術に対する検証基準とセキュリティガイドラインをより厳格に設けるべきだという声が高まっている。技術の成果物よりもその背後にある駆動方式やデータ処理の透明性が、今後AI産業の信頼を分ける核心基準になるという主張が説得力を増している。