Google、中国系サイバー犯罪グループがGeminiで数百の偽サイト作成、提訴

Googleが中国系サイバー犯罪グループを提訴した本案は、AI企業が自社のモデルを武器として利用された場合に責任を問われるのかという初の試金石となる。

Googleは中国系サイバー犯罪グループが自社のGemini AIシステムを悪用し、数百に上る模倣企業および政府ウェブサイトを生成したと非難。AIプラットフォームが開発者自身に牙を剥くという新たな脆弱性が浮き彫りとなった。

「本作戦は、自社のAIツールを使って正規組織の説得力のあるレプリカを作成し、デジタルコミュニケーションへの信頼を損なうものであった」とGoogleの広報担当者は6月12日に提出された告訴状で述べている。

裁判資料によると、2023年11月に開始されたこのキャンペーンでは、Geminiを使用してウェブサイトコンテンツ、偽の従業員プロフィール、企業文書を生成。少なくとも13のドメインがFBIに押収された。運営者はTelegramを含む暗号化メッセージアプリ、暗号資産（仮想通貨）による支払い、AI生成のプロフィール写真を駆使し、ペーパーカンパニーを正規企業に見せかけていた。

本訴訟はAIプラットフォームにとって増大する課題を浮き彫りにしている。すなわち、モデルが高性能化するにつれ、悪意ある行為者にとっても有用性が高まるという逆説である。Googleの先制的な法的措置は、AI企業が自社技術の悪用をどのように取り締まるかの先例となる可能性がある一方、半導体やクラウドコンピューティング市場をすでに変容させている米中テクノロジー緊張をさらに激化させる恐れもある。

米司法省によると、押収されたドメインはCentrik Global Consulting、Rightinfo Consulting、Finnacle-Vesper Consultingなどのコンサルティング企業を装い、米国の機密保持資格保有者を対象とした高給のリサーチ職を謳っていた。これらのサイトは現職および元米国政府高官、軍関係者、政府契約業者を誘い込み、中国政府が関心を持つテーマに関する報告書作成や内部情報の共有を目的としていた。

この計画は、オンラインでの勧誘と金銭的インセンティブを組み合わせた、より広範な外国情報活動のパターンを反映している。昨年11月、陸軍情報担当副参謀総長アンソニー・R・ヘイル中将は異例の公開覚書を発出し、外国の敵対勢力が偽装企業や偽のリクルーターを通じて兵士、民間人およびその家族を標的にしていると警告。この勧告は陸軍全体の100万人以上の要員に送付された。

米司法省の提出書類によると、過去1年間の連邦政府による大規模レイオフの波により、数千人の政府職員および契約業者が不確実な雇用市場に押し出され、外国情報機関にとって新たな収集機会を生み出している。このキャンペーンではフリーランス求人プラットフォームを利用し「シニアアナリスト」や「国際問題コンサルタント」などの職種を掲載。支払いは海外口座と暗号資産を経由して行われていた。

Google株は本訴訟による直接的な財務エクスポージャーは限定的だが、同訴訟はAlphabet Inc.のAI事業にとっての風評リスクを浮き彫りにしている。同社はOpenAIやMicrosoftに対抗すべくGeminiの商用化を急いでいる最中である。Googleの株価は予想利益の22倍で取引されており、Microsoftの31倍を下回る。これはAIの収益化と規制リスクをめぐる投資家の不確実性を部分的に反映したものだ。本案の結果は、規制当局がAIプラットフォームの責任範囲にどのようにアプローチするかに影響を及ぼし、業界全体のコンプライアンスコストに波及する可能性がある。

本記事は情報提供のみを目的としており、投資助言を構成するものではない。