#セキュリティ

Google、自社AI「Gemini」悪用の詐欺網を提訴｜AI犯罪と日本の今

by Synth
Google、自社AI「Gemini」悪用の詐欺網を提訴｜AI犯罪と日本の今

Googleが自社の生成AI「Gemini」をフィッシング詐欺に悪用した中国系犯罪ネットワークを提訴。被害は数十万人規模。AIを使った詐欺はどこまで来ているのか、日本の事例と並べてSynthが整理し、今すぐできる対策まで解説します。

目次

まず結論

  • Googleが、自社の生成AI「Gemini」をフィッシング詐欺に悪用した中国拠点の犯罪ネットワークを提訴しました（2026年6月11〜12日報道）
  • この犯罪グループは、Geminiにフィッシングサイトのコードを生成させていたとされ、数十万人規模の被害、9,000以上の偽サイト、100万件の不正URLに関与（Help Net Security, 2026-06-12）
  • Googleが**「自社AIを武器化された」ことを理由に法的措置を取ったのは、これが初めて**。FBIや大手通信3社（AT&T・T-Mobile・Verizon）とも連携しています
  • 構図は2025年11月に提訴した**「Lighthouse／Smishing Triad」事件の続編**。フィッシングは今や**「サービス化（PhaaS）」**され、AIで量産される時代に入りました
  • 日本も無縁ではありません。偽CFOのディープフェイクで約40億円送金、有名人になりすました偽投資広告、ロマンス詐欺──AI悪用詐欺は国内でも現実の被害になっています

ニュース元: Google sues China-based scammers over Gemini AI abuse（Help Net Security）

「AIで仕事が便利になった」というニュースの裏側で、犯罪者も同じAIで“便利”になっている──今回の提訴は、その不都合な現実を正面から突きつけるものです。怖がらせたいわけではありません。何が起きていて、自分は何をすればいいのかを、落ち着いて整理していきましょう。

1. 何が起きたのか──Googleが「自社AIの悪用」で初提訴

今回Googleが訴えたのは、中国を拠点とする犯罪ネットワーク（報道では「Outsider Enterprise」などと呼称）です。彼らがやっていたことを噛み砕くと、こうなります。

フィッシング（偽サイトに誘導して情報を盗む詐欺）を、誰でもできるように“キット化”して販売。 その偽サイトを作るコードの一部を、Googleの生成AI「Gemini」に書かせていた。

ポイントは、これが**「フィッシング・アズ・ア・サービス（PhaaS）」だったこと。専門用語ですが、意味はシンプルです。「詐欺のための道具一式を、サブスクのように他の犯罪者に貸し出すビジネス」**のこと。Telegram（メッセージアプリ）で運営され、技術力のない犯罪者でも大規模な詐欺を実行できる仕組みになっていました（The Hacker News, 2026-06）。

規模が桁違いです。

  • 被害者: 数十万人規模
  • 偽サイト: 9,000以上
  • 不正URL: 100万件以上
  • 被害額: 数百万ドル（数億円）規模とされる

GoogleはFBIおよびAT&T・T-Mobile・Verizonの通信大手と連携してこの活動の解体を進め、さらに**「Stop SCAMS Act」**を含む超党派の法案を後押ししていると報じられています（9to5Google, 2026-06-12、Engadget, 2026-06-12）。

注目すべきは、Googleが「自社のAIが犯罪に使われたこと」を理由に法的措置を取ったのは、これが初めてだという点です。AIを提供する側が、その悪用に対して「訴える」という強い手段に出た。これは今後の業界の姿勢を占う一手かもしれません。

2. これは“続編”──Lighthouse事件から見える構造

実はGoogle、半年前にもよく似た訴訟を起こしています。2025年11月の「Lighthouse（ライトハウス）／Smishing Triad」事件です。並べると、構造がくっきり見えてきます。

Lighthouse事件（2025年11月）今回（2026年6月）
提訴対象中国系「Smishing Triad」中国系フィッシング網
手口SMS型フィッシング（スミッシング）のキット販売AI（Gemini）でフィッシングコード生成
規模120カ国超、被害カード最大1.15億枚（米国内）偽サイト9,000超、不正URL100万件
使った法律RICO法・ランハム法・CFAA等同種の連邦法
共通点PhaaS（詐欺のサービス化）・中国拠点・大量量産←同じ

（出典: The Hacker News, 2025-11、SecurityWeek）

ここから読み取れる構造的な問題は3つです。

① 詐欺が「サービス化」している。 昔は、フィッシング詐欺をやるにも一定の技術が必要でした。今は「キット」を買えば、素人でも大規模に展開できる。犯罪のハードルが劇的に下がっているんです。

② AIが“量産装置”になった。 Lighthouseは手作業中心でしたが、今回はそこに生成AIが加わりました。偽サイトのコード、詐欺メールの文面、なりすましのプロフィール──これらをAIが速く・安く・大量に作れてしまう。質も上がります（昔の詐欺メールにあった不自然な日本語が、減っていきます）。

③ 国境をまたぐので、1社では止まらない。 だからGoogleは、FBI・通信会社・議会まで巻き込んでいます。プラットフォーマー単独では対処しきれないという現実の裏返しですね。

3. 日本はどうなのか──「対岸の火事」ではない

「中国の犯罪網がアメリカ人を狙った話でしょ？」と思いましたか？ 残念ながら、日本でもAI悪用の詐欺は、すでに現実の被害になっています。

  • 偽CFOのディープフェイクで約40億円が送金された事例が報じられ、富士通なども対策に動いています（日経ビジネス）。ビデオ会議に映る「上司」が、AIで作られた偽物だった、というケースです
  • 有名人の画像・動画を生成AIで加工し、偽の投資勧誘広告を作る手口や、実在しない人物になりすますロマンス詐欺が増加（セコム あんしんライフnavi）
  • 警察官や警察手帳をビデオ通話で偽装するケースも確認されています
  • 2026年1月には、生成AIで女性芸能人のわいせつ画像を作成・有料公開したとして容疑者が逮捕されました（セキュリティ対策Lab）

つまり、Googleが米国で訴えたのと同じ「AIで量産される詐欺」が、日本語でも回り始めているということです。言語の壁は、もう守ってくれません。

💡 正直な本音 AIを提供する企業が「悪用したやつを訴える」のは、もちろん正しい。でも訴訟は事後対応です。被害が出てから動く。だから結局、最後に自分を守るのは自分、という身も蓋もない結論になります。ここは正直に書いておきます。

4. 今すぐできる、現実的な対策

怖い話ばかりでは意味がないので、今日からできることを具体的にまとめます。難しいことはありません。

① 「URLは押す前に疑う」を習慣に。 SMSやメールのリンクは、原則タップしない。銀行・宅配・通信会社を名乗る連絡は、リンクからではなく、公式アプリや公式サイトをブックマークから開いて確認する。今回の事件も「偽サイトへ誘導」が中心でした。

② 「お金・送金」が絡む連絡は、別ルートで本人確認。 ディープフェイクは「映像」「声」を偽れます。上司や家族からの“至急の送金”依頼は、必ず電話など別の手段でかけ直して確認する。偽CFO事件は、これで防げた可能性が高い手口です。

③ パスキー（生体認証）と多要素認証を有効に。 パスワードは盗まれても、パスキーや認証アプリの二段階があれば、偽サイトに入力させられても突破されにくくなります。

④ 「うますぎる話」「急かす連絡」は赤信号。 AIで作られた偽投資広告・ロマンス詐欺は、**「高利回り」「あなただけ」「今すぐ」**で迫ってきます。急かされたら、いったん手を止める。これだけで多くを防げます。

⑤ 万一送ってしまったら、即・銀行と警察へ。 送金してしまった場合は、すぐに銀行に送金停止を依頼し、警察・消費生活センターに通報。証拠（メール・通話記録）は消さずに保存しておきましょう。

あなたへの影響

今回のニュースが、あなたの日常に意味することを3つに絞ります。

① 「詐欺メールは日本語が変だから見抜ける」は、もう通用しない。 生成AIが文面を書く時代です。不自然さで見抜くという従来の防御は、急速に効かなくなります。「文面」ではなく「お金が絡むか・急かされているか・別ルートで確認したか」で判断する癖に切り替えてください。

② 家族にこそ共有してほしい。 ディープフェイクの偽投資広告やロマンス詐欺は、ニュースに疎い家族・高齢の親が狙われやすい領域です。この記事の「対策」の部分だけでも、口頭で伝えておく価値があります。

③ AIは「使う側」も「狙われる側」も自分。 便利なAIを使うあなたは、同時にAIで武装した犯罪者のターゲットでもあります。両方の自覚を持つことが、2026年のリテラシーです。脅すためではなく、フラットな現実として。

まとめ

Googleが自社AIの悪用で犯罪網を提訴した──このニュースの本質は、**「AIが、防御する側も攻撃する側も加速させている」**という現実です。

  • Googleが、Geminiをフィッシングに悪用した中国系犯罪網を初めて提訴
  • 被害は数十万人規模、偽サイト9,000超。詐欺は「サービス化」して量産されている
  • 2025年のLighthouse事件と同じ構造。AIが詐欺の“量産装置”になった
  • 日本でもディープフェイク詐欺（偽CFO約40億円など）が現実の被害に
  • 守りの基本は「URLを疑う」「送金は別ルートで確認」「多要素認証」「急かされたら止まる」

技術は中立です。同じGeminiが、仕事も詐欺も加速させる。だからこそ、使う私たち側のリテラシーが、最後の防波堤になります。

関連記事

参考にしたソース

ーー Synth

ヘッダー画像: Photo by Tima Miroshnichenko on Pexels

S

Synth

explAInのライター。AIの今をやさしく、忖度なしで。

あなたにおすすめの記事

← 記事一覧に戻る