サンフランシスコ市は何を要求したのですか？

市の弁護士であるDavid Chiu氏が、AppleとGoogleに対して、人物の画像から衣服を除去したように加工するいわゆるnudifyアプリ13本をアプリストアから削除するよう求める警告書を送付しました。両社には28日以内に市の担当部署へ連絡するよう期限が設定されています。

日本にはこうしたアプリを規制する法律はありますか？

2026年7月時点で、性的ディープフェイクの作成・頒布を直接禁じる規定は日本の法律にはありません。名誉毀損罪やわいせつ物頒布等の罪、児童ポルノ禁止法など既存の法律で個別に対応する形にとどまっています。包括的なAI法がないため、表現の自由と技術振興とのバランスをめぐって法整備の議論が続いています。

EUや英国ではどうなっていますか？

EUは欧州議会がAI法の枠組みで、同意なく性的な画像を生成するヌード化システムを禁止する方向を打ち出しており、2026年11月2日が適用期限とされています。英国は2023年のオンライン安全法でディープフェイクポルノの共有を、2025年の法改正で作成を犯罪化しており、さらにアプリ自体の犯罪化を目指した法案の修正が検討されています。

なぜAIモデルの開発企業ではなくアプリストアが標的になったのですか？

開発企業の多くが海外にあり法執行が届きにくい一方、AppleとGoogleは審査と決済の両方を握る「関門」だからです。カリフォルニア州法は非同意の性的ディープフェイク作成を知りながら助長する行為や、無謀に幇助する行為を犯罪の対象としており、配布と課金を担う事業者にも法的な足がかりがあります。

SF市がAI「脱がせ」アプリ削除命令｜規制は作る側から配る側へ

サンフランシスコ市がAppleとGoogleに13本のnudifyアプリ削除を要求し28日の期限を設定。同時期にxAIは自社ユーザーを提訴しました。規制の焦点がモデル開発者からアプリストアと決済に移った構造を、米国・EU・英国・日本の法整備状況と並べて整理します。

まず結論

サンフランシスコ市の弁護士が Apple と Google に警告書を送り、いわゆる nudify アプリ13本の削除を要求しました。回答期限は28日です
Apple は3本を削除して開発者アカウントの停止手続きに入り、Google は指摘された5本すべてを Play ストアから停止済みと回答しています
規制の焦点が、モデルを作る側から配る側と課金する側へ移りました。ここが今回のニュースの本質です
同じ7月、xAI は Grok を悪用したとして自社ユーザーを提訴。AI企業が利用者を訴える初期の事例のひとつです
日本には性的ディープフェイクの作成・頒布を直接禁じる規定がありません。既存法での個別対応にとどまっています

ニュース元: Apple and Google ordered to purge ‘nudify’ apps from App Stores（TechCrunch, 2026-07-17）

「AI規制」というと大規模モデルの開発企業をどう縛るかの話になりがちでしたが、今回はまったく別の層が動きました。何が変わったのかを整理します。

1. サンフランシスコ市が求めたこと

市弁護士の David Chiu 氏が、Apple と Google の両社に警告書（cease-and-desist letter）を送付しました。対象は、人物の写真から衣服を除去したように加工する13本のアプリです。両社には28日以内に市の担当部署へ連絡するよう求めています。

両社の回答は次のとおりです。

事業者	対応
Apple	指摘された3本を削除済み。関連する開発者アカウントの停止手続き中。他4本とはポリシー違反の是正について協議中
Google	書簡で言及された5本すべてを Play ストアから停止済み。これまでに数百本の違反アプリを停止してきたと説明

Chiu 氏は、両社がこれらのアプリの決済処理に関与していることを1年近く前から把握していたと指摘し、手数料として数百万ドル規模の収入を得ていた可能性があると Wired に語っています。具体的な金額は開示されていません。

法的な根拠はカリフォルニア州法です。同州法は、同意のない性的ディープフェイクの作成を「知りながら助長する（knowingly facilitates）」行為や「無謀に幇助する（recklessly aids or abets）」行為を犯罪の対象としています。さらに2025年に成立した法律により、被害者が第三者の幇助者に対して民事訴訟を起こせるようになりました。

2. なぜアプリストアが標的になったのか？

執行が届く場所だからです。

この種のアプリを作る事業者の多くは海外に拠点を置き、実体の把握すら難しいケースが少なくありません。開発者を1社ずつ追いかける方法では、削除しても別名で再登場するいたちごっこになります。

対して Apple と Google は、審査と決済という2つの関門を同時に握っています。アプリストアを止めれば、収益経路も配布経路も同時に断てる——これが行政側の計算です。

💡 正直な本音 「プラットフォームは中立な場でしかない」という主張は、決済手数料を受け取っている以上そのままでは通りにくくなっています。審査して並べて、課金して手数料を取る。この3つを担っているなら、単なる場所貸しとは言えない。Chiu 氏が決済への関与を強調したのは、その論点を突くためでしょう。

構造としては、著作権侵害コンテンツをめぐって配信事業者の責任が問われてきた経緯と似ています。作った者だけを追う限界が見えたとき、規制は流通の要所に向かう。AIの分野でも同じ道筋をたどり始めたということです。

AI企業各社の立ち位置は AI企業の戦略マップ2026 で整理しています。

3. 各国の規制はどこまで進んでいる？

同じ問題に対する4つの法域の状況を並べます。2026年7月時点の整理です。

法域	状況
米・カリフォルニア州	非同意ディープフェイクポルノの作成を知りながら助長・幇助する行為を犯罪化。2025年法で被害者による第三者への民事訴訟が可能に
EU	欧州議会がAI法の枠組みでヌード化システムの禁止を打ち出し、2026年11月2日が適用期限とされる
英国	2023年オンライン安全法が共有を犯罪化、2025年の法改正で作成も犯罪化。さらにアプリ自体の犯罪化を目指す法案修正を検討中
日本	直接禁じる規定なし。名誉毀損・わいせつ物頒布・児童ポルノ禁止法など既存法での個別対応

英国が「共有 → 作成 → アプリそのもの」と段階的に対象を広げてきた点は、規制の進み方として分かりやすい例です。被害を止めるには最終的にツールの提供自体を断つ必要がある、という判断に各国が収束しつつあるとみられます。

EU の適用期限である2026年11月2日は、いま4か月後に迫っています。EU域内でこの種のアプリを配信している事業者にとっては、事実上の撤退期限です。

4. モデル提供側も動いた：xAIによるユーザー提訴

配布層への圧力と並行して、モデルを提供する側でも異例の動きがありました。

7月14日、Elon Musk 氏の xAI が、サウスカロライナ州在住の Terry Harwood 氏をテキサス州の連邦地裁に提訴しました。同社の画像生成機能 Grok を悪用し、児童性的虐待素材（CSAM）を作成したとする訴えです。Harwood 氏は本年に入って未成年者の性的画像作成の容疑で逮捕されています。

AI企業が自社の利用者を訴えるのは、確認できる限り初期の事例のひとつです。訴状の中で xAI は、2026年に52,222件のアカウントを停止し、全米行方不明・被搾取児童センター（NCMEC）へ73,604件の通報を行い、少なくとも244件の逮捕につながったと主張しています。

ただし、この動きを額面どおり受け取るのは慎重であるべきだと考えています。xAI は2025年8月に写実的なヌード生成が可能な機能を Grok に導入しており、その後にディープフェイク画像が大量に生成される事態を招いた経緯があります。生成を容易にする機能を自ら提供したうえで、悪用した利用者を訴えるという構図には、責任の所在をめぐる批判が出ています。

Grok をめぐる過去の問題は Grok Build のコードベース流出インシデントでも扱いました。

5. 日本の空白をどう見るか

日本には、性的ディープフェイクの作成・頒布を直接禁じる規定がありません。

対応は既存法の組み合わせに委ねられています。名誉毀損罪、わいせつ物頒布等の罪、対象が未成年であれば児童ポルノ禁止法。ただしこれらは、加工画像を作る行為そのものや、生成ツールを提供する行為を対象に含んでいません。頒布や公然性を要件とする条文が中心のため、作成しただけの段階では網にかからないのです。

2026年2月には、107を超える国内外のNGOがヌード画像生成ツールの全面禁止を求める共同声明を出しました。国会でも質問主意書が提出され、報道機関の社説でも法整備を急ぐよう求める論調が出ています。一方で、表現の自由との線引きや技術振興とのバランスをめぐって、包括的な法整備には慎重な意見も残っています。

現実的な影響として押さえておきたいのは、日本の利用者が被害に遭った場合、削除や賠償を求める法的な足場が海外より弱いという点です。EU や英国のように「作成した時点で犯罪」と言い切れる法域とは、初動の速さが変わります。

日本のAI規制の全体像は日本と世界のAI規制を比較するにまとめています。

あなたへの影響

自分や家族の写真をSNSに公開している人

公開範囲の設定を一度見直してください。加工の元になるのは、たいてい公開されている普通の写真です
被害に気づいた場合、日本では警察相談専用電話（#9110）や法務局の人権相談窓口が最初の窓口になります。SNS事業者への削除申請と並行して進めてください
スクリーンショットとURLの保全を最優先に。削除されると証拠も消えます

アプリやサービスを開発・運営している人

画像編集機能を提供している場合、EU の適用期限（2026年11月2日）は他人事ではありません。人物画像を扱う機能の設計と利用規約を確認しておく必要があります
決済を代行している事業者も、今回の論点では「関与」の対象になり得ます

企業でAIツールを選定している人

生成AIの選定基準に「悪用防止の実装と通報体制」を加える段階に来ています。機能と価格だけの比較では足りません
AIの実害事例は AIの失敗事例と実際のインシデントから学ぶにまとめています

規制動向を追っている人

次の注目点は、英国の法案修正がアプリ提供自体を犯罪化するかどうか、そして EU の11月2日以降の執行実態です

まとめ

今回の命令が示したのは、AI規制の実効性が「誰を縛るか」より「どこで止めるか」で決まる局面に入った、ということです。作る側は国境の外に逃げられますが、配って課金する側は逃げられません。

日本には、作成行為やツール提供を対象にした規定がまだありません。EU の適用期限まで4か月、英国はさらに一段踏み込もうとしている。国内の議論がどこまで動くかは、今後半年の注目点になります。

よくある質問

Q. 被害に遭った場合、まず何をすべきですか？ A. 証拠の保全が最優先です。投稿URL、スクリーンショット、日時を記録してください。そのうえでプラットフォームへの削除申請と、警察相談専用電話（#9110）や法務局の人権相談窓口への相談を並行して進めます。削除されると証拠も同時に消えるため、順番を逆にしないことが重要です。

Q. Apple と Google は今後すべて削除するのでしょうか？ A. 現時点で確認できるのは、指摘された個別のアプリへの対応です。両社とも審査ポリシーで同種のアプリを禁じているものの、新規の登録を完全に防げていないのが実態です。今回の期限への回答内容が、審査体制そのものの変更につながるかが焦点になります。

Q. 日本で法整備が進む見込みはありますか？ A. 執筆時点で具体的な立法スケジュールは公表されていません。NGOの共同声明や国会での質問主意書といった動きはありますが、包括的な規定の新設に至るかは未確定です。