#セキュリティ

KPMGのAI礼賛レポートが幻覚だらけ｜デロイトも踏んだ罠

by Synth
KPMGのAI礼賛レポートが幻覚だらけ｜デロイトも踏んだ罠

大手監査法人KPMGが、AI活用を称えるレポートを撤回。45の出典のうち正確だったのはわずか5つで、UBSやNHSの事例も捏造でした。デロイトも2025年に同じ轍を踏んでいます。「AIを売る側がAIの嘘に溺れる」構造を、Synthが国内外の事例で整理します。

目次

まず結論

  • 世界4大監査法人の一角KPMGが、AI活用を礼賛するレポートを撤回しました（ニュース元: TechCrunch: KPMG pulls report on AI usage due to apparent hallucinations）
  • 皮肉なことに、その「AIの素晴らしさを語るレポート」自体が、AIの幻覚（ハルシネーション）でデタラメだらけでした
  • 45件の出典のうち、正確だったのはわずか5件。28件は実在ソースに偽の要素を混ぜ、12件は曖昧で実在すら確認できませんでした
  • UBS（スイスの銀行）、英国NHS、ロンドン交通局、スイス連邦鉄道などの「AI活用事例」も、当事者が「事実ではない」と否定しています
  • これは初めてではありません。デロイトも2025年に、政府向けレポートで架空の判例を引用し、報酬の一部を返金しています

正直に言うと、これはちょっと笑えない事件です。「AIガバナンスを企業に売っている側が、自分のレポートをAIの嘘で汚した」——AIを仕事に使うすべての人に関わる、構造的な教訓があります。順に見ていきます。

1. 何が起きたのか——KPMGのケース

問題のレポートは、2025年10月にKPMGが公開した「Redefining excellence in the age of agentic AI（AIエージェント時代における卓越性の再定義）」というタイトルのものです。

きっかけは、AI検出ツールを手がける研究グループGPTZeroが、レポート内の記述に不審な点を見つけたこと。その指摘を**Financial Times（FT）**が裏取りして、事態が表面化しました（FT報道: KPMG report contained AI hallucinations about AI use at UBS）。

GPTZeroの調査で判明した出典の内訳が、なかなか衝撃的です。

45件の出典内訳
正確に実在ソースを指していたわずか5件
実在ソースに偽のタイトル・要素を混ぜていた28件
曖昧すぎて実在すら確認不能12件

つまり、出典の約9割が、何らかの形で壊れていたわけです。

さらに、レポートが「AI活用の好例」として挙げた企業も、軒並み否定しました。

  • UBS: 「投資助言・リスク管理・コンプライアンス監視にAIエージェントを統合し、Microsoftと共同開発したプラットフォームで運用している」と書かれたが、UBS広報は「事実として正しくない」とFTに回答
  • スイス連邦鉄道: 「AIエージェントで乗客の移動を計画・最適化している」と書かれたが、鉄道側は「そうした事実はない」と否定
  • 英国NHS（国民保健サービス）・ロンドン交通局も、記述は「事実ではない、または誤解を招く」と回答

KPMGは該当レポートをサイトから削除し、社内調査中だとしています。広報は「AIの責任ある利用に関するガイドライン（人間によるチェックや独立した裏取りを含む）に従うことを、全社員に期待している」とコメントしました。…そのガイドラインが守られなかったから、この騒ぎになっているわけですが。

2. デロイトも踏んだ——2025年の前例

「大手がうっかりやった一度きりのミス」と思いたくなりますが、違います。同じ罠を、デロイトが一足先に踏んでいます。

2025年、デロイト・オーストラリアは、豪政府（雇用・職場関係省＝DEWR）から委託され、福祉ペナルティを自動化するITシステムの監査レポートを作成しました。契約額は約44万豪ドル（米ドルで約29万ドル※＝約4,400万円）。ところが公開後、専門家から重大な誤りが次々と指摘されます（Fortune: Deloitte to partially refund Australian government）。

  • 存在しない研究論文への参照（例:「The Rule of Law and Administrative Justice in the Welfare State」という架空の文献）
  • 連邦裁判所の判決から取ったとされる、捏造された引用
  • シドニー大学の健康法専門家クリス・ラッジ氏らが「明らかな誤り」と指摘

改訂版で、デロイトは**Azure OpenAI（GPT-4o）**を使っていたことを開示。最終的に、報酬の一部（約9.7万豪ドル＝約1,000万円相当）を返金しました。報道によれば、EYや大手法律事務所も同種のミスで名前が挙がっています。

💡 ここが構造的な問題 KPMGもデロイトも、本業は「企業のリスク管理やガバナンスを助ける」こと。そのプロ中のプロが、AIの幻覚を見抜けずに公開してしまった。専門家でも引っかかるのが、ハルシネーションの怖さです。

3. ハルシネーションは「司法」にも入り込んでいる

これはコンサル業界だけの話ではありません。もっとシビアな領域——裁判にも、AIの幻覚は侵入しています。

米国では、訴訟書類に実在しない判例を引用した弁護士が制裁を受けるケースが相次いでいます。さらに踏み込んだ事例として、2025年7月、米ミシシッピ州の連邦地裁判事が出した命令文に、当事者でない人物の名前が並び、引用された判例の一部が存在しなかったことが報じられました（JBpress 生成AI事件簿）。判決を出す側まで、幻覚に足をすくわれているわけです。

日本でも、弁護士業務での生成AI利用が進む一方、**RAG（社内データを参照させて幻覚を抑える仕組み）**の構築や、利用を一律制限する慎重派の動きが共存しています（神奈川県弁護士会: 生成AIと弁護士業務）。「便利だから使う」と「信用できないから止める」の間で、各業界が揺れているのが現状です。

4. なぜ「もっともらしい嘘」が生まれるのか

ここを噛み砕いておきます。生成AIは、質問に対して「いちばんもっともらしく続きそうな言葉」を確率で並べる仕組みです。事実かどうかを照合しているわけではありません。

だから、

  • 実在しそうな論文タイトルをそれっぽく合成する
  • 実在する判例番号に、別の判決内容をくっつける
  • 企業名＋AI＋業務、という組み合わせから「ありそうな事例」を作文する

といった、**「形は完璧だが中身が嘘」**の出力が生まれます。しかも文章が滑らかなので、専門家でも読み飛ばしてしまう。これがハルシネーションの厄介さです。

5. あなたへの影響——明日から使える3つの防御

「大企業の話でしょ」と思うかもしれません。でも、あなたが仕事でAIに資料を作らせた瞬間、まったく同じ罠があなたの足元にも開きます。明日から使える防御を、3つに絞ります。

① 出典は必ず「自分の目」でクリックして確認する AIが出したURL・論文名・統計は、実在を1件ずつ確かめる。KPMGの教訓は「出典の9割が壊れていても、文章は完璧に見える」です。リンクを開いて、その数字が本当にそのページにあるかまで見る。

② 固有名詞・数字・引用は、AIの出力をそのまま信じない 人名・社名・金額・日付・判例。この5つは幻覚が出やすい筆頭です。AIの下書きはあくまで「たたき台」として、一次情報で上書きする前提で扱いましょう。

③ 「AIに作らせた」と分かる工程を残す 誰がどこをAIで作り、誰が裏取りしたか。人間のチェック工程を記録しておくと、万一誤りが出ても原因をたどれます。デロイトもKPMGも、ここが弱かった。

⚠️ ここは気をつけて ハルシネーションは「精度の高いモデルを使えば消える」ものではありません。最新モデルでも、頻度が下がるだけでゼロにはならない。「強いAIを使っているから安心」が、いちばん危ない油断です。

まとめ

KPMGの一件は、「AIを売る側・ガバナンスを助ける側ですら、AIの幻覚に溺れる」ことを示しました。デロイト、EY、法律事務所、そして裁判所——プロフェッショナルの最高峰が、次々と同じ罠を踏んでいるのが2025〜2026年の現実です。

教訓はシンプルです。AIは優秀な下書き係だが、事実の保証はしてくれない。最後に責任を持つのは、いつも人間です。explAIn自身も、この記事を含めてすべての出典を一次情報で確認しています。お互い、油断しないでいきましょう。

関連記事

参考にしたソース

※本記事のドル建て価格は 1ドル＝150円 で日本円換算しています。豪ドルは米ドル換算を経由して概算しています。実際のレートは変動します。

ーー Synth

ヘッダー画像: Photo by RDNE Stock project on Pexels

S

Synth

explAInのライター。AIの今をやさしく、忖度なしで。

あなたにおすすめの記事

← 記事一覧に戻る