生成AIが悪用メールの不自然さを排除、振る舞い検知の限界をProofpointが報告

要点

• 生成AIにより文面や文脈が受信者ごとに個別化され、従来の振る舞い検知シグナルが弱体化している。

• 米Proofpointが、同一企業の不動産担当者30人以上に異なる文面で接触した攻撃事例などを公表した。

• 米FBIの2025年報告書では、AI関連の犯罪被害が約9億ドル、ビジネスメール詐欺が約30億5,000万ドルに達する。

• 外部からの連絡が多い業種全般への攻撃拡大に加え、幹部に対するAI悪用の嫌がらせ攻撃も確認された。

• 米サイバーセキュリティ企業のProofpointは、2026年10月21日に開催された年次会議「Protect 2026」において、生成AIの悪用によって悪意ある電子メールの不自然な兆候が急速に失われ、従来の「振る舞い検知」が弱体化しているとする調査結果を発表した。攻撃者が受信者ごとに最適化された自然な文章を即座に作成できるようになったことで、メールセキュリティは文面の違和感を探る手法から、要求されている行動の意図そのものを精査する手法への転換を迫られているという。

AIが排除した攻撃メールの「ほころび」

従来のメールフィルターは、攻撃者が作業効率化のために残す痕跡の捕捉を前提としていた。標的の事前調査や自然な外国語作成、取引先の偽装には多大な労力がかかるため、攻撃者は定型文や送信インフラを使い回していた。これにより生じる不審なドメインや不自然な言い回し、深夜などの送信時刻といった規則性を、振る舞い検知（送信元の挙動や文脈の規則性を分析して不審メールを見つけ出す仕組み）が捉えてきた。

しかし生成AIにより、流暢な文章や文脈・役職に合致した返信、文体や架空履歴を含む「ペルソナ（人物設定）」の模倣が可能になったとProofpointは説明する。受信者ごとに異なる文面を数秒で生成できるため、共通テンプレートによる照合も難しくなる。通常業務のメールと見分けがつかなくなった結果、振る舞いシグナルの検知精度が低下しているという。

被害実態を裏付けるFBIの犯罪統計

この手口の変化は、公的機関の被害統計にも表れている。米連邦捜査局（FBI）のインターネット犯罪苦情センター（IC3）が公表した「2025年インターネット犯罪レポート」によると、2025年中にAIが関与した苦情は2万2,000件を超え、関連損失額は約9億ドルに達した。

また、業務連絡を装って送金を迫るビジネスメール詐欺（BEC：組織の取引先や幹部になりすまして送金などを要求する詐欺手口）の苦情は2万4,768件寄せられ、報告された被害総額は約30億5,000万ドル（約4,500億円規模）を記録した。AIを活用した精巧ななりすましが、巨額の被害を生む要因になっている実態が示されている。

30人以上に異なる問い合わせを送る手口の実例

ProofpointはProtect 2026の中で、不動産仲介会社を狙った具体的な攻撃事例を紹介した。単一の攻撃者が同一企業に所属する30人以上のエージェントに対し、異なるメールアカウントから異なる物件について個別の文面で問い合わせを送っていた。

最初のメッセージは「内覧は可能か」「価格の目安はいくらか」などの日常的な質問で、実在するメールボックスから通常のスレッドに届いた。ある例では、午前2時58分の問い合わせからわずか13分後に「至急の確認が必要」とするブランド付きの会議招待が届いた。最終的に全スレッドで共通していたのは「ビデオ会議への参加」という同一の要求だった。

会議への参加リンクには正規のgoogle.comのリダイレクトURLが悪用されており、URLの安全性を判定するレピュテーションチェック（評判分析）を通過した上で外部サイトへ転送される仕掛けとなっていた。初回接触のため過去履歴との比較ができず、文面も異なるため定型文検知も働かない。外見上の共通点はなく、相手に何をさせようとしているかという「意図」だけが共通していたという。

外部接触が多い業種への波及と業務妨害への悪用

Proofpointによると、この手口は業務上「見知らぬ相手からの連絡」を受け入れざるを得ない組織全般に応用可能だという。新規患者を受け付ける医療機関、新規顧客と接する法律事務所や企業、口座開設を扱う銀行、保険の見積もりを提供する保険会社などが挙げられている。保険業界を狙った亜種では、見積もり依頼などで信頼関係を築いた後、不正なペイロード（攻撃者が標的環境で実行させる悪意あるデータ）を含む偽の会議招待を送る手順が確認された。

さらにAIの利用は、金銭搾取だけでなく業務の妨害・混乱を狙った攻撃にも広がっている。同一の企業幹部に数百から数千の送信者から業界に応じたメールを一斉送付し、中傷的な文言やAI生成画像で嘲笑する「敵対的コミュニケーション」も報告された。

Proofpointは、あらゆる悪意あるメールが外見上正常に見えるようになった現在、防御のアプローチも「メールが異常に見えるか」ではなく「何をさせようとしているのか」を問う形へ移行すべきだと指摘している。