サイバー攻撃の試行錯誤を加速させるAIと、SOCにおける情報連携の課題が浮き彫りに

要点

• 生成AIの普及により、攻撃者が侵入や権限昇格に失敗した際の調査やスクリプト修正にかかる時間とコストが大幅に圧縮されている。

• Googleの脅威インテリジェンスグループ（GTIG）やAnthropicの報告では、脆弱性の発見から攻撃コード作成、恐喝活動までAIが支援した実例が確認されている。

• 攻撃者がAIを活用して試行錯誤のループを高速化させる一方、防御側であるSOCではツールや組織間の引き継ぎによる遅延が生じている。

• AI提供元の安全対策（ガードレール）は悪用の手間を増やすものの、プロンプトの工夫やオープンウェイトモデルへの移行等で回避可能なため、組織の境界防御にはなり得ないと指摘されている。

• 米セキュリティメディアのThe Hacker Newsは2026年9月25日、サイバー攻撃者による生成AIの利用実態と、それに対峙するセキュリティ運用組織（SOC：Security Operations Center）が直面している構造的課題に関する記事を公開した。攻撃者がAIを取り入れて攻撃の試行錯誤を高速化させる一方、防御側ではアラート対応やチーム間の情報受け渡しにおける遅延が大きな課題になっているという。

攻撃の「やり直し」を低コスト化するAIの存在

現在見られるAIによる最も身近な変化は、まったく新しい攻撃手法の登場というよりも、失敗した攻撃を再試行するコストが劇的に低下した点にあると説明されている。

従来、攻撃者が権限の低いクラウドアカウントに侵入した後、権限昇格（システム内のより高い権限を不正に奪取する試み）に失敗した場合、原因の特定には公式ドキュメントの精読や権限設定の確認、スクリプトの修正などに数時間を要し、作業が頓挫することも珍しくなかった。しかし、ワークフローにAIモデルを組み込むことで、エラーの原因究明やスクリプトの修正、新たな探索パスのテストが数分以内で完了するようになっている。個々の手順自体は既存の技術であるものの、攻撃の意図を実行に移す過程に存在する地道な調査やトラブルシューティングにかかる時間とスキル、金銭的負担がAIによって取り除かれているという。

脅威レポートに見るAI悪用の変遷と限界

公開されているセキュリティ調査の記録からも、攻撃者によるAI利用の進展が確認されている。

2025年初頭、Googleの脅威インテリジェンスグループ（GTIG：Google Threat Intelligence Group）は、国家支援を受ける脅威アクターが生成AIを翻訳やスクリプト作成の補助、調査といった業務効率化ツールとして利用している実態を報告した。さらに2025年後半には、実行中にAIモデルと通信するマルウェアの検体や、不正なAIツールの闇市場の形成が明らかになった。同時期にはAnthropic社も、偵察活動や認証情報の収集から身代金の要求額設定に至るまで、ほぼ全工程でAIに依存していた恐喝作戦を阻止したことを公表している。

2026年5月には、サイバー犯罪者がオープンソースの管理ツールにおける二要素認証のバイパス（回避）手法を発見し、実際に動作するエクスプロイト（脆弱性を突く攻撃プログラム）を作成した事例がGTIGから報告された。エクスプロイトの構造と内容から、脆弱性の発見と攻撃コードの開発の双方がAIモデルによって支援されたと高い確信度で評価されている。この事案では、影響を受けるベンダーへの通報と活動の妨害により、実際の被害発生前に阻止されたとみられている。

一方で記事では、AIによる支援の評価や計画段階の捕捉と、実際の環境で攻撃が展開されたことの確認は区別して捉える必要があると注意を促している。また、AIベンダーが設ける安全基準やガードレールは悪用のコストを引き上げる効果があるものの、プロンプトの表現変更やオープンウェイトモデル（内部構造や重みパラメータが公開されたAIモデル）への移行、攻撃タスクの細分化などによって回避可能であるため、これらを企業の絶対的なセキュリティ境界とみなすことはできないと指摘している。

攻撃と防御における「ループ」の速度差

攻撃活動は一般的に「偵察・侵入・権限昇格・目的の達成」という直線的な流れで説明されがちだが、実際の攻撃者は環境を観察し、仮説を立て、実行し、結果を分析して修正するという「ループ」を回して行動している。AIはこのループの各ステップにかかる時間を大幅に圧縮し、初級者でも攻撃を継続しやすくし、熟練者が1日に実行できる実験の回数を増やしている。

本来であれば防御側も、アラート検知、コンテキスト収集、仮説構築、影響範囲の検証、対処の実行、検知へのフィードバックという同様のループを回す必要がある。しかし現実のセキュリティ運用では、アラートが未割り当てのまま放置されたり、ID情報や端末情報が別々の管理画面に分散していたり、誤検知をクローズした際の理由がチケット内で埋もれて検知エンジニアに届かなかったりするなど、各工程でループが分断されている。その結果、攻撃側の試行への応答が数秒で行われるのに対し、防御側の対応はチケットが処理されるまで遅れる構造になっているという。

多くの組織で使われる平均認知時間（MTTA）や平均修復時間（MTTR）といった評価指標は、アラート認知後にインシデントの全体像を再構築するために費やされる時間（意思決定の遅延）を覆い隠してしまい、正確に測定されていないケースが多いとされている。

SOCにおける5つの機能と受け渡しに伴う情報損失

セキュリティ運用は一般に、脅威インテリジェンス、スレットハンティング（潜在的な脅威の能動的な探索）、検知エンジニアリング、調査、修復の5つの機能で構成される。小規模組織では1人がこれらを兼務し、大規模企業では社内チームや外部のマネージド検出・対応（MDR）サービスに分散して担当される。

問題はこれらの機能そのものではなく、機能間で行われる情報の受け渡しにあるとされている。脅威インテリジェンスが把握する攻撃手口の重要性、スレットハンティングが知る発生箇所の予測、検知エンジニアが設定したルールの前提条件、調査担当者が特定した証拠、修復担当者が知る業務への影響といった重要な文脈が、インジケーター（脅威の痕跡情報）やアラート、チケットへと要約される過程で欠落してしまう「情報損失（lossy handshake）」が発生していると指摘されている。