生成AIによる業務自動化の急増で広がる「管理外コード」、セキュリティ専門誌が指摘するリスクと統制の課題

要点

• 従業員が生成AIを活用して業務アプリやエージェントを自作する動きが広がり、管理プロセスを超えて普及する「管理外コード」が問題視されている。

• 単なる無許可ツールの導入とは異なり、従業員自身が機能を作成するため、過剰な権限付与や機密データの漏洩、所有者不在などのリスクが生じる。

• 従来の社内教育、検証用のサンドボックス、審査委員会による事前承認だけでは、本番環境で実際に稼働するコードの統制に対応できないとされる。

• セキュリティ企業Tinesの幹部はサンドボックスが実行時の問題を放置していると指摘し、実行環境そのものに制御を組み込む必要性が示された。

• セキュリティ専門メディア「The Hacker News」は2026年10月20日、従業員が生成AIを活用して構築する業務自動化ツールやエージェントなどの「管理外コード（Wild Code）」に関するセキュリティ分析記事を公開した。業務効率化を目的に非エンジニアを含む従業員が独自に作成した仕組みが社内で急速に定着する一方、従来のセキュリティ管理が追いついていない現状を報告している。記事では、既存の教育や事前審査だけでは防ぎきれないリスクの要因とともに、実行環境そのものに統制を組み込むアプローチの重要性が説明されている。

業務現場で急速に普及する「管理外コード」の実態

近年、従業員が生成AIの支援を受けながら、業務フローの自動化や社内向けエージェントを短時間で作成するケースが増加している。

記事では具体例として、営業マネージャーがリード（見込み顧客）の自動振り分けフローを構築した事例を挙げている。この仕組みは顧客データベースに接続し、受信した問い合わせ内容を要約してチャットの共有チャンネルへ自動通知するもので、手作業の削減によりチームの日常業務へ急速に浸透したという。しかし、こうした利便性の裏で、使用されている認証情報の帰属やアクセス可能なデータの範囲、情報漏洩が発生した際の追跡可否といった新たな課題が浮上している。

記事では、有用な自作システムが社内の管理・保守プロセスを超えて広がる現象を「管理外コード」と呼んでいる。これは単に未承認の市販ソフトウェアを無断利用するシャドーIT（情報システム部門が把握していないIT機器やサービスの業務利用）とは異なり、従業員自身が新たな機能を作り出している点が特徴とされる。実験として始まった小さな仕組みが、セキュリティ担当部署の関知しないところで業務に不可欠なインフラとなってしまう状況が起きているという。

コードの正常動作と両立してしまう5つのリスク

記事によれば、管理外コードの危険性はプログラム自体の欠陥や脆弱性だけに留まらない。コード自体が意図通りに動作していても、過剰なアクセス権や不適切な情報共有によってリスクが生じるとして、以下の5点が挙げられている。

• 過剰な権限の付与: ごく一部のデータ処理しか行わないワークフローが、広範なデータの読み出しや変更が可能な高い権限の認証情報で実行される。
• 機密データの露出: エージェントが不要な情報に接続されたり、出力結果が不適切に広く公開されたりするほか、プロンプトやログに機密情報が含まれる。
• 意図しないアクションの実行: 操作内容に応じた適切な承認プロセスを経ずに、エージェントが自律的にデータの更新や権限の変更を行ってしまう。
• 所有者不在のアクセス権: 仕組みを作成した従業員が異動や退職をした後も自動処理が稼働し続け、権限の見直しが放置される。
• インシデント調査の困難: トラブルが発生した際、どの身元（ID）で実行され、何にアクセスし、何が変更されたかをセキュリティ担当者が追跡できない。

従来のガバナンス手法が抱える3つの限界

こうしたリスクに対し、従来行われてきた従業員教育、サンドボックス、AI審査委員会といった手法について、記事は「これら単体では管理外コードを抑え込めない」と論じている。方針やルールを定めても、実際に本番環境で稼働を始めた後の挙動までは制御できないためだという。記事ではその理由として3つの限界を詳述している。

第1に、従業員教育はガイドラインを示せても強制力を持たない点である。教育によって最小権限（業務に必要な最小限のアクセス権のみを与える原則）の重要性を伝えても、納期やスピードを優先する従業員は、正規の申請手続きが遅ければルールを回避してしまう傾向があるという。

第2に、サンドボックス（外部システムから隔離された安全な試験用環境）は検証段階しか保護できない点である。プロトタイプの有用性は実際の業務データに接続して初めて発揮されるが、隔離環境でのテストが成功したからといって、本番運用時のアクセス権や安全性が確保されるわけではない。セキュリティ自動化プラットフォームを手がける米TinesのフィールドCTO、ブラッド・ランプ（Brad Rumph）氏は、「サンドボックスは設計段階の問題を解決するが、ランタイム（実行時）の問題を放置している」と述べている。

第3に、AI審査委員会などの事前審査組織は、現場の開発スピードに追いつけない点である。承認を待つ間に別の手法で目的を達成しようとする動きが生じるほか、審査の目がエンジニアリング部門に集中し、人事や財務、オペレーション部門などで行われる開発が見過ごされやすい課題もあるという。

実行環境そのものへ統制を組み込むアプローチ

記事は、個々の従業員に安全な運用手順の確立を委ねるのではなく、ツールを作成・実行・維持する「環境そのもの」に防御策を組み込むアプローチを提示している。

具体的には、セキュリティチームがIT部門やシステムの所有者と連携し、接続可能なデータソースや許可される操作の範囲をあらかじめ共通の境界として設定しておく手法である。さらに、配備前の段階だけでなく、配備後もライフサイクル全体にわたって継続的なガバナンスを維持し、業務ニーズやリスクの変化に応じて境界を更新していくことが不可欠だと説明されている。