Claude Fable 5がもたらすAI自律性の進化:Cognition社がAIエンジニア「Devin」の検証で確認した成果と実用性
要点
-
米Cognitionは、AIソフトウェアエンジニア「Devin」の検証において、Anthropicの最新モデル「Claude Fable 5」が極めて高い自律性と実用性を備えていることを明らかにした。
-
従来のモデルでは数分から1時間程度でタスクを見失う限界があったが、Claude Fable 5は8時間以上にわたり迷走することなく自律的に動作し続けることが実証された。
-
開発コードの品質を評価する独自のベンチマーク「Frontier Code」の難関部門において、前世代のOpusモデルの得点10%に対し、Fable 5は30%のスコアを記録した。
-
Fable 5は、自身の知識が及ばない部分を正確に表明する能力や、複雑なログから根本原因を特定する能力を備え、エンジニアとの信頼関係の再構築に寄与している。
-
Cognitionは、今後1〜2年のうちに、AIエージェントが自発的に問題を発見し修正を提案する「能動的タスク」がエンジニアリング現場の標準になると予測している。
-
AIソフトウェア開発スタートアップの米Cognitionは、2026年7月10日、同社が提供する自律型AIソフトウェアエンジニア「Devin(人間のように自律してコード記述やバグ修正を行うシステム)」の検証において、Anthropicの新しいAIモデル「Claude Fable 5」が実用レベルの自律性を備えていることを明らかにした。Cognitionの調査部門シニア・バイス・プレジデントであるサイラス・アルベルティ氏によれば、Fable 5は一晩中(約8時間)稼働させたまま放置しても信頼して作業を任せられる初めてのモデルだという。本発表は、開発現場におけるAIエージェント(特定の目標に向けて自律的に動作するAIプログラム)の運用が、人間の監視を必要とする一時的な作業から、長時間の完全自律稼働へとシフトしつつあることを示している。
開発現場の要求とAIモデルの評価
Cognitionは2024年初頭に設立され、Devinの開発を進めてきた。Devinの顧客はスタートアップから大手企業まで多岐にわたり、本番環境に耐えうる信頼性の高いコード出力が求められる。検証チームは、Devinの背後で動作する大規模言語モデル(大量のテキストから学習したAIの基盤技術。以下LLM)のテストを重ねてきた。最初の大きな飛躍は2024年末の「Claude 3.6 Sonnet」であり、ツールを組み合わせて複数ステップのタスクを実行できる能力が備わったことで、社内でのDevinの利用頻度は3倍に跳ね上がった。
しかし同社は、公開ベンチマークで好成績を収めても実業務では機能しなくなる事例を多く経験してきた。このため、数値を盲信せず、自社エンジニアが新しいモデルを実業務で1日稼働させ、そのコードを実際に採用できるかで採否を決める厳格な評価プロセスを採用している。
従来モデルの限界とFable 5の躍進
従来のLLMにおける課題は、目標を見失わずにタスクを持続できる時間の短さだった。前世代のOpusモデルなどでは、数分から1時間程度しかタスクの焦点を維持できず、複数のアイデアを同時に比較検討させると混乱する傾向があった。データベース移行のような複雑なタスクでは、処理は完了したように見えても、検出が難しいバグを多数混入させてしまうことがあった。
また、システム障害の解析(インシデントトリアージ)でも、ログの表面だけを見て、もっともらしい最初の仮説に固執して探索を終えてしまうため、エンジニアから信頼されていなかった。
これに対し、Claude Fable 5はこれらの限界を打破した。アルベルティ氏が就寝前にFable 5にタスクを指示したところ、翌朝起きた時点で8時間連続で自律稼働し、確実な進捗を生み出していたという。
この進化は数値的にも裏付けられている。実用的なコード出力を測る同社独自のベンチマーク「Frontier Code」の最難関テストにおいて、従来のOpusモデルのスコアが約10%だったのに対し、Claude Fable 5は約30%を記録した。
乱雑な情報環境で発揮される明晰さ
Fable 5は、複雑な情報環境でも明晰な思考を保てる。検証では、社内デバッグツールを適切に使いこなし、ブラウザ上で何ページにも及ぶログから不要なノイズを排除して正しい結論を導き出した。
データベース移行タスクでは、作業開始前に自身が厳守すべき「不変条件(処理の前後で常に維持されるべきプログラム上の整合性)」を自ら定義した上で移行を実行した。さらに、障害解析では単に根本原因を特定するだけでなく、自身が「何を把握できていないか(不確実な要素)」を明示する挙動を示した。この「知らないことを知らないと言える」姿勢が、エンジニアとの信頼関係を再構築する鍵になっているという。
自律エージェントの未来
Cognitionは「AIエージェントはクラウド上で数時間にわたり稼働すべき」という仮説を立てていたが、Fable 5の登場によりこれが現実のものとなった。
現在、DevinはSlackのチャンネルを監視し、メンションされていないイシューに対しても自主的に介入して対応を行っている。また、本番環境のシステム監視を通じてアクセス急増などの異常検知から障害対応までを自律的にこなす。
アルベルティ氏は、今後1〜2年のうちに、AIエージェントの利用プロセスの90%が「自発的に問題を見つけ出し、コードベースを読み込み、修正案を人間へ通知する」という能動的な形態へ移行していくとの予測を示し、これまで構想段階に留まっていた多くの機能が実現可能になったと語っている。