AWSの独自AIチップで「Claude 3.5 Haiku」が60%高速化、Amazon Bedrockで「モデル蒸留」機能のプレビューや値下げも発表

要点

• AnthropicはAWSとの協業拡大に伴い、同社のAI専用チップ「AWS Trainium2」向けにClaudeモデルの最適化を開始した。

• Amazon Bedrockにおいて、応答速度を優先させた「Claude 3.5 Haiku」の高速版のプレビュー提供が開始され、推論速度が最大60%向上する。

• 大規模モデルの知識を低コストなモデルに移植する「モデル蒸留」機能が導入され、「Claude 3 Haiku」で「Claude 3.5 Sonnet」並みの精度を実現可能になった。

• 各種クラウドやAPI経由で提供されている通常版「Claude 3.5 Haiku」の利用料金が一律で約2割値下げされた。

• 米Anthropicは2024年12月3日（現地時間）、アマゾン ウェブ サービス（AWS）との協業拡大に伴い、AWSの独自開発AIチップ「AWS Trainium2」へのClaudeモデルの最適化を開始したと発表した。これに伴い、クラウドサービス「Amazon Bedrock」において、処理能力を高めた高速版「Claude 3.5 Haiku」のプレビュー版の提供を開始した。さらに、賢い大規模モデルの知識をコンパクトなモデルに移植する「モデル蒸留」機能のプレビュー提供や、通常版「Claude 3.5 Haiku」の値下げも同時に明らかにしている。

最新AIチップ「Trainium2」によるClaudeの高速化と巨大クラスター計画

AnthropicはAWSとの提携関係を強化しており、その一環としてAWSが独自に開発したAIの学習および推論処理に特化した専用半導体チップ「AWS Trainium2（トレイニアムツー）」向けに、Claudeモデルの最適化作業を進めている。

この最適化による最初の成果として、クラウド上で生成AIを利用できるサービス「Amazon Bedrock」において、応答速度の向上を図る「レイテンシ（処理の要求から実際に結果が返るまでの遅延時間）」最適化を施した「Claude 3.5 Haiku」がパブリックプレビューとして公開された。レイテンシ最適化を有効にすることで、モデルの回答精度や正確性を損なうことなく、推論の処理速度を最大60%高速化できるという。同社はこの高速版について、リアルタイム性が求められるコード補完やチャットボット、不適切なコンテンツを検知・監視する「リアルタイム・コンテンツモデレーション」といった用途に最適であると説明している。

このTrainium2搭載の高速版「Claude 3.5 Haiku」は、米国東部（オハイオ）リージョンにおいて、別のリージョン（拠点）のコンピューティング資源を効率的に活用して処理を実行する「クロスリージョン推論」機能を通じて提供される。利用料金は、100万入力トークンあたり1ドル、100万出力トークンあたり5ドルに設定されている。

また、両社はさらなる大規模な基盤の構築にも取り組んでいる。「Project Rainier（プロジェクト・レイニア）」と名付けられたこの計画では、数十万個ものTrainium2チップを搭載するAWSの巨大なサーバー群「EC2 UltraCluster」を構築する予定だ。このクラスターは、Anthropicが現在の最先端AIモデルのトレーニングに要した能力の5倍を超える計算パワー（エクサフロップス単位）を提供する見込みだという。

低コストで高性能を実現する「Amazon Bedrock Model Distillation」

もう一つの大きな発表が、Amazon Bedrockにおいて提供が開始された「モデル蒸留（ディスティレーション）」機能のプレビューである。モデル蒸留とは、大規模で高性能な親モデルの知識を、小規模で低コストな子モデルに移植する手法を指す。

今回の機能追加により、開発者は前世代モデルの中で最も低コストな「Claude 3 Haiku」を「生徒（スチューデントモデル）」、現行の高度なモデルである「Claude 3.5 Sonnet」を「教師（ティーチャーモデル）」として指定し、蒸留プロセスを実行できるようになった。これにより、特定のタスクにおいて「Claude 3.5 Sonnet」と同等の高い精度を、「Claude 3 Haiku」の低価格かつ高速な動作環境のままで再現可能になるという。このアプローチにより、外部のデータベースから関連する情報を検索・取得して回答の生成に組み込む「検索拡張生成（RAG）」や、高度なデータ分析といった複雑な処理を、従来の数分の一のコストで実行できるとアピールしている。

一般に、既存のモデルに特定タスクを学習させる「ファインチューニング（既存の学習済みモデルに特定のデータを追加学習させてパラメータを微調整する手法）」では、人間が手作業で大量のトレーニングデータを作成したり、複雑なパラメータ設定を何度も調整したりする手間が発生する。しかし、Amazon Bedrockで提供されるモデル蒸留機能は、これらのプロセスを以下のように自動化している。

1. 合成トレーニングデータの自動生成: 教師役となる「Claude 3.5 Sonnet」から、AI自身がルールや元のデータに基づいて擬似的に生成した学習用の「合成トレーニングデータ」を自動で作り出す。
2. トレーニングと評価: 生成されたデータを用いて生徒役の「Claude 3 Haiku」を自動で追加学習させ、性能評価を行う。
3. ホスティング: 学習が完了した最終的な蒸留モデルを、即座に推論で使える状態でサーバー上に配置する。

この機能には、類似するプロンプト（指示文）を作成したり、提示された例を元に新しく高品質な応答データを合成したりする、複数のデータ合成手法が自動で適用される仕組みになっているという。

通常版「Claude 3.5 Haiku」の値下げと選べる選択肢

今回のTrainium2最適化やモデル蒸留機能の提供と並行して、Anthropicは通常版「Claude 3.5 Haiku」の利用料金の値下げを実施した。

この価格改定は、Anthropicが直接提供するAPIをはじめ、Amazon BedrockやGoogle CloudのVertex AIなど、同モデルが提供されているすべてのプラットフォームに一斉に適用される。改定後の新料金は、100万入力トークンあたり0.80ドル、100万出力トークンあたり4ドルとなる。これにより、開発者はより幅広いユースケースで手軽に最新モデルを導入しやすくなる。

今回の複数の発表により、開発者が選択できるClaudeモデルの選択肢はさらに広がった。一般的な幅広いユースケースに向けては「Trainium2によるレイテンシ最適化が施されたClaude 3.5 Haiku」が、また、定型的で処理ボリュームが非常に大きいユースケースに向けては「高度な知識を蒸留されたClaude 3 Haiku」が、それぞれ最適な選択肢として提案されている。

これらの新機能や高速化されたモデルは、すでにAmazon Bedrockコンソールからプレビュー版としてアクセス可能となっている。