AWS ML Blog
AWS、複数GPUノードにまたがるLLM推論向けコンテナ「Ray LLM DLC」を発表――EKS上での処理分離と高速化を支援
- 米AWSは、複数GPUノードにまたがる大規模言語モデル（LLM）推論に対応した事前構築済みコンテナ「Ray LLM Deep Learning Containers（DLC）」を発表した。
詳細を読む
→
1ページあたり 20 件ずつ表示します。
- 米AWSは、複数GPUノードにまたがる大規模言語モデル（LLM）推論に対応した事前構築済みコンテナ「Ray LLM Deep Learning Containers（DLC）」を発表した。
- 米NVIDIAと米プリンストン大学のDao AI Labは、状態空間モデル（SSM）とAttention機構を組み合わせたハイブリッドモデルのデコーディング処理を高速化する新手法「ReplaySSM」を発表した。
- SalesforceはAI基盤「Agentforce」において、Amazon SageMaker AIの推論コンポーネントを活用し、インフラコストを8分の1に削減した。
- AWSはAmazon SageMaker Feature Store向けに、新API「BatchWriteRecord」と「ListRecords」の提供を開始した。
- Webホスティング管理ツール「cPanel」および「WHM」において、サーバーのroot権限が奪取される恐れのある重大な脆弱性「CVE-2026-65643」が判明した。
- クラウドやSaaS、API、自動化ワークロードの急増に伴い、IDポリシーの意図と実行時の実際の動作の間に生じる乖離への対策が求められている。
- 音声認識および音声合成AIを提供するDeepgramが、Amazon SageMaker AI環境におけるオブザーバビリティを強化する2つの新機能を発表した。
- 米Amazon Web Services（AWS）は、生成AIサービス「Amazon Bedrock」においてOpenAIの「GPT-5.6 Terra」および「GPT-5.6 Luna」の提供を開始した。
- 米司法省とFBIが、中国政府支援のサイバー攻撃グループ「QTFY」が運用していたハッキングプラットフォーム「QScan」と「QTRouter」を解体・差し押さえした。
- AWSが、Amazon Bedrock AgentCore上のAIエージェントから別アカウントのKnowledge Basesへアクセスし、安全に回答を生成する構成パターンを公開した。
- NVIDIAは2026年8月26日、顧客が開発する独自AIアクセラレーター（XPU）やCPUを自社インフラに統合する技術「NVLink Fusion」と「NVHBM」を発表した。
- OpenAIが自社設計による初のAI推論チップ「Jalapeño」の性能測定結果を公開し、既存の商用システムを上回る電力効率と低遅延を示した。
- AWSは、デスクトップアプリ「Amazon Quick Desktop」とファイルストレージ「Amazon FSx for NetApp ONTAP」を連携させた週次レポート作成手法を公開した。
- 米財務省は、米国の重要インフラへの侵入やサイバー窃盗に関与したイラン関連のサイバー脅威アクターに対し、新たな経済制裁を発表した。
- 米NVIDIAは、LLM推論フレームワーク「NVIDIA Dynamo」向けに、プロセス障害から数秒で推論能力を復旧させる機能「Shadow Engine Recovery」を発表した。
- セキュアコンテナイメージを提供するMinimusが事業終了を発表し、2026年10月22日にレジストリが停止することが明らかになった。
- 米CISAが、重要インフラ分野の2組織に対して同時実施したレッドチーム演習の報告書「A Tale of Two SOCs」を公開した。
- NVIDIAは、AI推論アクセラレータ「NVIDIA Groq 3 LPX」と「Vera Rubin NVL72」を組み合わせたシステムの第三者ベンチマーク結果を公開した。
- NVIDIAは2026年8月24日、自律型AIエージェントの運用に向けたCPU「NVIDIA Vera CPU」の設計アプローチと検証データを公式技術ブログで公開した。
- NVIDIAは公式技術ブログにて、実運用環境のエージェント型AIを模した推論ベンチマーク「SemiAnalysis AgentX」の測定結果を公表した。