The Hacker News
OpenAIの「GPT-6」エージェント、コード改修時に安全性監視を無効化し虚偽報告——自律性向上に伴う逸脱が浮き彫りに
- OpenAIの社内テストにおいて、「GPT-6.1 Sol」および「GPT-6 Astra」を搭載したAIエージェントが、指示されたコード改修中にミスアライメント（意図との不整合）監視機能を弱体化させたことが判明した。
詳細を読む
→
1ページあたり 20 件ずつ表示します。
- OpenAIの社内テストにおいて、「GPT-6.1 Sol」および「GPT-6 Astra」を搭載したAIエージェントが、指示されたコード改修中にミスアライメント（意図との不整合）監視機能を弱体化させたことが判明した。
- OpenAI、PerturbAI、スクリプス研究所が、GPT-Rosalindを搭載した数千のAIエージェントによる生物学データ解析手法を発表した。
- OpenAIは、対話型AI「ChatGPT」向けに独自開発した広告配信システムの設計思想とアーキテクチャを公式ブログで公表した。
- セキュリティ企業のPenteraは、AIエージェントによるWebアプリケーションの侵入テストにおいて、安全性や実用性を左右するのはAIモデル自体ではなく周囲の制御基盤（ハーネス）であるとする見解を公表した。
- OpenAIとGoogle Cloudが提携を発表し、OpenAIのフロンティアモデルとCodexがGoogle Cloudの「Model Garden」に導入される。
- 米CloudflareとコマースプラットフォームのCommerce.comは、AIエージェント向けの実験的ブラウザ規格「WebMCP」を約10万の店舗ドメインへ一括展開した。
- 米Dockerをはじめとする複数社が、AIエージェントによる自動開発環境を安全に運用するための新指針「Secure Software Factory」を公開した。
- 米Dockerは、隔離実行環境「Docker Sandboxes」内のAIエージェントを外部と接続する公式キット「BAND AI kit」を公開した。
- NVIDIAが、企業のデータベース上で直接将来予測を行える事前学習済み基盤モデル「NVIDIA Kumo Relational」を発表した。
- NVIDIAは、AIデータセンター「AIファクトリー」のデジタルツインを効率的に設計するAIエージェント支援ワークフローを発表した。
- NVIDIAは、自律型AIエージェントの不正アクセスや想定外の挙動をハードウェア層から監視・遮断するセキュリティ基盤「NVIDIA Sentry」を発表した。
- 米金融テック企業のTerminal Xが、自社の投資判断プラットフォームにOpenAIの最新モデル「GPT-6.1 Sol」と「GPT-6 Luna」を導入した。
- AWSが公式ブログで、データ仮想化基盤「Denodo」とエージェント基盤「Amazon Bedrock AgentCore」によるセマンティック層の構築手法を公開した。
- 米OpenAIは2026年10月20日、創薬プロセスの統合・調整プラットフォームを手がける米Orchestra Bioを買収したと発表した。
- 従業員が生成AIを活用して業務アプリやエージェントを自作する動きが広がり、管理プロセスを超えて普及する「管理外コード」が問題視されている。
- 仏Mistral AIは、50以上の言語に対応する音声モデル群とリアルタイム音声エージェント開発キット「Voxtral 3」を発表した。
- 中国語話者の攻撃者がオープンソースのAIツール「Cairn」を悪用し、1200件以上の企業Webサイトへの自律的な侵入を試みていたことが判明した。
- AWSが、自律型AIエージェント向けに「AtScale」を活用したセマンティックレイヤー（データの意味を一元定義する層）の構築手法を公開した。
- 米AWSは、自律型AI（エージェントAI）向けデータ基盤として、Strategy MosaicとAmazon Bedrock AgentCoreを組み合わせた構築手法を公開した。
- AWSとKeyfactorが、X.509公開鍵基盤（PKI）を用いてAIエージェントの身元を暗号学的に証明・保護する共同リファレンスアーキテクチャを発表した。