OWN NEWS GATHER
← 戻る
Hugging Face Blog

Photoroom、画像生成モデル「PRX」のデータ戦略を公開——事前学習における「キャプションの質」の重要性を説く

要点

  • AI画像編集アプリ開発のPhotoroomが、画像生成モデル「PRX」のデータ戦略を公開した。

  • 事前学習では画像の美しさよりも、世界の視覚構造を幅広く学習するための多様性と網羅性を優先している。

  • 画像内の要素を詳細に描写する「長いキャプション」を使用し、ノイズ要素をプロンプトで制御可能にしている。

  • 分散トレーニングに「Mosaic Data Shards」を使用する一方、編集作業には列指向データ形式の「Lance」を活用している。

  • 画像編集ツールなどを提供するフランスのAIスタートアップ企業Photoroomは2026年7月6日、同社が開発する70億(7B)パラメータの画像生成・ビジョンモデル「PRX」のデータ戦略に関する技術ブログ「PRX Part 4: Our Data Strategy」を公開した。本記事では、モデルの品質を裏で支えるデータパイプラインの構築手順や、開発過程で得られた知見が紹介されている。

  • 同社が構築したデータパイプラインは、パブリックデータセットと内部データセットを組み合わせ、画像をビジョン・ランゲージ・モデル(VLM:画像とテキストを相互に処理できるAIモデル)を用いてキャプション(説明文)を付け直し、ストリーミング可能な学習データへと変換してトレーニングに用いる仕組みであるという。既存の公開データセットのフィルタリング成果を土台にすることで、迅速かつ軽量に事前学習用データを構築したと説明している。

  • 同社は、最初の学習フェーズである事前学習(モデルに基本的な視覚的概念やオブジェクトの配置などを学ばせる最初の学習フェーズ)において重要なのは画像の美しさではなく、視覚世界のコンセプトや構図、照明などの多様性が網羅されていることだと指摘する。この段階で美しさを基準に過剰なフィルタリングを行うと、モデルが学習できるバリエーションが失われて逆効果になるという。画像の美学的な洗練は、事前学習の後に厳選されたデータセットを用いて行う微調整(ファインチューニング:特定の出力傾向や好みに合わせてモデルを最適化するプロセス)の段階で実施すべきだという基本方針を示している。

  • また、事前学習の品質向上に最も貢献したのは、画像内の要素を正確に描写した「長いキャプション」の導入だったという。キャプションが画像内容を忠実に説明していれば、画像内の広告やロゴ、文字などのノイズも、ユーザーの指示文(プロンプト)で制御可能な属性としてモデルが学習するため、問題にならないと説明している。不要な要素を出力から除外するようプロンプトで制御できるようになるため、データフィルタリングは意図的に緩やかに設定されている。

  • 分散トレーニング用のデータセット形式には「Mosaic Data Shards(MDS)」を使用している。MDSはクラウドストレージから直接トレーニングを行える利点がある一方で、データの変更や抽出のたびにデータ全体を再書き込みする必要があり硬直的である。そのため同社は、データセットのキュレーションや特徴量エンジニアリングの段階において、列指向データフォーマット(データを列単位で保持し、集計や探索を高速化するデータ形式)である「Lance」を採用した。Lanceは、効率的なデータ絞り込み(不要なデータの読み込みを減らす最適化処理)やベクトル検索をサポートしており、数十億行におよぶデータセットの探索と編集を効率化しているという。

  • (補足)本発表は、Photoroomがこれまでに公開してきたモデルアーキテクチャやトレーニングデザイン、24時間スピードランなどの開発レポートに続く第4弾として位置づけられている。

元URL