論文の概要: Image Tokenizers Should Be Trained Between Images
- arxiv url: http://arxiv.org/abs/2610.16759v2
- Date: Wed, 14 Oct 2026 18:21:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-16 19:13:15.902568
- Title: Image Tokenizers Should Be Trained Between Images
- Title(参考訳): 画像トークンーは画像間で訓練されるべき
- Abstract要約: 現在の方法では、トレーニング中にノイズを追加することで、デコーダが生成されたコードに対してより堅牢になる。
生成されたコードはトレーニングコードの間にあり、それらのうちの1つ以上の混合物に似ています。
画像コードの混合を自然な画像にデコードするためにMAETokを微調整するInterpTokを提案する。
- 参考スコア(独自算出の注目度): 2.548904650574671
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Latent diffusion models generate images as codes of an image tokenizer, whose decoder turns them into the pixel image. Recent tokenizers improve how well these codes reconstruct an image and how easily a generator learns them. Yet a generator does not reproduce the codes of training images, and when a generated code lands outside what the decoder expects, the decoded image contains imperfections. Current methods make the decoder more robust to generated codes by adding noise during training. However, generated codes lie between the training codes and resemble their mixture more than one of them plus noise. To improve generated images, decoders should therefore be trained on codes in the space between training samples. We propose InterpTok, which fine-tunes MAETok to decode mixtures of image codes into natural images. Since no target image exists between two training samples, a discriminator judges whether each decoded mixture looks as natural as its two sources. A mixing ratio loss requires the decoded mixture to keep the mixing ratio of the two codes. Together, they prevent collapse to a trivial solution and yield a sharp and natural composition of both images. InterpTok keeps MAETok's reconstruction quality and improves interpolation quality more than threefold, the best of all tokenizers in a recent benchmark. Beyond interpolation, InterpTok improves the generation FID of a matched diffusion transformer from 11.61 to 8.48 without guidance, and even reaches 8.11 at an eighth of the sampling steps, where the generator on MAETok's codes worsens. The generator trained on our tokenizer also reaches the final result of the one trained on MAETok at half the training steps. Our findings show that the space between image codes can and should be explicitly supervised rather than ignored.
- Abstract(参考訳): 遅延拡散モデルは画像トークン化器のコードとして画像を生成し、デコーダはそれらをピクセル画像に変換する。
最近のトークン化器は、これらのコードがどのようにしてイメージを再構築し、ジェネレータがそれをいかに簡単に学習するかを改善している。
しかし、ジェネレータはトレーニングイメージのコードを再現せず、生成されたコードがデコーダが期待するものの外に着くと、デコードされたイメージは不完全を含む。
現在の方法では、トレーニング中にノイズを追加することで、デコーダが生成されたコードに対してより堅牢になる。
しかし、生成されたコードはトレーニングコードの間にあり、そのうちの1つ以上のミックスに似ています。
生成された画像を改善するためには、デコーダをトレーニングサンプル間の空間内のコードでトレーニングする必要がある。
画像コードの混合を自然な画像にデコードするためにMAETokを微調整するInterpTokを提案する。
2つのトレーニングサンプルの間にターゲット画像が存在しないため、識別器は、各デコードされた混合物が2つのソースと同じくらい自然に見えるかどうかを判断する。
混合比損失は、2つの符号の混合比を維持するために復号混合を必要とする。
それらは共に、自明な解の崩壊を防ぎ、両画像の鋭く自然な構成をもたらす。
InterpTokはMAETokの再構築品質を維持し、3倍以上の補間品質を改善している。
補間以外にも、InterpTokは一致した拡散変換器の生成FIDを誘導なしで11.61から8.48に改善し、サンプリングステップの8分の1で8.11まで到達した。
トークンライザでトレーニングされたジェネレータは、トレーニングステップの半分でMAETokでトレーニングされたジェネレータの最終結果にも到達します。
以上の結果から,画像コード間の空間は無視されるのではなく,明示的に管理されるべきであることが示唆された。
関連論文リスト
- Composable Visual Tokenizers with Generator-Free Diagnostics of Learnability [30.139325285692568]
CompTokは、トークンを合成性のために強化した視覚的トークン化者を学ぶためのトレーニングフレームワークである。
InfoGANスタイルの目的を用いて認識モデルを訓練し,拡散復号器の条件に使用するトークンを予測する。
実験では、CompTokが両方のメトリクスを改善するとともに、クラス条件付き生成のための最先端のジェネレータをサポートできることが示されている。
論文 参考訳(メタデータ) (2026-02-03T10:02:51Z) - Image Tokenizer Needs Post-Training [76.91832192778732]
本稿では,遅延空間構築と復号化に着目した新しいトークン化学習手法を提案する。
具体的には,トークン化の堅牢性を大幅に向上させる,プラグアンドプレイ型トークン化学習手法を提案する。
生成したトークンと再構成されたトークンの分布差を軽減するために、よく訓練された生成モデルに関するトークン化デコーダをさらに最適化する。
論文 参考訳(メタデータ) (2025-09-15T21:38:03Z) - HybridFlow: Infusing Continuity into Masked Codebook for Extreme Low-Bitrate Image Compression [51.04820313355164]
HyrbidFlowは、連続的な機能ベースのストリームとコードブックベースのストリームを組み合わせることで、極めて低い条件下で高い知覚品質と高い忠実性を実現する。
実験の結果、超低速で複数のデータセットにまたがる優れた性能が示された。
論文 参考訳(メタデータ) (2024-04-20T13:19:08Z) - DiffuseMix: Label-Preserving Data Augmentation with Diffusion Models [18.44432223381586]
近年、ディープニューラルネットワークの一般化を改善するために、画像混合に基づく拡張技術が数多く導入されている。
これらの手法では、2つ以上のランダムに選択された自然画像が混合され、拡張画像を生成する。
DiffuseMixを提案する。DiffuseMixは、拡散モデルを利用してトレーニング画像を再構成する新しいデータ拡張手法である。
論文 参考訳(メタデータ) (2024-04-05T05:31:02Z) - Arbitrary-Scale Image Generation and Upsampling using Latent Diffusion Model and Implicit Neural Decoder [29.924160271522354]
超解像度(SR)と画像生成はコンピュータビジョンにおいて重要なタスクであり、現実世界のアプリケーションで広く採用されている。
しかし、既存のほとんどの手法は、固定スケールの倍率でのみ画像を生成し、過度なスムーシングやアーティファクトに悩まされている。
最も関連する研究は、インプリシット神経表現(INR)をデノナイズ拡散モデルに適用し、連続分解能で多種多様で高品質なSR結果を得た。
任意のスケールで入力画像の超解像やランダムノイズから生成できる新しいパイプラインを提案する。
論文 参考訳(メタデータ) (2024-03-15T12:45:40Z) - Human-imperceptible, Machine-recognizable Images [76.01951148048603]
より良い開発AIシステムと、センシティブなトレーニングデータから距離を置くことの間の、ソフトウェアエンジニアに関する大きな対立が露呈している。
画像が暗号化され、人間に認識され、機械に認識される」という、効率的なプライバシー保護学習パラダイムを提案する。
提案手法は,機械が認識可能な情報を保存しながら,暗号化された画像が人間に認識されなくなることを保証できることを示す。
論文 参考訳(メタデータ) (2023-06-06T13:41:37Z) - Towards Accurate Image Coding: Improved Autoregressive Image Generation
with Dynamic Vector Quantization [73.52943587514386]
既存のベクトル量子化(VQ)ベースの自己回帰モデルは、2段階生成パラダイムに従う。
画像領域を可変長符号に符号化する動的量子化VAE(DQ-VAE)を提案する。
論文 参考訳(メタデータ) (2023-05-19T14:56:05Z) - DivCo: Diverse Conditional Image Synthesis via Contrastive Generative
Adversarial Network [70.12848483302915]
cgans (conditional generative adversarial networks) は、入力条件と潜在コードに基づいて様々な画像をターゲットにしている。
最近のMSGANは、生成した画像の多様性を奨励しようとしたが、画像ペア間の"負の関係"しか考慮しなかった。
潜在空間で指定された生成画像間の「正」と「負」の関係を適切に拘束する新しいDivCoフレームワークを提案する。
論文 参考訳(メタデータ) (2021-03-14T11:11:15Z) - Swapping Autoencoder for Deep Image Manipulation [94.33114146172606]
画像操作に特化して設計されたディープモデルであるSwapping Autoencoderを提案する。
キーとなるアイデアは、2つの独立したコンポーネントで画像をエンコードし、交換された組み合わせをリアルなイメージにマップするように強制することだ。
複数のデータセットの実験により、我々のモデルはより良い結果が得られ、最近の生成モデルと比較してかなり効率が良いことが示されている。
論文 参考訳(メタデータ) (2020-07-01T17:59:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。