論文の概要: ARFlow: Autogressive Flow with Hybrid Linear Attention

• arxiv url: http://arxiv.org/abs/2501.16085v1
• Date: Mon, 27 Jan 2025 14:33:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-28 13:56:13.211950
• Title: ARFlow: Autogressive Flow with Hybrid Linear Attention
• Title（参考訳）: ARFlow: ハイブリッド線形注意による自動フロー
• Authors: Mude Hui, Rui-Jie Zhu, Songlin Yang, Yu Zhang, Zirui Wang, Yuyin Zhou, Jason Eshraghian, Cihang Xie,
• Abstract要約: フローモデルは、徐々に現実的なイメージを生成するのに効果的である。 彼らは、生成プロセス中に長距離依存関係をキャプチャするのに苦労します。 本稿では,自動回帰モデリングをフローモデルに統合することを提案する。
• 参考スコア（独自算出の注目度）: 48.707933347079894
• License:
• Abstract: Flow models are effective at progressively generating realistic images, but they generally struggle to capture long-range dependencies during the generation process as they compress all the information from previous time steps into a single corrupted image. To address this limitation, we propose integrating autoregressive modeling -- known for its excellence in modeling complex, high-dimensional joint probability distributions -- into flow models. During training, at each step, we construct causally-ordered sequences by sampling multiple images from the same semantic category and applying different levels of noise, where images with higher noise levels serve as causal predecessors to those with lower noise levels. This design enables the model to learn broader category-level variations while maintaining proper causal relationships in the flow process. During generation, the model autoregressively conditions the previously generated images from earlier denoising steps, forming a contextual and coherent generation trajectory. Additionally, we design a customized hybrid linear attention mechanism tailored to our modeling approach to enhance computational efficiency. Our approach, termed ARFlow, under 400k training steps, achieves 14.08 FID scores on ImageNet at 128 * 128 without classifier-free guidance, reaching 4.34 FID with classifier-free guidance 1.5, significantly outperforming the previous flow-based model SiT's 9.17 FID. Extensive ablation studies demonstrate the effectiveness of our modeling strategy and chunk-wise attention design.
• Abstract（参考訳）: フローモデルは、現実的なイメージを段階的に生成するのに効果的であるが、一般的には、以前のタイムステップから全ての情報を単一の破損したイメージに圧縮する際に、生成プロセス中に長距離依存をキャプチャするのに苦労する。 この制限に対処するために、複雑で高次元の関節確率分布のモデリングにおける卓越性で知られる自己回帰モデリングをフローモデルに統合することを提案する。 トレーニング中の各ステップにおいて、同じ意味圏から複数の画像をサンプリングし、異なるレベルのノイズを適用して因果順序付きシーケンスを構築する。 この設計により、フロープロセスにおける適切な因果関係を維持しながら、より広いカテゴリレベルのバリエーションを学習することができる。 生成中、モデルが先行するデノイングステップから生成した画像を自己回帰的に条件付けし、文脈的かつ一貫性のある生成軌跡を形成する。 さらに、計算効率を向上させるために、モデリングアプローチに合わせて、カスタマイズされたハイブリッド線形アテンション機構を設計する。 私たちのアプローチは,400kのトレーニングステップの下で,ImageNetの14.08 FIDスコアを128×128で達成し,分類器フリーガイダンス1.5で4.34 FIDに達し,従来のフローベースモデルSiTの9.17 FIDよりも大幅に向上した。 大規模なアブレーション研究は、我々のモデリング戦略とチャンクワイドアテンションデザインの有効性を実証している。

関連論文リスト

• Randomized Autoregressive Visual Generation [26.195148077398223]
  本稿では,視覚生成のためのランダム化自己回帰モデリング(RAR)を提案する。 RARは、言語モデリングフレームワークとの完全な互換性を維持しながら、画像生成タスクに最先端のパフォーマンスを新たに設定する。 ImageNet-256ベンチマークでは、RARはFIDスコアが1.48に達し、最先端の自己回帰画像生成装置に勝るだけでなく、拡散ベースおよびマスク付きトランスフォーマーベースの手法よりも優れている。
  論文  参考訳（メタデータ） (2024-11-01T17:59:58Z)
• Fast constrained sampling in pre-trained diffusion models [77.21486516041391]
  拡散モデルは、大規模な生成画像モデルの分野を支配してきた。 本研究では,大規模な事前学習拡散モデルにおける高速拘束サンプリングのアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-10-24T14:52:38Z)
• MMAR: Towards Lossless Multi-Modal Auto-Regressive Probabilistic Modeling [64.09238330331195]
  本稿では,MMAR(Multi-Modal Auto-Regressive)確率モデルフレームワークを提案する。 離散化の手法とは異なり、MMARは情報損失を避けるために連続的に評価された画像トークンを取り入れる。 MMARは他のジョイントマルチモーダルモデルよりもはるかに優れた性能を示す。
  論文  参考訳（メタデータ） (2024-10-14T17:57:18Z)
• Accelerating Image Generation with Sub-path Linear Approximation Model [31.86029397069562]
  拡散モデルは、画像、オーディオ、ビデオ生成タスクにおける技術の現状を進歩させた。 高品質な画像生成を維持しながら拡散モデルを高速化するサブパス線形近似モデル(SLAM)を提案する。
  論文  参考訳（メタデータ） (2024-04-22T06:25:17Z)
• Active Generation for Image Classification [45.93535669217115]
  本稿では,モデルのニーズと特徴に着目し,画像生成の効率性に対処することを提案する。 能動学習の中心的傾向として,ActGenという手法が,画像生成のトレーニング・アウェア・アプローチを取り入れている。
  論文  参考訳（メタデータ） (2024-03-11T08:45:31Z)
• Scaling Rectified Flow Transformers for High-Resolution Image Synthesis [22.11487736315616]
  整流流(rectified flow)は、データとノイズを直線で接続する最近の生成モデルである。 我々は,既存のノイズサンプリング手法を改良し,それらを知覚的に関係のあるスケールに偏りを持たせることにより,整流モデルの訓練を行う。 本稿では,2つのモードの重みを分離したテキスト・画像生成のためのトランスフォーマー・ベースアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2024-03-05T18:45:39Z)
• Blue noise for diffusion models [50.99852321110366]
  本稿では,画像内および画像間の相関雑音を考慮した拡散モデルを提案する。 我々のフレームワークは、勾配流を改善するために、1つのミニバッチ内に画像間の相関を導入することができる。 本手法を用いて,各種データセットの質的,定量的な評価を行う。
  論文  参考訳（メタデータ） (2024-02-07T14:59:25Z)
• On Distillation of Guided Diffusion Models [94.95228078141626]
  そこで本研究では,分類器を含まない誘導拡散モデルから抽出し易いモデルへ抽出する手法を提案する。 画素空間上で訓練された標準拡散モデルに対して,本手法は元のモデルに匹敵する画像を生成することができる。 遅延空間で訓練された拡散モデル(例えば、安定拡散)に対して、我々の手法は1から4段階のデノナイジングステップで高忠実度画像を生成することができる。
  論文  参考訳（メタデータ） (2022-10-06T18:03:56Z)
• Normalizing Flows with Multi-Scale Autoregressive Priors [131.895570212956]
  マルチスケール自己回帰前処理(mAR)を通した遅延空間におけるチャネルワイド依存性を導入する。 我々のmARは、分割結合フロー層(mAR-SCF)を持つモデルに先立って、複雑なマルチモーダルデータの依存関係をよりよく捉えます。 我々は,mAR-SCFにより画像生成品質が向上し,FIDとインセプションのスコアは最先端のフローベースモデルと比較して向上したことを示す。
  論文  参考訳（メタデータ） (2020-04-08T09:07:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。