論文の概要: Policy-Mask: Budget-Aware Adaptation of Diffusion Features to Discriminative Tasks
- arxiv url: http://arxiv.org/abs/2610.28889v1
- Date: Tue, 20 Oct 2026 20:13:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 00:40:06.138212
- Title: Policy-Mask: Budget-Aware Adaptation of Diffusion Features to Discriminative Tasks
- Title(参考訳): 政策課題:差別的課題に対する拡散特徴の予算的適応
- Abstract要約: 本稿では, 下流目標に基づいて訓練された, 所定のチャンネル予算の下で3つ全てを共同で選択する, 予算条件付き政策である「政策マスク」を紹介する。
Policy-Maskは、セグメンテーション、分類、意味対応にまたがる固定抽出と特徴フィルタベースラインを改善する。
PixArt-$およびSD3.5 MMDiTを含む拡散変換器にポリシマスクを適用し,U-Netチャネルをイメージトキンの隠蔽次元に置き換える。
- 参考スコア(独自算出の注目度): 9.197176237745001
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Selecting intermediate features from a frozen diffusion model for discriminative tasks is non-trivial because the useful signal is distributed across the denoising trajectory, network depth, and channels. In practice, this requires choosing a timestep, a block, and a channel subset. Existing methods either fix these choices by hand or optimize only a few extraction hyperparameters, most often the timestep, then reuse the same rule across inputs and budgets. We introduce Policy-Mask, a budget-conditioned policy trained on the downstream objective that jointly selects all three under a prescribed channel budget. Without normalization, the channel-score contribution grows with the number of selected channels and dominates the timestep and block updates. We normalize it by subset cardinality, keeping the three policy heads on comparable scales and stabilizing joint training. At matched budgets, Policy-Mask improves over fixed extraction and feature-filter baselines across segmentation, classification, and semantic correspondence, reaching 38.9 mIoU on ADE20K, 75.4% top-1 on CIFAR-100 at 128 dimensions, and 76.3 PCK@0.1 on SPair-71k. Component-wise ablations show that block selection materially affects downstream accuracy, and the highest recorded channel-budget score occurs at 256 retained channels, identifying a practical operating point for compact diffusion representations. We further adapt Policy-Mask to diffusion transformers, including PixArt-$Σ$ and SD3.5 MMDiT, by replacing U-Net channels with image-token hidden dimensions.
- Abstract(参考訳): 識別作業のための凍結拡散モデルから中間的特徴を選択することは、有用な信号が識別軌道、ネットワーク深さ、チャネルに分散しているため、簡単ではない。
実際には、時間ステップ、ブロック、チャンネルサブセットを選択する必要がある。
既存の手法では、これらの選択を手動で修正するか、いくつかの抽出ハイパーパラメータのみを最適化し、ほとんどの場合、タイムステップで入力と予算で同じルールを再利用する。
本稿では, 下流目標に基づいて訓練された, 所定のチャンネル予算の下で3つ全てを共同で選択する, 予算条件付き政策である「政策マスク」を紹介する。
正規化がなければ、チャネルスコアのコントリビューションは、選択されたチャネルの数によって増加し、タイムステップとブロック更新を支配します。
私たちはそれをサブセットの基数で正規化し、3つの政策の先頭を同等の規模に保ち、共同トレーニングを安定化させます。
整合した予算では、ポリシマスクはセグメンテーション、分類、セマンティック対応をまたいだ固定抽出と特徴フィルタベースラインを改善し、ADE20Kで38.9 mIoU、CIFAR-100で75.4%、SPair-71kで76.3 PCK@0.1に到達した。
ブロック選択は下流の精度に大きく影響し、最も高いチャネル予算スコアは256の保持チャネルで発生し、コンパクトな拡散表現のための実用的な操作ポイントを特定する。
PixArt-$Σ$ や SD3.5 MMDiT などの拡散変換器に対して,U-Net チャネルを画像に隠れた次元に置き換えることで,ポリシマスクをさらに適応させる。
関連論文リスト
- Perceptual Refinement of an End-to-End Video Streaming Pipeline via Generative AI Layers [9.347197482893113]
本稿では, 破壊的ブロック除去を除去性マスクの下で適応的な内部劣化に置き換えるPreSLEYを提案する。
問題を3つの目標に分けます。どのブロックを分解するかを選択し、分散させ、エンコーダがビット数を減らし、復元するのです。
論文 参考訳(メタデータ) (2026-09-16T12:33:08Z) - Mixture of Channel Experts: Static Sparse Supports with Input-Adaptive Mixing for Pointwise Projections [3.52359746858894]
Mixture-of-Experts (MoE)は、個々の入力を独立したパラメータ化専門家の小さなセットを通してルーティングすることで、言語モデルをスケールする。
我々は、この設計を畳み込みネットワークにコピーすることは構造的な理由により失敗することを示し、同じ入力チャネルを読み込む並列畳み込みの専門家は、ほぼ同じフィルタを学習する。
提案するMixture of Channel Experts (MoCE)は,MoEにインスパイアされたスパースチャネル混合層であり,ポイントワイド(1x1)チャネル還元プロジェクションを置き換える。
論文 参考訳(メタデータ) (2026-08-24T19:55:39Z) - Optimal channel selection with discrete QCQP [14.734454356396158]
離散QCQPによるチャネル選択を最適に行う新しいチャネル選択法を提案する。
また,実推定時間を正確に推定する2次モデルを提案する。
CIFAR-10 と ImageNet を用いた実験により,提案手法は様々なネットワークアーキテクチャ上で,他の固定インピーダンスチャネルプルーニング法よりも優れた性能を示した。
論文 参考訳(メタデータ) (2022-02-24T23:26:51Z) - Distortion-Aware Loop Filtering of Intra 360^o Video Coding with
Equirectangular Projection [81.63407194858854]
等角射影(ERP)フォーマットで投影された360$o$ビデオの符号化性能を向上させるため,歪みを考慮したループフィルタリングモデルを提案する。
提案モジュールは、符号化ユニット(CU)パーティションマスクに基づいてコンテンツ特性を分析し、部分的畳み込みによって処理し、指定された領域を活性化する。
論文 参考訳(メタデータ) (2022-02-20T12:00:18Z) - ShuffleBlock: Shuffle to Regularize Deep Convolutional Neural Networks [35.67192058479252]
本稿では,ディープ畳み込みネットワークにおける正規化手法としてのチャネルシャッフルの動作について検討する。
トレーニング中のチャネルのランダムシャッフルは性能を大幅に低下させるが、小さなパッチをランダムにシャッフルすると性能が大幅に向上することを示した。
ShuffleBlockモジュールは実装が容易で、CIFARとImageNetデータセットの画像分類タスクにおいて、いくつかのベースラインネットワークの性能を改善している。
論文 参考訳(メタデータ) (2021-06-17T10:23:00Z) - End-to-end learnable EEG channel selection with deep neural networks [72.21556656008156]
本稿では,脳波チャネル選択をニューラルネットワーク自体に組み込む枠組みを提案する。
我々は、離散チャネル選択パラメータの連続緩和を用いて、この新しい最適化問題の離散的性質を扱う。
この一般的なアプローチは、2つの異なるEEGタスクで評価される。
論文 参考訳(メタデータ) (2021-02-11T13:44:07Z) - Channel-wise Knowledge Distillation for Dense Prediction [73.99057249472735]
本稿では,学生ネットワークと教師ネットワークのチャンネルワイズ機能について提案する。
様々なネットワーク構造を持つ3つのベンチマークにおいて、一貫して優れた性能を実現している。
論文 参考訳(メタデータ) (2020-11-26T12:00:38Z) - Channel-wise Alignment for Adaptive Object Detection [66.76486843397267]
遺伝的物体検出は、ディープ畳み込みニューラルネットワークの開発によって大いに促進されている。
このタスクの既存の方法は、通常、画像全体や関心の対象に基づいて、ハイレベルなアライメントに注意を向ける。
本稿では,チャネルワイドアライメント(チャネルワイドアライメント)という,まったく異なる観点からの適応を実現する。
論文 参考訳(メタデータ) (2020-09-07T02:42:18Z) - Operation-Aware Soft Channel Pruning using Differentiable Masks [51.04085547997066]
本稿では,データ駆動型アルゴリズムを提案する。このアルゴリズムは,操作特性を利用して,ディープニューラルネットワークを異なる方法で圧縮する。
我々は大規模な実験を行い、出力ネットワークの精度で優れた性能を達成する。
論文 参考訳(メタデータ) (2020-07-08T07:44:00Z) - Discrimination-aware Network Pruning for Deep Model Compression [79.44318503847136]
既存のプルーニング手法は、スクラッチからスパーシティ制約で訓練するか、事前訓練されたモデルと圧縮されたモデルの特徴マップ間の再構成誤差を最小限に抑えるかのいずれかである。
本稿では,識別能力に実際に寄与するチャネルを選択するために,識別認識チャネルプルーニング (DCP) と呼ばれる簡便な手法を提案する。
画像分類と顔認識の両方の実験により,本手法の有効性が示された。
論文 参考訳(メタデータ) (2020-01-04T07:07:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。