論文の概要: Domain-Aware Pruning: Sparsity and Domain Generalization via Regularized Probabilistic Masking
- arxiv url: http://arxiv.org/abs/2608.08624v1
- Date: Sun, 09 Aug 2026 10:18:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 19:16:36.887961
- Title: Domain-Aware Pruning: Sparsity and Domain Generalization via Regularized Probabilistic Masking
- Title(参考訳): ドメイン・アウェア・プルーニング:正規化確率的マスキングによる空間性と領域一般化
- Abstract要約: ドメイン・アウェア・プルーニング(ドメイン・アウェア・プルーニング、Domain-Aware Pruning、DAP)は、ネットワーク・スペシャリティを、目に見えない領域への一般化を暗黙的に強化するメカニズムとして活用するフレームワークである。
DAPは、その密度の高いOOD性能を一貫して一致または超越しながら、かなりの幅を達成している。
- 参考スコア(独自算出の注目度): 3.8437482130666027
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Domain generalization (DG) and neural network pruning are conventionally treated as distinct objectives, targeting out-of-distribution (OOD) robustness and model efficiency, respectively. In this work, we bridge this gap by introducing Domain-Aware Pruning (DAP), a framework that leverages network sparsity as a mechanism to implicitly enhance generalization to unseen domains. Diverging from standard binary mask optimization, DAP learns a continuous parameter retention probability $p \in [0, 1]$, framing network compression as a continuous probabilistic masking problem. By introducing a regularization objective that actively penalizes the retention of domain-sensitive weights during the mask training, DAP identifies a domain-invariant subnetwork. Empirical results across five DG benchmark datasets demonstrate that DAP achieves significant sparsity while consistently matching or exceeding the OOD performance of its dense counterparts. Crucially, DAP is an algorithm-agnostic framework that integrates seamlessly with existing DG pipelines without necessitating post-hoc fine-tuning. Beyond efficiency and generalization, we show that DAP natively provides increased robustness to adversarial perturbations and yields highly interpretable models, where the retained weights reliably encapsulate the most domain-invariant and task-critical representations.
- Abstract(参考訳): ドメイン一般化(DG)とニューラル・ネットワーク・プルーニング(ニューラルネットワーク・プルーニング)は従来,それぞれ,アウト・オブ・ディストリビューション(OOD)の堅牢性とモデル効率を目標として,異なる目的として扱われてきた。
本研究では,ネットワークの疎結合性を活用するフレームワークであるDomain-Aware Pruning (DAP)を導入することで,このギャップを埋める。
DAPは、標準的なバイナリマスク最適化から分岐し、連続パラメータ保持確率$p \in [0, 1]$、フレーミングネットワーク圧縮を連続確率マスク問題として学習する。
DAPは、マスクトレーニング中にドメインに敏感な重みの保持を積極的に罰する正規化目標を導入することにより、ドメイン不変のサブネットワークを識別する。
5つのDGベンチマークデータセットの実証的な結果から、DAPは、その密度の高いOODのパフォーマンスを一貫して一致または超えながら、相当なばらつきを達成していることが示された。
重要なのは、DAPはアルゴリズムに依存しないフレームワークで、既存のDGパイプラインとシームレスに統合する。
効率性と一般化の他に、DAPは対向的摂動に対してネイティブに頑健性を高め、高い解釈可能なモデルをもたらし、維持重みが最もドメイン不変かつタスククリティカルな表現を確実にカプセル化することを示した。
関連論文リスト
- BPG: Balancing Plasticity and Generalization for Domain Incremental Learning [48.68747632195046]
ドメインインクリメンタルな学習は、モデルを事前の知識を維持しながら継続的な適応を可能にする。
2つの相補的なコンポーネントを通して、両方の課題に対処する統合フレームワークであるBPGを提案する。
BPGは、均一なアダプタベースのアプローチとハードドメイン選択戦略を一貫して上回る。
論文 参考訳(メタデータ) (2026-08-11T11:22:27Z) - Prompt-Driven Simulation with Feature Perturbation for Cross-Domain Few-Shot Object Detection [8.13477193884434]
PSP-FSODは、プロンプト駆動型ドメインシミュレーションと機能摂動正規化を統合した、原則化されたフレームワークである。
PSP-FSODは高品質なドメイン多様性の監視を行い、ドメイン不変表現を学習する。
論文 参考訳(メタデータ) (2026-08-02T16:11:16Z) - Towards Efficient General Feature Prediction in Masked Skeleton Modeling [59.46799426434277]
マスクスケルトンモデリングのための新しい汎用特徴予測フレームワーク(GFP)を提案する。
我々の重要な革新は、局所的な動きパターンからグローバルな意味表現にまたがる、従来の低レベルな再構築を高レベルな特徴予測に置き換えることです。
論文 参考訳(メタデータ) (2025-09-03T18:05:02Z) - Exploring Probabilistic Modeling Beyond Domain Generalization for Semantic Segmentation [37.724608645202466]
ドメイン一般化セマンティック(DGSS)は、目に見えない環境でのドメインシフトがモデルパフォーマンスを著しく損なう可能性があるため、重要な課題である。
本稿では,既存のセグメンテーションネットワークの一般化を促進する確率的拡散アライメントフレームワークPDAFを紹介する。
実験は、多様で挑戦的な都市シーンにおけるPDAFの有効性を検証する。
論文 参考訳(メタデータ) (2025-07-28T22:27:58Z) - Boosting Domain Generalized and Adaptive Detection with Diffusion Models: Fitness, Generalization, and Transferability [0.0]
ディテクタは、トレーニングとテストデータのドメインギャップによって、しばしばパフォーマンス低下に悩まされる。
近年,領域一般化(DG)や適応(DA)タスクに応用された拡散モデルが研究されている。
単一段階拡散過程から中間的特徴を抽出することにより,これらの問題に対処することを提案する。
論文 参考訳(メタデータ) (2025-06-26T06:42:23Z) - Style-Adaptive Detection Transformer for Single-Source Domain Generalized Object Detection [7.768332621617199]
単一ソースドメインの一般化は、未確認のターゲットドメインによく一般化するソースドメインデータのみを使用して検出器を開発することを目的としている。
既存の手法は主にCNNベースで、データ拡張と機能アライメントを組み合わせることで堅牢性を向上させる。
単一ソース領域の一般化に適したDTRベースの検出器であるStyle-Adaptive Detection TRansformer (SA-DETR)を提案する。
論文 参考訳(メタデータ) (2025-04-29T07:38:37Z) - Multi-Prompt Alignment for Multi-Source Unsupervised Domain Adaptation [86.02485817444216]
マルチプロンプトアライメント(MPA: Multi-Prompt Alignment)は,マルチソースUDAのためのシンプルかつ効率的なフレームワークである。
MPAは、学習したプロンプトを自動エンコードプロセスで認知し、再構築されたプロンプトの合意を最大化することでそれらを調整する。
実験によると、MPAは3つの一般的なデータセットで最先端の結果を達成し、DomainNetの平均精度は54.1%である。
論文 参考訳(メタデータ) (2022-09-30T03:40:10Z) - Domain-Agnostic Prior for Transfer Semantic Segmentation [197.9378107222422]
教師なしドメイン適応(UDA)はコンピュータビジョンコミュニティにおいて重要なトピックである。
ドメインに依存しない事前学習(DAP)を用いてドメイン間表現学習を規則化する機構を提案する。
我々の研究は、UDAがより良いプロキシ、おそらく他のデータモダリティの恩恵を受けていることを明らかにしている。
論文 参考訳(メタデータ) (2022-04-06T09:13:25Z) - Generalizable Representation Learning for Mixture Domain Face
Anti-Spoofing [53.82826073959756]
ドメイン一般化(DG)に基づく対スプーフィングアプローチは、予期せぬシナリオの堅牢性のために注目を集めています。
ドメインダイナミック調整メタラーニング(D2AM)についてドメインラベルを使わずに提案する。
この制限を克服するため,ドメインダイナミック調整メタラーニング(D2AM)を提案する。
論文 参考訳(メタデータ) (2021-05-06T06:04:59Z) - Disentanglement-based Cross-Domain Feature Augmentation for Effective
Unsupervised Domain Adaptive Person Re-identification [87.72851934197936]
Unsupervised Domain Adaptive (UDA) Person Re-identification (ReID) は、ラベル付きソースドメインからラベル付きターゲットドメインへ知識を転送することを目的としている。
ひとつの課題は、トレーニング用に信頼できるラベルでターゲットドメインサンプルを生成する方法だ。
ディスタングルメントに基づくクロスドメイン機能拡張戦略を提案する。
論文 参考訳(メタデータ) (2021-03-25T15:28:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。