論文の概要: Scaling Representation Diversity: Modulated Attention and Reconstructive Regularization for Visual Grounding
- arxiv url: http://arxiv.org/abs/2608.12748v1
- Date: Thu, 13 Aug 2026 02:57:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-14 18:29:38.371329
- Title: Scaling Representation Diversity: Modulated Attention and Reconstructive Regularization for Visual Grounding
- Title（参考訳）: 表現の多様性のスケーリング: 視覚的グラウンド化のための変更注意と再構成規則化
- Abstract要約: Referring Expression (REC) はデータセット固有の微調整の下で一般的に研究されている。
本稿では,オープン語彙の統一的基礎化の観点から,RECを再考する。
表現の多様性を維持するために,包括的データモデル協調設計フレームワークを提案する。
- 参考スコア（独自算出の注目度）: 13.310120232835722
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Referring Expression Comprehension (REC) is commonly studied under dataset-specific fine-tuning, resulting in specialist models with limited cross-dataset generalization. In this work, we revisit REC from the perspective of unified open-vocabulary grounding and identify representation degeneration as a key obstacle to scaling a single generalist model. To preserve representation diversity, we propose a holistic data-model co-design framework. Architecturally, we introduce the Modulated Attention-Contrastive Head (mACH) for efficient token-level vision-language alignment and a text-conditioned JEPA auxiliary stream that provides complementary gradient support to preserve alignment-active representations without inference overhead. On the data side, we introduce Objects365-Caption, enriching Objects365 with context-aware referring expressions for large-scale language supervision. We further provide a theoretical analysis showing that complementary gradient subspaces preserve alignment capacity and thereby scale representation diversity. Extensive experiments demonstrate that our single-checkpoint framework achieves highly competitive performance on standard REC benchmarks while exhibiting strong generalization across heterogeneous grounding datasets without benchmark-specific adaptation.
- Abstract（参考訳）: Referring Expression Comprehension (REC) は、データセット固有の微調整の下で一般的に研究されており、結果として、クロスデータセットの一般化が限定された専門モデルとなる。
本研究では,RECを統一的なオープン語彙基底の観点から再検討し,表現退化を単一ジェネラリストモデルのスケーリングの鍵となる障害として認識する。
表現の多様性を維持するために,包括的データモデル協調設計フレームワークを提案する。
アーキテクチャ的には、効率的なトークンレベルの視覚言語アライメントのためのModulated Attention-Contrastive Head (mACH) と、推論オーバーヘッドを伴わずにアライメントアクティブ表現を維持するための補完的な勾配サポートを提供するテキスト条件付きJEPA補助ストリームを導入する。
データ側ではObjects365-Captionを導入します。
さらに、相補的な勾配部分空間がアライメント能力を保ち、それによって表現の多様性を拡大することを示す理論的解析を行う。
大規模な実験により、我々の単一チェックポイントフレームワークは、標準RECベンチマーク上で高い競争性能を達成しつつ、ベンチマーク固有の適応を伴わずに、異種グラウンドデータセットをまたいだ強力な一般化を示した。
関連論文リスト
- Generative Archetype-Grounded Item Representations for Sequential Recommendation [45.91194797303667]
GenAIRは、ジェネレーティブアーキタイプのグラウンドドアイテム表現でシーケンシャルなレコメンデーションを付与する一般的なフレームワークである。
本稿では,実際のインタラクションからの行動信号を明示的に組み込んだ行動校正手法を提案する。
3つの実世界のデータセットで実施された実験は、GenAIRが様々なシーケンシャルレコメンデーションモデルの性能を大幅に改善することを示した。
論文 参考訳（メタデータ） (2026-06-09T15:59:14Z) - Beyond Point-Wise Matching: Structural Representation Alignment for Accelerating Diffusion Transformers [93.3976834364707]
本稿では,特徴写像のリレーショナル幾何における整合性を実現する構造的RePresentation AlignmentフレームワークであるsREPAを提案する。
モデルが事前訓練された特徴から全体的空間配置と構造的相関を内包するように促すことにより、sREPAはより高速でより安定した収束を達成する。
論文 参考訳（メタデータ） (2026-05-16T12:01:04Z) - Bridging Visual Representation and Reinforcement Learning from Verifiable Rewards in Large Vision-Language Models [35.97638821723309]
KAWHIは、構造化された視覚情報を均一な報酬ポリシー最適化手法に明示的に組み込む、プラグアンドプレイ報酬再重み付け機構である。
階層的幾何的アグリゲーションにより意味的に有意な領域を適応的に局在させ、構造化属性を介して視覚クリティカルなアテンションヘッドを識別し、段落レベルの信用再配置を行い、空間的な視覚的証拠を意味的に決定的な推論ステップと整合させる。
論文 参考訳（メタデータ） (2026-03-28T18:40:14Z) - Beyond the Academic Monoculture: A Unified Framework and Industrial Perspective for Attributed Graph Clustering [75.50670592447219]
分散グラフクラスタリング(AGC)は、構造トポロジとノード属性を共同でモデル化することによって、ノードを凝集性グループに分割する基本的な教師なしタスクである。
この調査は、3つの相補的な視点からAGCを包括的かつ工業的に基礎づけたレビューを提供する。
論文 参考訳（メタデータ） (2026-03-21T14:15:34Z) - Asymmetric Hierarchical Anchoring for Audio-Visual Joint Representation: Resolving Information Allocation Ambiguity for Robust Cross-Modal Generalization [19.721857318111734]
指向性情報アロケーションを強制するための非対称階層的アンコリング(AHA)を提案する。
我々は、脆弱な相互情報推定装置を、意味的漏洩を明示的に抑制するGRLベースの逆分離器に置き換える。
AHAは、クロスモーダル移動において対称基底線を一貫して上回る。
論文 参考訳（メタデータ） (2026-02-03T14:14:03Z) - CoT Referring: Improving Referring Expression Tasks with Grounded Reasoning [67.18702329644526]
CoT Referringは、構造化されたチェーン・オブ・シークレット・トレーニングデータ構造を通じて、モデル推論をモダリティにわたって強化する。
トレーニングデータを再構築して、新たな出力フォームを実行し、既存のデータセットに新たなアノテーションを提供します。
また、検出とセグメント化機能を統合MLLMフレームワークに統合し、新しい適応重み付き損失で学習して性能を最適化する。
論文 参考訳（メタデータ） (2025-10-03T08:50:21Z) - CRIA: A Cross-View Interaction and Instance-Adapted Pre-training Framework for Generalizable EEG Representations [52.251569042852815]
CRIAは、可変長および可変チャネルコーディングを使用して、異なるデータセット間でEEGデータの統一表現を実現する適応フレームワークである。
このモデルでは、時間的、スペクトル的、空間的特徴を効果的に融合させるクロスアテンション機構を採用している。
テンプル大学脳波コーパスとCHB-MITデータセットによる実験結果から、CRIAは既存の方法よりも、同じ事前学習条件で優れていることが示された。
論文 参考訳（メタデータ） (2025-06-19T06:31:08Z) - Entity-enhanced Adaptive Reconstruction Network for Weakly Supervised
Referring Expression Grounding [214.8003571700285]
Referring Expression Grounding (REG) は、言語表現によって記述されたイメージにおいて特定のターゲットをグラウンドすることを目的としている。
我々は、エンティティ強化適応再構築ネットワーク(EARN)を設計する。
EARNには、エンティティの強化、適応的な接地、協調的な再構築の3つのモジュールが含まれている。
論文 参考訳（メタデータ） (2022-07-18T05:30:45Z) - Cluster-level Feature Alignment for Person Re-identification [16.01713931617725]
本稿では、データセット全体にわたるクラスタレベルの特徴アライメントという、別の特徴アライメントのモダリティを探索する。
クラスタレベルの特徴アライメントは,データセットの概要から反復的なアグリゲーションとアライメントから構成される。
論文 参考訳（メタデータ） (2020-08-15T23:47:47Z) - Target-Embedding Autoencoders for Supervised Representation Learning [111.07204912245841]
本稿では,対象空間が高次元な純粋教師付き環境における一般化の枠組みを解析する。
我々は、教師付き予測のための目標埋め込みオートエンコーダ(TEA)の一般的なフレームワークのモチベーションと形式化を行い、特徴とターゲットの予測の両方から予測可能なように最適化された中間潜在表現を学習する。
論文 参考訳（メタデータ） (2020-01-23T02:37:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。