論文の概要: RADAR: Relative Angular Divergence Across Representations

• arxiv url: http://arxiv.org/abs/2605.23028v1
• Date: Thu, 21 May 2026 20:51:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-25 17:29:20.096053
• Title: RADAR: Relative Angular Divergence Across Representations
• Title（参考訳）: RADAR: 相対的な角の多様性の表現
• Authors: Xavier Cadet, Mateusz Nowak, Peter Chin,
• Abstract要約: 基礎モデルにおけるクロスドメイン転送可能性を推定するための簡易で幾何的に基底化された測度であるRADARを提案する。 テキスト埋め込みモデルを用いた言語間感情分類や、基礎視覚モデルを用いたドメイン間イメージ分類など、複数のモダリティにまたがるメトリクスを評価する。 我々の主張は、転送可能性推定の有効性はモデルの内部表現空間の幾何学に依存することを示唆している。
• 参考スコア（独自算出の注目度）: 4.603755953026689
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine learning methods rely on data. However, gathering suitable data can be challenging due to availability constraints, cost, or the need for domain expertise. Expanding datasets with additional sources is a common response to limited data, yet this practice does not always improve downstream performance and can sometimes lead to a loss of performance, known as negative transfer. We propose RADAR, a simple, geometrically grounded metric for estimating cross-domain transferability in foundation models. RADAR analyzes the layer-wise evolution of representations by measuring angular alignments and relative changes in distance along layer-to-layer displacement trajectories, and by comparing empirical distributions of within-domain and cross-domain dynamics. We hypothesize that domain transferability is related to the divergence between these trajectory distributions. We evaluate the metric across multiple modalities, including cross-lingual sentiment classification with text embedding models and cross-domain image classification with foundation vision models. Across several settings, RADAR provides competitive predictive performance relative to existing transferability metrics on several vision and text benchmarks, with particularly strong results when domain transitions are smooth or cleanly separated. Our ablations further suggest that the effectiveness of transferability estimation depends on the geometry of the model's internal representation space, with different modalities favoring different topological formulations.
• Abstract（参考訳）: 機械学習の手法はデータに依存している。 しかし、可用性の制約やコスト、ドメインの専門知識の必要性のため、適切なデータを集めることは難しい。 追加のソースでデータセットを拡張することは、制限されたデータに対する一般的な反応であるが、このプラクティスは、ダウンストリームのパフォーマンスを常に改善するわけではなく、時に負の転送として知られるパフォーマンスの損失につながる可能性がある。 基礎モデルにおけるクロスドメイン転送可能性を推定するための簡易で幾何的に基底化された測度であるRADARを提案する。 RADARは、層間変位軌跡に沿った角度アライメントと相対的な距離変化を測定し、ドメイン内およびドメイン間ダイナミクスの経験的分布を比較することによって、表現の階層的進化を分析する。 ドメイン転送性は、これらの軌道分布間のばらつきと関連していると仮定する。 テキスト埋め込みモデルを用いた言語間感情分類や、基礎視覚モデルを用いたドメイン間イメージ分類など、複数のモダリティにまたがるメトリクスを評価する。 いくつかの設定で、RADARは、いくつかのビジョンとテキストベンチマークにおける既存の転送可能性メトリクスと比較して、競争力のあるパフォーマンスを提供する。 さらに、転送可能性推定の有効性は、モデルの内部表現空間の幾何に依存することを示唆し、異なる位相的定式化を好む異なるモジュラリティを持つ。

関連論文リスト

• OmniLiDAR: A Unified Diffusion Framework for Multi-Domain 3D LiDAR Generation [100.36917520403227]
  本稿では,8つの代表領域にまたがる共有範囲画像表現において,LiDARスキャンを生成する統一テキスト条件拡散フレームワークを提案する。 パブリックな統合ベンチマークがなければ、実世界のスキャンと物理ベース気象シミュレーションとシステマティックビームリダクションを組み合わせた8ドメインデータセットを構築する。
  論文  参考訳（メタデータ） (2026-05-13T17:42:20Z)
• COP-GEN: Latent Diffusion Transformer for Copernicus Earth Observation Data -- Generation Stochastic by Design [9.278432103577925]
  地球観測の応用は、光学、レーダー、標高、土地被覆製品を含む複数のセンサーのデータにますます依存している。 本研究では,不均一な地球観測モードの空間分解能の共分散をモデルとした潜時拡散変換器COP-GENを紹介する。 大規模なグローバルマルチモーダルデータセットの実験では、COP-GENは光学、レーダー、高度のモードで強いピーク忠実性を維持しながら、多種多様な物理的に一貫した実現を生成する。
  論文  参考訳（メタデータ） (2026-03-03T18:31:46Z)
• Minimax optimal adaptive structured transfer learning through semi-parametric domain-varying coefficient model [9.091986429838117]
  本研究では,条件分布ドリフト下でのマルチソース単一ターゲット移動学習問題について検討する。 情報ソース領域からの強度を選択的に借用する適応的伝達学習推定器を開発した。
  論文  参考訳（メタデータ） (2026-02-20T03:53:06Z)
• DIDS: Domain Impact-aware Data Sampling for Large Language Model Training [61.10643823069603]
  大規模言語モデルに対するドメインインパクト対応データサンプリング(DIDS)を提案する。 学習効果に基づくDIDSグループトレーニングデータでは、プロキシ言語モデルと次元削減が使用される。 同等のトレーニング効率を維持しながら平均パフォーマンスを3.4%向上させる。
  論文  参考訳（メタデータ） (2025-04-17T13:09:38Z)
• xTED: Cross-Domain Adaptation via Diffusion-Based Trajectory Editing [21.37585797507323]
  ドメイン間政策伝達手法は主に、ポリシー学習を容易にするために、ドメインの対応や修正を学習することを目的としている。 本稿では,クロスドメイントラジェクトリ適応のために特別に設計された拡散モデルを用いたクロスドメイントラジェクトリ・EDitingフレームワークを提案する。 提案するモデルアーキテクチャは,対象データ内の動的パターンだけでなく,状態,行動,報酬間の複雑な依存関係を効果的にキャプチャする。
  論文  参考訳（メタデータ） (2024-09-13T10:07:28Z)
• Improving Transferability for Cross-domain Trajectory Prediction via Neural Stochastic Differential Equation [41.09061877498741]
  外部要因とデータ取得戦略によるデータセット間での相違がある。 大規模データセットでトレーニングされたモデルの熟練した性能は、他の小規模データセットでの転送可能性に制限がある。 本稿では,ニューラル微分方程式(NSDE)の連続的利用に基づく不一致の緩和手法を提案する。 提案手法の有効性は,一般的なベンチマークデータセットであるnuScenes,Argoverse,Lyft,InterinterAction,Open Motionデータセット上で,最先端の軌道予測モデルに対して検証される。
  論文  参考訳（メタデータ） (2023-12-26T06:50:29Z)
• SALUDA: Surface-based Automotive Lidar Unsupervised Domain Adaptation [62.889835139583965]
  我々は、ソースデータとターゲットデータに基づいて、暗黙の基盤となる表面表現を同時に学習する教師なし補助タスクを導入する。 両方のドメインが同じ遅延表現を共有しているため、モデルは2つのデータソース間の不一致を許容せざるを得ない。 実験の結果,本手法は実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-
  論文  参考訳（メタデータ） (2023-04-06T17:36:23Z)
• VTAE: Variational Transformer Autoencoder with Manifolds Learning [144.0546653941249]
  深層生成モデルは、多くの潜伏変数を通して非線形データ分布の学習に成功している。 ジェネレータの非線形性は、潜在空間がデータ空間の不満足な射影を示し、表現学習が不十分になることを意味する。 本研究では、測地学と正確な計算により、深部生成モデルの性能を大幅に向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-04-03T13:13:19Z)
• Geometry-Aware Unsupervised Domain Adaptation [12.298214579392129]
  Unsupervised Domain Adaptation (UDA)は、データセットシフトの存在下で、ラベル付きソースドメインからラベルなしターゲットドメインに知識を転送することを目的としている。 既存のほとんどのメソッドは、ドメインのアライメントやクラス識別にうまく対応できないため、下流タスクの本質的なデータ構造を歪めてしまう可能性がある。 核ノルム最適化により,移動可能性と識別性を同時に学習するための新しい幾何認識モデルを提案する。
  論文  参考訳（メタデータ） (2021-12-21T08:45:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。