論文の概要: MMEarth-Bench: Global Model Adaptation via Multimodal Test-Time Training
- arxiv url: http://arxiv.org/abs/2602.06285v1
- Date: Fri, 06 Feb 2026 00:48:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-09 22:18:26.171151
- Title: MMEarth-Bench: Global Model Adaptation via Multimodal Test-Time Training
- Title(参考訳): MMEarth-Bench:マルチモーダルテストタイムトレーニングによるグローバルモデル適応
- Authors: Lucia Gordon, Serge Belongie, Christian Igel, Nico Lang,
- Abstract要約: MMEarth-Benchは、12のモダリティ、グローバル分散データ、およびin-out-of-distriionテストの分割を持つ5つの新しいマルチモーダル環境タスクのコレクションである。
我々は、事前訓練されたモデルの多様なセットをベンチマークし、(マルチモーダルな)事前訓練は、限られたデータ設定におけるモデルの堅牢性を改善する傾向にあるが、地理的一般化能力は貧弱であることを示した。
本稿では,テスト時に利用できるすべてのモダリティを補助的タスクとして利用するマルチモーダル再構成(TTT-MMR)を用いたテストタイムトレーニングのモデルに依存しない手法を提案する。
- 参考スコア(独自算出の注目度): 15.675086189757769
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent research in geospatial machine learning has demonstrated that models pretrained with self-supervised learning on Earth observation data can perform well on downstream tasks with limited training data. However, most of the existing geospatial benchmark datasets have few data modalities and poor global representation, limiting the ability to evaluate multimodal pretrained models at global scales. To fill this gap, we introduce MMEarth-Bench, a collection of five new multimodal environmental tasks with 12 modalities, globally distributed data, and both in- and out-of-distribution test splits. We benchmark a diverse set of pretrained models and find that while (multimodal) pretraining tends to improve model robustness in limited data settings, geographic generalization abilities remain poor. In order to facilitate model adaptation to new downstream tasks and geographic domains, we propose a model-agnostic method for test-time training with multimodal reconstruction (TTT-MMR) that uses all the modalities available at test time as auxiliary tasks, regardless of whether a pretrained model accepts them as input. Our method improves model performance on both the random and geographic test splits, and geographic batching leads to a good trade-off between regularization and specialization during TTT. Our dataset, code, and visualization tool are linked from the project page at lgordon99.github.io/mmearth-bench.
- Abstract(参考訳): 地理空間機械学習の最近の研究は、地球観測データにおける自己教師付き学習で事前訓練されたモデルが、限られた訓練データで下流のタスクでうまく機能できることを実証している。
しかし、既存の地理空間ベンチマークデータセットのほとんどは、データモダリティが少なく、グローバル表現が貧弱なため、グローバルスケールでのマルチモーダル事前訓練モデルの評価能力が制限されている。
このギャップを埋めるために、MMEarth-Benchを紹介します。これは、12のモダリティ、グローバル分散データ、およびイン・オブ・アウト・オブ・ディストリビューション・テストの分割を持つ5つの新しいマルチモーダル環境タスクの集合です。
我々は、事前訓練されたモデルの多様なセットをベンチマークし、(マルチモーダルな)事前訓練は、限られたデータ設定におけるモデルの堅牢性を改善する傾向にあるが、地理的一般化能力は貧弱であることを示した。
本稿では,新しい下流タスクや地理的領域へのモデル適応を容易にするために,事前学習モデルが入力として受け入れるか否かに関わらず,テスト時に利用可能なすべてのモダリティを補助タスクとして利用する,マルチモーダル再構成(TTT-MMR)を用いたテストタイムトレーニングのモデル非依存手法を提案する。
提案手法は, ランダムなテスト分割と地理的なテスト分割の両方におけるモデル性能を向上し, 地理的バッチ化により, TTTにおける正規化と特殊化のトレードオフが良好になる。
私たちのデータセット、コード、可視化ツールは、lgordon99.github.io/mmearth-benchのプロジェクトページからリンクされています。
関連論文リスト
- Bagging-Based Model Merging for Robust General Text Embeddings [73.51674133699196]
汎用テキスト埋め込みモデルは、幅広いNLPおよび情報検索アプリケーションを支える。
本稿では,データスケジューリングとモデルマージという2つの観点から,テキスト埋め込みのためのマルチタスク学習の体系的研究を行う。
論文 参考訳(メタデータ) (2026-02-05T15:45:08Z) - Breaking Silos: Adaptive Model Fusion Unlocks Better Time Series Forecasting [64.45587649141842]
時系列予測は多くの現実世界のアプリケーションにおいて重要な役割を果たす。
1つのモデルは、異なるテストサンプルで一貫して他よりも優れていますが、(ii) それぞれのモデルは特定のケースで優れています。
異種モデルのサンプルレベル適応融合による時系列予測のためのフレームワークであるTimeFuseを紹介する。
論文 参考訳(メタデータ) (2025-05-24T00:45:07Z) - Probabilistic Federated Prompt-Tuning with Non-IID and Imbalanced Data [35.47385526394076]
微調整事前学習モデルは、適度なデータで複雑なタスクを解決する機械学習の一般的なアプローチである。
事前訓練されたモデル全体を微調整することは、ローカルデータ分布が多様に歪んだフェデレーションデータシナリオでは効果がない。
提案手法は,フェデレーション学習を分散集合モデリングタスクに変換し,事前学習したモデルを世界規模で微調整するための多様なプロンプトを集約する。
論文 参考訳(メタデータ) (2025-02-27T04:31:34Z) - Federated Learning with Projected Trajectory Regularization [65.6266768678291]
フェデレーション学習は、ローカルデータを共有せずに、分散クライアントから機械学習モデルの共同トレーニングを可能にする。
連合学習における重要な課題の1つは、クライアントにまたがる識別できない分散データを扱うことである。
本稿では,データ問題に対処するための予測軌道正則化(FedPTR)を備えた新しいフェデレーション学習フレームワークを提案する。
論文 参考訳(メタデータ) (2023-12-22T02:12:08Z) - Integrating Local Real Data with Global Gradient Prototypes for
Classifier Re-Balancing in Federated Long-Tailed Learning [60.41501515192088]
フェデレートラーニング(FL)は、グローバルモデルを協調的にトレーニングする複数のクライアントを含む、人気のある分散ラーニングパラダイムになっています。
データサンプルは通常、現実世界の長い尾の分布に従っており、分散化された長い尾のデータのFLは、貧弱なグローバルモデルをもたらす。
本研究では、局所的な実データとグローバルな勾配のプロトタイプを統合し、局所的なバランスの取れたデータセットを形成する。
論文 参考訳(メタデータ) (2023-01-25T03:18:10Z) - CHALLENGER: Training with Attribution Maps [63.736435657236505]
ニューラルネットワークのトレーニングに属性マップを利用すると、モデルの正規化が向上し、性能が向上することを示す。
特に、我々の汎用的なドメインに依存しないアプローチは、ビジョン、自然言語処理、時系列タスクにおける最先端の結果をもたらすことを示す。
論文 参考訳(メタデータ) (2022-05-30T13:34:46Z) - KNN-Diffusion: Image Generation via Large-Scale Retrieval [40.6656651653888]
適応する学習は、いくつかの新しい機能を可能にします。
微調整の訓練されたモデルと新しいサンプルは、単にテーブルに追加するだけで実現できる。
我々の拡散モデルでは、共同のテキスト・イメージ・マルチモーダル・メトリックを利用することで、画像のみを訓練する。
論文 参考訳(メタデータ) (2022-04-06T14:13:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。