論文の概要: MT3: Meta Test-Time Training for Self-Supervised Test-Time Adaption

• arxiv url: http://arxiv.org/abs/2103.16201v1
• Date: Tue, 30 Mar 2021 09:33:38 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-31 22:45:53.278973
• Title: MT3: Meta Test-Time Training for Self-Supervised Test-Time Adaption
• Title（参考訳）: MT3:自己監督型テストタイム適応のためのメタテストタイムトレーニング
• Authors: Alexander Bartler, Andre B\"uhler, Felix Wiewel, Mario D\"obler and Bin Yang
• Abstract要約: ディープラーニングの未解決の問題は、ニューラルネットワークがテスト時間中のドメインシフトに対処する能力である。 メタラーニング、自己監督、テストタイムトレーニングを組み合わせて、目に見えないテスト分布に適応する方法を学びます。 この手法はcifar-10による画像分類ベンチマークの最先端結果を大幅に改善する。
• 参考スコア（独自算出の注目度）: 69.76837484008033
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: An unresolved problem in Deep Learning is the ability of neural networks to cope with domain shifts during test-time, imposed by commonly fixing network parameters after training. Our proposed method Meta Test-Time Training (MT3), however, breaks this paradigm and enables adaption at test-time. We combine meta-learning, self-supervision and test-time training to learn to adapt to unseen test distributions. By minimizing the self-supervised loss, we learn task-specific model parameters for different tasks. A meta-model is optimized such that its adaption to the different task-specific models leads to higher performance on those tasks. During test-time a single unlabeled image is sufficient to adapt the meta-model parameters. This is achieved by minimizing only the self-supervised loss component resulting in a better prediction for that image. Our approach significantly improves the state-of-the-art results on the CIFAR-10-Corrupted image classification benchmark. Our implementation is available on GitHub.
• Abstract（参考訳）: ディープラーニングにおける未解決の問題は、トレーニング後にネットワークパラメータを普通に修正することによって課される、テスト時のドメインシフトに対処するニューラルネットワークの能力である。 提案手法であるメタテストタイムトレーニング(MT3)は,このパラダイムを破り,テスト時の適応を可能にする。 メタラーニング、自己スーパービジョン、テストタイムトレーニングを組み合わせて、目に見えないテスト分布に適応することを学びます。 自己教師付き損失を最小限に抑えることで,タスク固有のモデルパラメータを学習する。 メタモデルは、異なるタスク固有のモデルへの適応がそれらのタスクでより高いパフォーマンスをもたらすように最適化されます。 テスト時間の間、単一のラベルのないイメージはメタモデルパラメータを適応するのに十分です。 これは、自己教師付き損失成分のみを最小化することで、画像の予測がより良くなる。 この手法はcifar-10による画像分類ベンチマークの最先端結果を大幅に改善する。 私たちの実装はGitHubで利用可能です。

関連論文リスト

• Adaptive Cascading Network for Continual Test-Time Adaptation [12.718826132518577]
  そこで本研究では,テスト時に対象ドメインの列に事前学習したソースモデルを適応させることを目標とする連続的なテスト時間適応の問題について検討する。 テストタイムトレーニングの既存の方法には、いくつかの制限がある。
  論文  参考訳（メタデータ） (2024-07-17T01:12:57Z)
• Incorporating Test-Time Optimization into Training with Dual Networks for Human Mesh Recovery [35.138312681232264]
  本稿では,トレーニングタイムとテストタイムの目標を統一するデュアルネットワークアーキテクチャを提案する。 メタラーニングと双対ネットワークを併用した手法は、最先端の回帰ベースおよび最適化ベースのHMRアプローチより優れている。
  論文  参考訳（メタデータ） (2024-01-25T12:04:53Z)
• Point-TTA: Test-Time Adaptation for Point Cloud Registration Using Multitask Meta-Auxiliary Learning [17.980649681325406]
  我々は、ポイントクラウド登録(PCR)のための新しいテスト時間適応フレームワークであるPoint-TTAを提案する。 我々のモデルは、テストデータの事前の知識を必要とせずに、テスト時に目に見えない分布に適応することができる。 訓練中は, 補助タスクによる適応モデルにより主タスクの精度が向上するように, メタ補助学習アプローチを用いて訓練を行う。
  論文  参考訳（メタデータ） (2023-08-31T06:32:11Z)
• Architecture, Dataset and Model-Scale Agnostic Data-free Meta-Learning [119.70303730341938]
  データフリーメタトレーニングにおけるePisode cUrriculum inversion(ECI)と、内部ループ後のinvErsion calibRation(ICFIL)を提案する。 ECIは、メタモデルのリアルタイムフィードバックに応じて、擬似エピソードの難易度を適応的に増加させる。 本稿では,ECIを用いたメタトレーニングの最適化過程を,エンド・ツー・エンド方式で近似形式として定式化する。
  論文  参考訳（メタデータ） (2023-03-20T15:10:41Z)
• Robust Meta Learning for Image based tasks [1.1718589131017048]
  よく一般化する機械学習モデルは、目に見えないテスト例で低いエラーを得る必要がある。 本稿では,画像ベースのテストタスクに対して,より堅牢なメタ学習手法を提案する。 実験では、我々のアルゴリズムはより優れた一般化性能を持つだけでなく、未知のテストタスクに対して堅牢であることを示した。
  論文  参考訳（メタデータ） (2023-01-30T07:08:37Z)
• MATE: Masked Autoencoders are Online 3D Test-Time Learners [63.3907730920114]
  MATEは3Dデータ用に設計された最初のTTT(Test-Time-Training)手法である。 テストデータで発生する分散シフトに対して、ポイントクラウド分類のためにトレーニングされたディープネットワークを堅牢にする。
  論文  参考訳（メタデータ） (2022-11-21T13:19:08Z)
• TeST: Test-time Self-Training under Distribution Shift [99.68465267994783]
  Test-Time Self-Training (TeST)は、あるソースデータとテスト時の新しいデータ分散に基づいてトレーニングされたモデルを入力する技術である。 また,TeSTを用いたモデルでは,ベースラインテスト時間適応アルゴリズムよりも大幅に改善されていることがわかった。
  論文  参考訳（メタデータ） (2022-09-23T07:47:33Z)
• CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
  テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。 本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
  論文  参考訳（メタデータ） (2022-06-01T03:02:07Z)
• On-the-Fly Test-time Adaptation for Medical Image Segmentation [63.476899335138164]
  ソースモデルをテスト時にターゲットデータに適応させることは、データシフト問題に対する効率的な解決策である。 本稿では、各畳み込みブロックに適応バッチ正規化層を設けるAdaptive UNetという新しいフレームワークを提案する。 テスト期間中、モデルは新しいテストイメージのみを取り込み、ドメインコードを生成して、テストデータに従ってソースモデルの特徴を適応させる。
  論文  参考訳（メタデータ） (2022-03-10T18:51:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。