論文の概要: Bag of Tricks for Out-of-Distribution Generalization

• arxiv url: http://arxiv.org/abs/2208.10722v1
• Date: Tue, 23 Aug 2022 04:15:28 GMT
• ステータス: 処理完了
• システム内更新日: 2022-08-24 12:35:50.035062
• Title: Bag of Tricks for Out-of-Distribution Generalization
• Title（参考訳）: out-of-distribution generalizationのための小技
• Authors: Zining Chen, Weiqiu Wang, Zhicheng Zhao, Aidong Men, Hong Chen
• Abstract要約: Nicochallenge-2022は、さまざまなコンテキスト情報を備えた大規模データセットであるNICO++を提供する。 本稿では,多目的フレームワーク設計,データ拡張,トレーニング,推論戦略などのトリックを結合した,シンプルだが効果的な学習フレームワークを提案する。 我々のアルゴリズムはメモリ効率が高く、複雑なモジュールがなくても容易に装備でき、大規模な事前学習モデルを必要としない。
• 参考スコア（独自算出の注目度）: 20.26558286199593
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recently, out-of-distribution (OOD) generalization has attracted attention to the robustness and generalization ability of deep learning based models, and accordingly, many strategies have been made to address different aspects related to this issue. However, most existing algorithms for OOD generalization are complicated and specifically designed for certain dataset. To alleviate this problem, nicochallenge-2022 provides NICO++, a large-scale dataset with diverse context information. In this paper, based on systematic analysis of different schemes on NICO++ dataset, we propose a simple but effective learning framework via coupling bag of tricks, including multi-objective framework design, data augmentations, training and inference strategies. Our algorithm is memory-efficient and easily-equipped, without complicated modules and does not require for large pre-trained models. It achieves an excellent performance with Top-1 accuracy of 88.16% on public test set and 75.65% on private test set, and ranks 1st in domain generalization task of nicochallenge-2022.
• Abstract（参考訳）: 近年,分散化(ood)が深層学習に基づくモデルの堅牢性と一般化能力に注目されているため,この問題に関連するさまざまな側面に対処するための戦略が数多く提案されている。 しかし、OOD一般化のための既存のアルゴリズムのほとんどは複雑で、特定のデータセット用に特別に設計されている。 この問題を軽減するため、Nicochallenge-2022はNICO++を提供する。 本稿では,nico++データセットの異なるスキームの系統的解析に基づいて,多目的フレームワーク設計,データ拡張,トレーニング,推論戦略など,多数のトリックを結合することで,単純かつ効果的な学習フレームワークを提案する。 本アルゴリズムはメモリ効率が高く,複雑なモジュールを伴わず,大規模な事前学習モデルを必要としない。 パブリックテストセットでは88.16%、プライベートテストセットでは75.65%というtop-1精度で優れた性能を達成し、nicochallenge-2022のドメイン一般化タスクでは1位である。

関連論文リスト

• OOD-Chameleon: Is Algorithm Selection for OOD Generalization Learnable? [18.801143204410913]
  OOD一般化のためのアルゴリズム選択のタスクを形式化し、学習によってアプローチできるかどうかを検討する。 我々は,OOD-Chameleonと呼ばれる手法を提案し,そのタスクを候補アルゴリズムに対する教師付き分類として扱う。 データセットの特徴からアルゴリズムの相対的な性能を予測するためにモデルを訓練する。
  論文  参考訳（メタデータ） (2024-10-03T17:52:42Z)
• Multi-Task Learning for Routing Problem with Cross-Problem Zero-Shot Generalization [18.298695520665348]
  車両ルーティング問題(VRP)は多くの現実世界のアプリケーションで見られる。 本研究では,クロスプロブレム一般化という重要な課題に取り組むための最初の試みを行う。 提案モデルでは、ゼロショットの一般化方式で、見当たらない属性の組み合わせでVRPを解くことができる。
  論文  参考訳（メタデータ） (2024-02-23T13:25:23Z)
• Back to Basics: A Simple Recipe for Improving Out-of-Domain Retrieval in Dense Encoders [63.28408887247742]
  得られたモデルにおいて,より優れた一般化能力を得るために,トレーニング手順の改善が可能であるかを検討する。 我々は、高密度エンコーダをトレーニングするための簡単なレシピを推奨する: LoRAのようなパラメータ効率のよいMSMARCOのトレーニング。
  論文  参考訳（メタデータ） (2023-11-16T10:42:58Z)
• Large-scale Fully-Unsupervised Re-Identification [78.47108158030213]
  大規模未ラベルデータから学ぶための2つの戦略を提案する。 第1の戦略は、近傍関係に違反することなく、それぞれのデータセットサイズを減らすために、局所的な近傍サンプリングを行う。 第2の戦略は、低時間上限の複雑さを持ち、メモリの複雑さを O(n2) から O(kn) に k n で還元する新しい再帰的手法を利用する。
  論文  参考訳（メタデータ） (2023-07-26T16:19:19Z)
• Representation Learning with Multi-Step Inverse Kinematics: An Efficient and Optimal Approach to Rich-Observation RL [106.82295532402335]
  既存の強化学習アルゴリズムは、計算的難易度、強い統計的仮定、最適なサンプルの複雑さに悩まされている。 所望の精度レベルに対して、レート最適サンプル複雑性を実現するための、最初の計算効率の良いアルゴリズムを提供する。 我々のアルゴリズムMusIKは、多段階の逆運動学に基づく表現学習と体系的な探索を組み合わせる。
  論文  参考訳（メタデータ） (2023-04-12T14:51:47Z)
• NEVIS'22: A Stream of 100 Tasks Sampled from 30 Years of Computer Vision Research [96.53307645791179]
  我々は,100以上の視覚的分類タスクのストリームからなるベンチマークであるNever-Ending VIsual-classification Stream (NEVIS'22)を紹介する。 分類に制限されているにもかかわらず、OCR、テクスチャ分析、シーン認識など、様々なタスクが生成される。 NEVIS'22は、タスクの規模と多様性のために、現在のシーケンシャルな学習アプローチに対して前例のない課題を提起している。
  論文  参考訳（メタデータ） (2022-11-15T18:57:46Z)
• Unified Algorithms for RL with Decision-Estimation Coefficients: PAC, Reward-Free, Preference-Based Learning, and Beyond [28.118197762236953]
  我々は,大規模な学習目標のための統一的なアルゴリズムフレームワークを開発する。 我々のフレームワークは、非回帰RL、PAC RL、報酬なし学習、モデル推定、嗜好に基づく学習など、多くの学習目標を処理する。 応用として、一般化されたDECを有界化するための自然な十分条件として「分解可能表現」を提案する。
  論文  参考訳（メタデータ） (2022-09-23T17:47:24Z)
• ImitAL: Learning Active Learning Strategies from Synthetic Data [14.758287202278918]
  アクティブラーニングはラベル付きデータを効率的に取得するためのよく知られた標準手法である。 我々は、ALを学習からランクへの問題としてエンコードする新しいクエリ戦略であるImitALを提案する。 このアプローチは他のほとんどの戦略、特に非常に大規模なデータセットよりも実行時パフォーマンスが高いことを示す。
  論文  参考訳（メタデータ） (2021-08-17T15:03:31Z)
• Transductive Few-Shot Learning: Clustering is All You Need? [31.21306826132773]
  そこで本研究では,プロトタイプをベースとした超越的数ショット学習の汎用的定式化について検討する。 提案手法は, 精度と最適化の観点から, 大きな問題にスケールアップしながら, 競争性能を向上する。 驚いたことに、私たちの一般的なモデルは、最先端の学習と比較して、すでに競争力のあるパフォーマンスを実現しています。
  論文  参考訳（メタデータ） (2021-06-16T16:14:01Z)
• Semi-Supervised Learning with Meta-Gradient [123.26748223837802]
  半教師付き学習における簡単なメタ学習アルゴリズムを提案する。 その結果,提案アルゴリズムは最先端の手法に対して良好に動作することがわかった。
  論文  参考訳（メタデータ） (2020-07-08T08:48:56Z)
• Novel Human-Object Interaction Detection via Adversarial Domain Generalization [103.55143362926388]
  本研究では,新たな人-物間相互作用(HOI)検出の問題点を考察し,モデルの一般化能力を向上させることを目的とした。 この課題は、主に対象と述語の大きな構成空間に起因し、全ての対象と述語の組み合わせに対する十分な訓練データが欠如している。 本稿では,予測のためのオブジェクト指向不変の特徴を学習するために,対数領域の一般化の統一的な枠組みを提案する。
  論文  参考訳（メタデータ） (2020-05-22T22:02:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。