論文の概要: Winning solutions and post-challenge analyses of the ChaLearn AutoDL challenge 2019

• arxiv url: http://arxiv.org/abs/2201.03801v1
• Date: Tue, 11 Jan 2022 06:21:18 GMT
• ステータス: 処理完了
• システム内更新日: 2022-01-12 13:55:32.505699
• Title: Winning solutions and post-challenge analyses of the ChaLearn AutoDL challenge 2019
• Title（参考訳）: chalearn autodl challenge 2019の勝利ソリューションとチャレンジ後の分析
• Authors: Zhengying Liu, Adrien Pavao, Zhen Xu, Sergio Escalera, Fabio Ferreira, Isabelle Guyon, Sirui Hong, Frank Hutter, Rongrong Ji, Julio C. S. Jacques Junior, Ge Li, Marius Lindauer, Zhipeng Luo, Meysam Madadi, Thomas Nierhoff, Kangning Niu, Chunguang Pan, Danny Stoll, Sebastien Treguer, Jin Wang, Peng Wang, Chenglin Wu, Youcheng Xiong, Arbe r Zela, Yang Zhang
• Abstract要約: 本稿では,ChaLearnのAutoDLチャレンジシリーズの結果と今後の課題について述べる。 その結果,一般的なニューラルネットワーク探索(NAS)は実用的ではなかったものの,DL手法が支配的であったことが示唆された。 メタラーナー"、"データインジェクタ"、"モデルセレクタ"、"モデル/ラーナー"、"評価器"を特徴とする、ハイレベルなモジュール化組織が登場した。
• 参考スコア（独自算出の注目度）: 112.36155380260655
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper reports the results and post-challenge analyses of ChaLearn's AutoDL challenge series, which helped sorting out a profusion of AutoML solutions for Deep Learning (DL) that had been introduced in a variety of settings, but lacked fair comparisons. All input data modalities (time series, images, videos, text, tabular) were formatted as tensors and all tasks were multi-label classification problems. Code submissions were executed on hidden tasks, with limited time and computational resources, pushing solutions that get results quickly. In this setting, DL methods dominated, though popular Neural Architecture Search (NAS) was impractical. Solutions relied on fine-tuned pre-trained networks, with architectures matching data modality. Post-challenge tests did not reveal improvements beyond the imposed time limit. While no component is particularly original or novel, a high level modular organization emerged featuring a "meta-learner", "data ingestor", "model selector", "model/learner", and "evaluator". This modularity enabled ablation studies, which revealed the importance of (off-platform) meta-learning, ensembling, and efficient data management. Experiments on heterogeneous module combinations further confirm the (local) optimality of the winning solutions. Our challenge legacy includes an ever-lasting benchmark (http://autodl.chalearn.org), the open-sourced code of the winners, and a free "AutoDL self-service".
• Abstract（参考訳）: 本稿では,ChaLearn氏のAutoDLチャレンジシリーズの結果と,さまざまな環境で導入されてきたディープラーニング(DL)のためのAutoMLソリューションの拡散のソートを支援するが,公正な比較は得られなかった。 全ての入力データモダリティ(時系列、画像、ビデオ、テキスト、表計算)はテンソルとしてフォーマットされ、全てのタスクはマルチラベルの分類問題であった。 コード提出は、限られた時間と計算資源で隠れたタスクで実行され、素早く結果を得るソリューションをプッシュした。 この設定では、一般的なニューラルネットワークサーチ(NAS)は実用的ではなかったが、DLメソッドが支配的であった。 ソリューションは、データモダリティにマッチするアーキテクチャを備えた、微調整済みのネットワークに依存していた。 チャレンジ後のテストでは、制限時間を超える改善は示されなかった。 コンポーネントは特にオリジナルでも新しいものでもないが、"meta-learner"、"data ingestor"、"model selector"、"model/learner"、"evaluator"を特徴とするハイレベルなモジュール化組織が登場した。 このモジュラリティによってアブレーション研究が可能となり、(プラットフォーム外の)メタラーニング、センシング、効率的なデータ管理の重要性が明らかになった。 異種モジュールの組み合わせに関する実験は、勝利した解の(局所的な)最適性をさらに確認する。 私たちの課題には、継続するベンチマーク(http://autodl.chalearn.org)、勝者のオープンソースコード、無償の"AutoDLセルフサービス"が含まれています。

関連論文リスト

• Adapting Vision-Language Models to Open Classes via Test-Time Prompt Tuning [50.26965628047682]
  学習済みのモデルをオープンクラスに適応させることは、機械学習において難しい問題である。 本稿では,両者の利点を組み合わせたテスト時プロンプトチューニング手法を提案する。 提案手法は,基本クラスと新クラスの両方を考慮し,すべての比較手法を平均的に上回る結果を得た。
  論文  参考訳（メタデータ） (2024-08-29T12:34:01Z)
• Online Analytic Exemplar-Free Continual Learning with Large Models for Imbalanced Autonomous Driving Task [25.38082751323396]
  AEF-OCL (Analytic Exemplar-Free Online Continual Learning Algorithm) を提案する。 AEF-OCLは解析的連続学習原理を活用し、大きなバックボーンネットワークによって抽出された特徴の分類器としてリッジ回帰を用いる。 実験結果から, 自動走行SODA10Mデータセットにおいて, 提案手法は, 既往の戦略であるにもかかわらず, 様々な手法より優れていることが示された。
  論文  参考訳（メタデータ） (2024-05-28T03:19:15Z)
• Challenging Forgets: Unveiling the Worst-Case Forget Sets in Machine Unlearning [9.998859702421417]
  マシン・アンラーニング(MU)は、選択したデータポイントがモデルの性能に与える影響を排除することを目的としている。 データ影響消去のための様々なMU手法にもかかわらず、評価は主にランダムなデータの忘れ方に焦点を当てている。 本稿では,影響消去の最も重要な課題を示すデータサブセットの同定を提案する。
  論文  参考訳（メタデータ） (2024-03-12T06:50:32Z)
• Your Vision-Language Model Itself Is a Strong Filter: Towards High-Quality Instruction Tuning with Data Selection [59.11430077029321]
  視覚言語モデル(VLM)のための新しいデータセット選択手法であるSelf-Filterを導入する。 第1段階では、VLMと共同で学習する訓練指導の難しさを評価するためのスコアリングネットワークを考案する。 第2段階では、トレーニングされたスコアネットを使用して、各命令の難易度を測定し、最も難しいサンプルを選択し、類似したサンプルをペナルティ化し、多様性を促進する。
  論文  参考訳（メタデータ） (2024-02-19T20:08:48Z)
• A Challenge in Reweighting Data with Bilevel Optimization [11.910900792664288]
  バイレベルソルバは、モデルパラメータとデータウェイトの両方を同時に学習するウォームスタート戦略に基づいている。 このジョイントダイナミクスは、最終的なデータの重み付けが極めて少ない準最適解に繋がる可能性があることを示す。 この発見は、データ再重み付けの難しさを浮き彫りにしており、この方法が実際に使われない理由を手がかりにしている。
  論文  参考訳（メタデータ） (2023-10-26T13:33:26Z)
• Modular Neural Network Approaches for Surgical Image Recognition [0.0]
  本稿では,DCSS不安定性分類のためのモジュール型学習の異なるアーキテクチャを導入,評価する。 実験の結果,モジュール型学習は非モジュール型システムと比較して性能が向上することがわかった。 第2部では,肩関節鏡画像への自己訓練によるデータラベリングとセグメンテーションのアプローチを提案する。
  論文  参考訳（メタデータ） (2023-07-17T22:28:16Z)
• MT3: Meta Test-Time Training for Self-Supervised Test-Time Adaption [69.76837484008033]
  ディープラーニングの未解決の問題は、ニューラルネットワークがテスト時間中のドメインシフトに対処する能力である。 メタラーニング、自己監督、テストタイムトレーニングを組み合わせて、目に見えないテスト分布に適応する方法を学びます。 この手法はcifar-10による画像分類ベンチマークの最先端結果を大幅に改善する。
  論文  参考訳（メタデータ） (2021-03-30T09:33:38Z)
• Fast Few-Shot Classification by Few-Iteration Meta-Learning [173.32497326674775]
  数ショット分類のための高速な最適化に基づくメタラーニング手法を提案する。 我々の戦略はメタ学習において学習すべき基礎学習者の目的の重要な側面を可能にする。 我々は、我々のアプローチの速度と効果を実証し、総合的な実験分析を行う。
  論文  参考訳（メタデータ） (2020-10-01T15:59:31Z)
• Puzzle-AE: Novelty Detection in Images through Solving Puzzles [8.999416735254586]
  U-Netはこの目的のために有効であることが証明されているが、他のAEベースのフレームワークと同様の再構成エラーを使用することでトレーニングデータに過度に適合する。 この課題に基づいてU-Netをトレーニングすることは、過剰適合を防止し、ピクセルレベルの機能を超えた学習を容易にする効果的な治療法であることを示す。 本稿では,効率的な自動ショートカット除去法として,対向的ロバストトレーニングを提案する。
  論文  参考訳（メタデータ） (2020-08-29T10:53:55Z)
• ManyModalQA: Modality Disambiguation and QA over Diverse Inputs [73.93607719921945]
  本稿では, エージェントが3つの異なるモダリティを考慮し, 質問に答えなければならない, マルチモーダルな質問応答課題, ManyModalQAを提案する。 われわれはウィキペディアをスクラップしてデータを収集し、クラウドソーシングを利用して質問と回答のペアを収集する。
  論文  参考訳（メタデータ） (2020-01-22T14:39:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。