論文の概要: Learning Abstract Task Representations

• arxiv url: http://arxiv.org/abs/2101.07852v3
• Date: Thu, 28 Jan 2021 20:07:20 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-22 12:50:36.388786
• Title: Learning Abstract Task Representations
• Title（参考訳）: 抽象的タスク表現の学習
• Authors: Mikhail M. Meskhi, Adriano Rivolli, Rafael G. Mantovani, Ricardo Vilalta
• Abstract要約: 深層ニューラルネットワークにおける潜伏変数としての新しい抽象メタ特徴を誘導する手法を提案する。 深層ニューラルネットワークを特徴抽出器として用いた手法を実証する。
• 参考スコア（独自算出の注目度）: 0.6690874707758511
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A proper form of data characterization can guide the process of learning-algorithm selection and model-performance estimation. The field of meta-learning has provided a rich body of work describing effective forms of data characterization using different families of meta-features (statistical, model-based, information-theoretic, topological, etc.). In this paper, we start with the abundant set of existing meta-features and propose a method to induce new abstract meta-features as latent variables in a deep neural network. We discuss the pitfalls of using traditional meta-features directly and argue for the importance of learning high-level task properties. We demonstrate our methodology using a deep neural network as a feature extractor. We demonstrate that 1) induced meta-models mapping abstract meta-features to generalization performance outperform other methods by ~18% on average, and 2) abstract meta-features attain high feature-relevance scores.
• Abstract（参考訳）: データキャラクタリゼーションの適切な形態は、学習アルゴリズムの選択とモデル性能推定のプロセスを導くことができる。 メタラーニングの分野は、さまざまなメタ特徴(統計学、モデルベース、情報理論、トポロジーなど)を用いた効果的なデータキャラクタリゼーション形式を記述する豊富な研究体系を提供している。 本稿では,既存のメタ機能集合から始め,深層ニューラルネットワークにおける潜伏変数としての新たな抽象メタ機能を実現する手法を提案する。 従来のメタ機能を直接使用する際の落とし穴について論じ、ハイレベルなタスク特性の学習の重要性を論じる。 機能抽出器としてディープニューラルネットワークを用いた手法を実証する。 1) 抽象メタモデルによる抽象メタモデルマッピングにより, 平均18%程度の性能が向上し, 2) 抽象メタモデルでは高い特徴値が得られた。

関連論文リスト

• Dynamics of Meta-learning Representation in the Teacher-student Scenario [8.099691748821114]
  グラディエントベースのメタ学習アルゴリズムは、限られたデータを使って新しいタスクでモデルをトレーニングできることで人気を集めている。 本研究では,教師・学生シナリオにおけるストリーミングタスクを訓練した非線形2層ニューラルネットワークのメタラーニングダイナミクスについて検討する。
  論文  参考訳（メタデータ） (2024-08-22T16:59:32Z)
• Automatic learning algorithm selection for classification via convolutional neural networks [0.0]
  本研究の目的は,メタ機能を特定することなく,データ固有の構造を学習することである。 シミュレーションデータセットを用いた実験により, 線形および非線形パターンの同定において, 提案手法がほぼ完璧な性能を発揮することが示された。
  論文  参考訳（メタデータ） (2023-05-16T01:57:01Z)
• Deep networks for system identification: a Survey [56.34005280792013]
  システム識別は、入力出力データから動的システムの数学的記述を学習する。 同定されたモデルの主な目的は、以前の観測から新しいデータを予測することである。 我々は、フィードフォワード、畳み込み、リカレントネットワークなどの文献で一般的に採用されているアーキテクチャについて論じる。
  論文  参考訳（メタデータ） (2023-01-30T12:38:31Z)
• MARS: Meta-Learning as Score Matching in the Function Space [79.73213540203389]
  本稿では,一連の関連するデータセットから帰納バイアスを抽出する手法を提案する。 機能的ベイズニューラルネットワーク推論を用いて、前者をプロセスとみなし、関数空間で推論を行う。 本手法は,データ生成プロセスのスコア関数をメタラーニングすることにより,複雑な事前知識をシームレスに獲得し,表現することができる。
  論文  参考訳（メタデータ） (2022-10-24T15:14:26Z)
• Meta-Learning with Self-Improving Momentum Target [72.98879709228981]
  メタラーナーの性能を向上させるために,SiMT(Self-improving Momentum Target)を提案する。 SiMTはメタラーナーの時間アンサンブルから適応してターゲットモデルを生成する。 我々は、SiMTが幅広いメタ学習手法と組み合わせることで、大きなパフォーマンス向上をもたらすことを示す。
  論文  参考訳（メタデータ） (2022-10-11T06:45:15Z)
• Towards Open-World Feature Extrapolation: An Inductive Graph Learning Approach [80.8446673089281]
  グラフ表現と学習を伴う新しい学習パラダイムを提案する。 本フレームワークは,1) 下位モデルとしてのバックボーンネットワーク(フィードフォワードニューラルネットなど)が,予測ラベルの入力および出力として機能を取り,2) 上位モデルとしてのグラフニューラルネットワークが,観測データから構築された特徴データグラフをメッセージパッシングすることで,新機能の埋め込みを外挿することを学ぶ。
  論文  参考訳（メタデータ） (2021-10-09T09:02:45Z)
• Meta-Learning with Fewer Tasks through Task Interpolation [67.03769747726666]
  現在のメタ学習アルゴリズムは多数のメタトレーニングタスクを必要としており、実際のシナリオではアクセスできない可能性がある。 タスクグラデーションを用いたメタラーニング(MLTI)により,タスクのペアをランダムにサンプリングし,対応する特徴やラベルを補間することにより,タスクを効果的に生成する。 実証的な実験では,提案する汎用MLTIフレームワークが代表的なメタ学習アルゴリズムと互換性があり,他の最先端戦略を一貫して上回っていることがわかった。
  論文  参考訳（メタデータ） (2021-06-04T20:15:34Z)
• Predicting Scores of Medical Imaging Segmentation Methods with Meta-Learning [0.30458514384586394]
  異なる臓器とモダリティの10つのデータセットにまたがるセグメンテーションのメタラーニングについて検討した。 我々は,メタ機能と先行モデルの性能の関係を学習するために,ベクトル回帰とディープニューラルネットワークをサポートする。 これらの結果は,医療画像におけるメタラーニングの可能性を示している。
  論文  参考訳（メタデータ） (2020-05-08T07:47:52Z)
• Unraveling Meta-Learning: Understanding Feature Representations for Few-Shot Tasks [55.66438591090072]
  メタラーニングの基礎となる力学と、メタラーニングを用いて訓練されたモデルと古典的に訓練されたモデルの違いをよりよく理解する。 数ショット分類のための標準訓練ルーチンの性能を高める正則化器を開発した。
  論文  参考訳（メタデータ） (2020-02-17T03:18:45Z)
• Towards explainable meta-learning [5.802346990263708]
  メタラーニングは、さまざまな機械学習アルゴリズムが幅広い予測タスクでどのように機能するかを発見することを目的としている。 State of the Artアプローチは、最高のメタモデルを探すことに重点を置いているが、これらの異なる側面がパフォーマンスにどのように貢献するかは説明していない。 ブラックボックスサロゲートモデルから知識を抽出するために,eXplainable Artificial Intelligence (XAI) のために開発された手法を提案する。
  論文  参考訳（メタデータ） (2020-02-11T09:42:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。