論文の概要: Informed Meta-Learning
- arxiv url: http://arxiv.org/abs/2402.16105v1
- Date: Sun, 25 Feb 2024 15:08:37 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-27 15:25:27.311941
- Title: Informed Meta-Learning
- Title（参考訳）: インフォームドメタラーニング
- Authors: Katarzyna Kobalczyk, Mihaela van der Schaar
- Abstract要約: メタラーニングとインシデントMLは、事前知識をMLパイプラインに組み込むための2つのアプローチとして際立っている。
本稿では,タスク間の知識共有の相補性を求める,メタラーニングのための新しいハイブリッドパラダイムを提案する。
観測騒音に対するデータ効率とロバスト性を改善する上で,情報メタラーニングの潜在的な利点を実証する。
- 参考スコア（独自算出の注目度）: 65.268245109828
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In noisy and low-data regimes prevalent in real-world applications, an
outstanding challenge of machine learning lies in effectively incorporating
inductive biases that promote data efficiency and robustness. Meta-learning and
informed ML stand out as two approaches for incorporating prior knowledge into
the ML pipeline. While the former relies on a purely data-driven source of
priors, the latter is guided by a formal representation of expert knowledge.
This paper introduces a novel hybrid paradigm, informed meta-learning, seeking
complementarity in cross-task knowledge sharing of humans and machines. We
establish the foundational components of informed meta-learning and present a
concrete instantiation of this framework--the Informed Neural Process. Through
a series of illustrative and larger-scale experiments, we demonstrate the
potential benefits of informed meta-learning in improving data efficiency and
robustness to observational noise, task distribution shifts, and heterogeneity.
- Abstract（参考訳）: 現実のアプリケーションで一般的なノイズや低データのレシエーションでは、機械学習の際立った課題は、データ効率と堅牢性を促進する誘導バイアスを効果的に取り入れることである。
メタラーニングとインシデントMLは、事前知識をMLパイプラインに組み込むための2つのアプローチとして際立っている。
前者は純粋にデータ駆動の事前情報源に依存しているが、後者は専門知識の形式的な表現によって導かれる。
本稿では,人間と機械のクロスタスク知識共有における相補性を求める,新しいハイブリッドパラダイムを提案する。
我々は,情報メタ学習の基礎的構成要素を確立し,この枠組みの具体的インスタンス化を示す。
本研究では,データ効率と観測ノイズに対するロバスト性,タスク分散シフト,不均一性を改善する上で,インフォームドメタラーニングの潜在的メリットを実証する。
関連論文リスト
- Multi-Stage Knowledge Integration of Vision-Language Models for Continual Learning [79.46570165281084]
蒸留法における人間の学習過程をエミュレートするマルチステージ知識統合ネットワーク(MulKI)を提案する。
Mulkiは、イデオロギーの排除、新しいイデオロギーの追加、イデオロギーの排除、コネクティクスの作りという4つの段階を通じてこれを達成している。
提案手法は,下流タスク間の連続学習をサポートしながら,ゼロショット能力の維持における大幅な改善を示す。
論文 参考訳（メタデータ） (2024-11-11T07:36:19Z) - A Unified Framework for Continual Learning and Machine Unlearning [9.538733681436836]
継続的学習と機械学習は機械学習において重要な課題であり、通常は別々に対処される。
制御された知識蒸留を活用することによって,両課題に共同で取り組む新しい枠組みを導入する。
我々のアプローチは、最小限の忘れ込みと効果的な標的未学習で効率的な学習を可能にする。
論文 参考訳（メタデータ） (2024-08-21T06:49:59Z) - Concept Discovery for Fast Adapatation [42.81705659613234]
データ特徴間の構造をメタラーニングすることで、より効果的な適応を実現する。
提案手法は,概念ベースモデル非依存メタラーニング(COMAML)を用いて,合成されたデータセットと実世界のデータセットの両方に対して,構造化データの一貫した改善を実現する。
論文 参考訳（メタデータ） (2023-01-19T02:33:58Z) - Learning and Retrieval from Prior Data for Skill-based Imitation
Learning [47.59794569496233]
従来のデータから時間的に拡張された感触者スキルを抽出する,スキルベースの模倣学習フレームワークを開発した。
新規タスクの性能を著しく向上させる重要な設計選択をいくつか挙げる。
論文 参考訳（メタデータ） (2022-10-20T17:34:59Z) - Learning with Limited Samples -- Meta-Learning and Applications to
Communication Systems [46.760568562468606]
メタ学習は、新しいタスクに迅速に適応できる学習アルゴリズムを最適化する。
このレビュー・モノグラフは、原則、アルゴリズム、理論、工学的応用をカバーし、メタラーニングの紹介を提供する。
論文 参考訳（メタデータ） (2022-10-03T17:15:36Z) - Knowledge-Aware Meta-learning for Low-Resource Text Classification [87.89624590579903]
本稿では,低リソーステキスト分類問題について検討し,メタトレーニングとメタテストのギャップを埋める。
抽出した文固有知識グラフから学習した各文に対する追加表現を提案する。
論文 参考訳（メタデータ） (2021-09-10T07:20:43Z) - Online Structured Meta-learning [137.48138166279313]
現在のオンラインメタ学習アルゴリズムは、グローバルに共有されたメタラーナーを学ぶために限られている。
この制限を克服するオンライン構造化メタラーニング(OSML)フレームワークを提案する。
3つのデータセットの実験は、提案フレームワークの有効性と解釈可能性を示している。
論文 参考訳（メタデータ） (2020-10-22T09:10:31Z) - Automated Relational Meta-learning [95.02216511235191]
本稿では,クロスタスク関係を自動的に抽出し,メタ知識グラフを構築する自動リレーショナルメタ学習フレームワークを提案する。
我々は,2次元玩具の回帰と少数ショット画像分類に関する広範な実験を行い,ARMLが最先端のベースラインよりも優れていることを示す。
論文 参考訳（メタデータ） (2020-01-03T07:02:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。