論文の概要: A Systems Theory of Transfer Learning
- arxiv url: http://arxiv.org/abs/2107.01196v1
- Date: Fri, 2 Jul 2021 17:25:42 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-05 12:40:03.014385
- Title: A Systems Theory of Transfer Learning
- Title（参考訳）: 転校学習のシステム理論
- Authors: Tyler Cody, Peter A. Beling
- Abstract要約: 我々は、移動学習を集合上の関係として定義するためにメサロヴィッチ系理論を用いる。
次に,伝達学習の一般的な性質を数学的構成として特徴づける。
その定式化にもかかわらず、我々のフレームワークは学習理論の詳細な数学や機械学習の解法を避けている。
- 参考スコア（独自算出の注目度）: 3.5281112495479245
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Existing frameworks for transfer learning are incomplete from a systems
theoretic perspective. They place emphasis on notions of domain and task, and
neglect notions of structure and behavior. In doing so, they limit the extent
to which formalism can be carried through into the elaboration of their
frameworks. Herein, we use Mesarovician systems theory to define transfer
learning as a relation on sets and subsequently characterize the general nature
of transfer learning as a mathematical construct. We interpret existing
frameworks in terms of ours and go beyond existing frameworks to define notions
of transferability, transfer roughness, and transfer distance. Importantly,
despite its formalism, our framework avoids the detailed mathematics of
learning theory or machine learning solution methods without excluding their
consideration. As such, we provide a formal, general systems framework for
modeling transfer learning that offers a rigorous foundation for system design
and analysis.
- Abstract（参考訳）: 伝達学習のための既存のフレームワークは、システム理論の観点から不完全である。
彼らはドメインとタスクの概念を強調し、構造と振舞いの概念を無視する。
そうすることで、形式主義が彼らの枠組みの解明に果たすことができる範囲を制限できる。
ここでは、転移学習を集合上の関係として定義し、その後、転移学習の一般的な性質を数学的構成として特徴づけるメサロヴィッチ系理論を用いる。
既存のフレームワークを私たちの観点で解釈し、トランスファー可能性、転送粗さ、転送距離の概念を定義する既存のフレームワークを越えています。
重要な点は、その形式化にもかかわらず、学習理論の詳細な数学や機械学習の解法を回避し、それらの考察を取り除かないことである。
したがって、システム設計と分析のための厳格な基盤を提供する、転送学習をモデリングするための正式な汎用システムフレームワークを提供する。
関連論文リスト
- Categorical semiotics: Foundations for Knowledge Integration [0.0]
ディープラーニングアーキテクチャの定義と分析のための包括的なフレームワークを開発するという課題に取り組む。
我々の方法論は、ファジィ集合の宇宙の中で解釈されるエルレスマンのスケッチに類似したグラフィカル構造を用いる。
このアプローチは、決定論的および非決定論的ニューラルネットワーク設計の両方をエレガントに包含する統一理論を提供する。
論文 参考訳（メタデータ） (2024-04-01T23:19:01Z) - Fundamental Components of Deep Learning: A category-theoretic approach [0.0]
この論文は、カテゴリ理論の言語に基づく、ディープラーニングのための新しい数学的基礎を発展させている。
我々はまた、既存の多くのアプローチを体系化し、多くの既存の構成と概念を同じ傘の下に置きます。
論文 参考訳（メタデータ） (2024-03-13T01:29:40Z) - Towards a General Framework for Continual Learning with Pre-training [55.88910947643436]
本稿では,事前学習を用いた逐次到着タスクの連続学習のための一般的な枠組みを提案する。
我々はその目的を,タスク内予測,タスク同一性推論,タスク適応予測という3つの階層的構成要素に分解する。
本稿では,パラメータ効率細調整(PEFT)技術と表現統計量を用いて,これらのコンポーネントを明示的に最適化する革新的な手法を提案する。
論文 参考訳（メタデータ） (2023-10-21T02:03:38Z) - Homomorphisms Between Transfer, Multi-Task, and Meta-Learning Systems [0.0]
この写本は、抽象的な学習システムとしてトランスファーラーニング、マルチタスクラーニング、メタラーニングを形式化する。
提示された形式主義を用いて、構成、階層、構造的同型という3つの学習概念を関連づける。
論文 参考訳（メタデータ） (2022-08-04T18:13:59Z) - Mesarovician Abstract Learning Systems [0.0]
学習への現在のアプローチは、根本的な規範として問題領域と課題タスクの概念を持っている。
メサロビアン抽象システム理論は学習の超構造として用いられる。
論文 参考訳（メタデータ） (2021-11-29T18:17:32Z) - Empirically Measuring Transfer Distance for System Design and Operation [2.9864637081333085]
転送学習アルゴリズムには、学習すべき例がほとんどないことを示す。
本稿では, 転送可能な予測モデルを実現するために, マシン再構築手順の設計における転送距離の利用を検討する。
実践者は、コンポーネント学習システムで直面する学習理論上の課題を考慮したシステムの設計と運用に、提示された方法論を利用することができる。
論文 参考訳（メタデータ） (2021-07-02T16:45:58Z) - Formalising Concepts as Grounded Abstractions [68.24080871981869]
このレポートは、表現学習が生データから概念を誘導する方法を示しています。
このレポートの主な技術的目標は、表現学習のテクニックが概念空間の格子理論的定式化とどのように結婚できるかを示すことである。
論文 参考訳（メタデータ） (2021-01-13T15:22:01Z) - Developing Constrained Neural Units Over Time [81.19349325749037]
本稿では,既存のアプローチと異なるニューラルネットワークの定義方法に焦点をあてる。
ニューラルネットワークの構造は、データとの相互作用にも拡張される制約の特別なクラスによって定義される。
提案した理論は時間領域にキャストされ, データを順序づけられた方法でネットワークに提示する。
論文 参考訳（メタデータ） (2020-09-01T09:07:25Z) - Concept Learners for Few-Shot Learning [76.08585517480807]
本研究では,人間の解釈可能な概念次元に沿って学習することで,一般化能力を向上させるメタ学習手法であるCOMETを提案する。
我々は,細粒度画像分類,文書分類,セルタイプアノテーションなど,さまざまな領域からの少数ショットタスクによるモデルの評価を行った。
論文 参考訳（メタデータ） (2020-07-14T22:04:17Z) - Learnability with Indirect Supervision Signals [74.39088325025378]
間接的な監視信号からの学習は、ゴールドラベルが欠落している場合やコストが高すぎる場合、現実世界のAIアプリケーションにおいて重要である。
我々は、ゴールドラベルとゼロでない相互情報を含む変数によって監督が提供される場合に、マルチクラス分類のための統一的な理論フレームワークを開発する。
本フレームワークは文献における仮定を緩和し,未知,非可逆,インスタンス依存のトランジションによる学習を支援する。
論文 参考訳（メタデータ） (2020-06-15T21:57:11Z) - Neuro-symbolic Architectures for Context Understanding [59.899606495602406]
本稿では,データ駆動型アプローチと知識駆動型アプローチの強みを組み合わせたフレームワークとして,ハイブリッドAI手法を提案する。
具体的には、知識ベースを用いて深層ニューラルネットワークの学習過程を導く方法として、ニューロシンボリズムの概念を継承する。
論文 参考訳（メタデータ） (2020-03-09T15:04:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。