論文の概要: High-Order Deep Meta-Learning with Category-Theoretic Interpretation

• arxiv url: http://arxiv.org/abs/2507.02634v1
• Date: Thu, 03 Jul 2025 14:01:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-04 15:37:16.37876
• Title: High-Order Deep Meta-Learning with Category-Theoretic Interpretation
• Title（参考訳）: カテゴリー論的解釈を用いた高次深層メタラーニング
• Authors: David H. Mguni,
• Abstract要約: ニューラルネットワーク(NN)がタスクの階層をまたいだ構築、解決、一般化を可能にする新しい階層型ディープラーニングフレームワークを導入する。 このアプローチの中心は、Emphvirtualタスクを生成する生成メカニズムである。 これにより、フレームワークは独自の情報的タスクグラウンドデータセットを生成することができる。 我々は、このアーキテクチャが、自律的に新しい命令型タスクを生成できる次世代NNの基盤になるかもしれないと推測する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We introduce a new hierarchical deep learning framework for recursive higher-order meta-learning that enables neural networks (NNs) to construct, solve, and generalise across hierarchies of tasks. Central to this approach is a generative mechanism that creates \emph{virtual tasks} -- synthetic problem instances designed to enable the meta-learner to learn \emph{soft constraints} and unknown generalisable rules across related tasks. Crucially, this enables the framework to generate its own informative, task-grounded datasets thereby freeing machine learning (ML) training from the limitations of relying entirely on human-generated data. By actively exploring the virtual point landscape and seeking out tasks lower-level learners find difficult, the meta-learner iteratively refines constraint regions. This enhances inductive biases, regularises the adaptation process, and produces novel, unanticipated tasks and constraints required for generalisation. Each meta-level of the hierarchy corresponds to a progressively abstracted generalisation of problems solved at lower levels, enabling a structured and interpretable learning progression. By interpreting meta-learners as category-theoretic \emph{functors} that generate and condition a hierarchy of subordinate learners, we establish a compositional structure that supports abstraction and knowledge transfer across progressively generalised tasks. The category-theoretic perspective unifies existing meta-learning models and reveals how learning processes can be transformed and compared through functorial relationships, while offering practical design principles for structuring meta-learning. We speculate this architecture may underpin the next generation of NNs capable of autonomously generating novel, instructive tasks and their solutions, thereby advancing ML towards general artificial intelligence.
• Abstract（参考訳）: ニューラルネットワーク(NN)がタスクの階層をまたいだ構築、解決、一般化を可能にする、再帰的な高次メタ学習のための新しい階層的ディープラーニングフレームワークを導入する。 このアプローチの中心は、‘emph{virtual tasks}’ - メタラーナーが‘emph{soft constraints}’を学習できるように設計された合成問題インスタンスと、関連するタスクをまたいだ未知の汎用ルールを生成する生成メカニズムである。 これにより、機械学習(ML)トレーニングを、人間が生成したデータに完全に依存する制限から解放することが可能になる。 仮想点のランドスケープを積極的に探索し、低レベルの学習者を探すことで、メタラーナーは制約領域を反復的に洗練する。 これにより帰納バイアスが増大し、適応プロセスが規則化され、一般化に必要な新しい予期せぬタスクや制約が生み出される。 階層のそれぞれのメタレベルは、下位レベルで解決された問題の漸進的に抽象化された一般化に対応し、構造化され解釈可能な学習の進行を可能にする。 メタラーナーを、下位学習者の階層を生成し、条件づけするカテゴリ理論の「emph{functors}」と解釈することにより、段階的に一般化されたタスク間の抽象化と知識伝達を支援する構成構造を確立する。 カテゴリー論的視点は、既存のメタラーニングモデルを統一し、メタラーニングを構築するための実用的な設計原則を提供しながら、ファンクリアルな関係を通じて学習プロセスがどのように変換され、比較されるかを明らかにする。 我々は、このアーキテクチャが、新しい命令型タスクとそのソリューションを自律的に生成し、汎用人工知能に向けてMLを前進させる次世代NNの基盤となるかもしれないと推測する。

関連論文リスト

• ALPINE: Unveiling the Planning Capability of Autoregressive Learning in Language Models [48.559185522099625]
  計画は人間の知性と現代大言語モデル(LLM)の両方の重要な要素である 本稿では,トランスフォーマーを用いたLLMにおける次の単語予測機構による計画能力の出現について検討する。
  論文  参考訳（メタデータ） (2024-05-15T09:59:37Z)
• Reinforcement Learning with Options and State Representation [105.82346211739433]
  この論文は、強化学習分野を探求し、改良された手法を構築することを目的としている。 階層的強化学習(Hierarchical Reinforcement Learning)として知られる階層的な方法で学習タスクを分解することで、そのような目標に対処する。
  論文  参考訳（メタデータ） (2024-03-16T08:30:55Z)
• Transfering Hierarchical Structure with Dual Meta Imitation Learning [4.868214177205893]
  モデルに依存しないメタ学習を用いて,ハイレベルネットワークとサブスキルを反復的にメタ学習する階層的メタ模倣学習法を提案する。 そこで我々は,Meta-world citemetaworld ベンチマークによる最新の数発の模倣学習性能と,Kitchen 環境の長期タスクにおける競合結果を得た。
  論文  参考訳（メタデータ） (2022-01-28T08:22:38Z)
• Provable Hierarchy-Based Meta-Reinforcement Learning [50.17896588738377]
  HRLをメタRL設定で解析し、下流タスクで使用するメタトレーニング中に学習者が潜在階層構造を学習する。 我々は、この自然階層の標本効率の回復を保証し、抽出可能な楽観主義に基づくアルゴリズムとともに「多様性条件」を提供する。 我々の境界は、時間的・状態的・行動的抽象化などのHRL文献に共通する概念を取り入れており、我々の設定と分析が実際にHRLの重要な特徴を捉えていることを示唆している。
  論文  参考訳（メタデータ） (2021-10-18T17:56:02Z)
• Online Structured Meta-learning [137.48138166279313]
  現在のオンラインメタ学習アルゴリズムは、グローバルに共有されたメタラーナーを学ぶために限られている。 この制限を克服するオンライン構造化メタラーニング(OSML)フレームワークを提案する。 3つのデータセットの実験は、提案フレームワークの有効性と解釈可能性を示している。
  論文  参考訳（メタデータ） (2020-10-22T09:10:31Z)
• Concept Learners for Few-Shot Learning [76.08585517480807]
  本研究では,人間の解釈可能な概念次元に沿って学習することで,一般化能力を向上させるメタ学習手法であるCOMETを提案する。 我々は,細粒度画像分類,文書分類,セルタイプアノテーションなど,さまざまな領域からの少数ショットタスクによるモデルの評価を行った。
  論文  参考訳（メタデータ） (2020-07-14T22:04:17Z)
• Automated Relational Meta-learning [95.02216511235191]
  本稿では,クロスタスク関係を自動的に抽出し,メタ知識グラフを構築する自動リレーショナルメタ学習フレームワークを提案する。 我々は,2次元玩具の回帰と少数ショット画像分類に関する広範な実験を行い,ARMLが最先端のベースラインよりも優れていることを示す。
  論文  参考訳（メタデータ） (2020-01-03T07:02:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。