論文の概要: Truly Self-Improving Agents Require Intrinsic Metacognitive Learning

• arxiv url: http://arxiv.org/abs/2506.05109v1
• Date: Thu, 05 Jun 2025 14:53:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-06 21:53:49.771163
• Title: Truly Self-Improving Agents Require Intrinsic Metacognitive Learning
• Title（参考訳）: 真に自己改善するエージェントは固有のメタ認知学習を必要とする
• Authors: Tennison Liu, Mihaela van der Schaar,
• Abstract要約: 自己改善エージェントは、最小限の監督で継続的に新しい能力を取得することを目的としている。 現在のアプローチは2つの重要な制限に直面している。自己改善プロセスは、しばしば厳格であり、タスクドメイン全体にわたって一般化できない。 我々は、効果的な自己改善は、エージェントの本質的な能力として定義された固有のメタ認知学習を必要とし、自身の学習プロセスを積極的に評価し、反映し、適応させる。
• 参考スコア（独自算出の注目度）: 59.60803539959191
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Self-improving agents aim to continuously acquire new capabilities with minimal supervision. However, current approaches face two key limitations: their self-improvement processes are often rigid, fail to generalize across tasks domains, and struggle to scale with increasing agent capabilities. We argue that effective self-improvement requires intrinsic metacognitive learning, defined as an agent's intrinsic ability to actively evaluate, reflect on, and adapt its own learning processes. Drawing inspiration from human metacognition, we introduce a formal framework comprising three components: metacognitive knowledge (self-assessment of capabilities, tasks, and learning strategies), metacognitive planning (deciding what and how to learn), and metacognitive evaluation (reflecting on learning experiences to improve future learning). Analyzing existing self-improving agents, we find they rely predominantly on extrinsic metacognitive mechanisms, which are fixed, human-designed loops that limit scalability and adaptability. Examining each component, we contend that many ingredients for intrinsic metacognition are already present. Finally, we explore how to optimally distribute metacognitive responsibilities between humans and agents, and robustly evaluate and improve intrinsic metacognitive learning, key challenges that must be addressed to enable truly sustained, generalized, and aligned self-improvement.
• Abstract（参考訳）: 自己改善エージェントは、最小限の監督で継続的に新しい能力を取得することを目的としている。 しかしながら、現在のアプローチは2つの重要な制限に直面している。自己改善プロセスは、しばしば厳格であり、タスク領域をまたいだ一般化に失敗し、エージェント能力の増大に苦慮している。 我々は、効果的な自己改善は、エージェントの本質的な能力として定義された固有のメタ認知学習を必要とし、自身の学習プロセスを積極的に評価し、反映し、適応させる。 メタ認知的知識(能力・タスク・学習戦略の自己評価)、メタ認知的計画(何と学習方法の決定)、メタ認知的評価(学習経験の反映)という3つの要素からなる形式的枠組みを導入する。 既存の自己改善エージェントを分析したところ、それらは、スケーラビリティと適応性を制限する固定された人間設計のループである外在的メタ認知メカニズムに大きく依存していることがわかった。 それぞれの成分を調べた結果,本態性メタ認知の材料はすでに多数存在することが示唆された。 最後に、人間とエージェントの間でメタ認知責任を最適に分配し、本質的なメタ認知学習をしっかりと評価し、改善する方法について検討する。

関連論文リスト

• Advances and Challenges in Foundation Agents: From Brain-Inspired Intelligence to Evolutionary, Collaborative, and Safe Systems [133.45145180645537]
  大規模言語モデル(LLM)の出現は、人工知能の変革的シフトを触媒している。 これらのエージェントがAI研究と実践的応用をますます推進するにつれて、その設計、評価、継続的な改善は複雑で多面的な課題を呈している。 この調査は、モジュール化された脳にインスパイアされたアーキテクチャ内でインテリジェントエージェントをフレーミングする、包括的な概要を提供する。
  論文  参考訳（メタデータ） (2025-03-31T18:00:29Z)
• Autotelic Reinforcement Learning: Exploring Intrinsic Motivations for Skill Acquisition in Open-Ended Environments [1.104960878651584]
  本稿では, 自己強化学習(RL)の概要を概観し, スキルレパートリーのオープンエンド形成における本質的モチベーションの役割を強調した。 知識ベースと能力ベースの本質的なモチベーションの区別を明確にし、これらの概念が自己定義目標を生成・追求できる自律エージェントの開発にどのように役立つかを説明する。
  論文  参考訳（メタデータ） (2025-02-06T14:37:46Z)
• Metacognition for Unknown Situations and Environments (MUSE) [3.2020845462590697]
  未知の状況と環境(MUSE)フレームワークのメタ認知を提案する。 MUSEはメタ認知プロセス、特に自己認識と自己制御を自律エージェントに統合する。 エージェントは自己認識と自己制御の大幅な改善を示す。
  論文  参考訳（メタデータ） (2024-11-20T18:41:03Z)
• KIX: A Knowledge and Interaction-Centric Metacognitive Framework for Task Generalization [2.4214136080186233]
  我々は、型空間を利用したオブジェクトとの相互作用は、伝達可能な相互作用の概念と一般化の学習を促進すると論じる。 これは知識を強化学習に統合する自然な方法であり、人工知能システムにおける自律的および汎用的な行動の実現手段として機能することを約束している。
  論文  参考訳（メタデータ） (2024-02-08T01:41:28Z)
• A Definition of Continual Reinforcement Learning [69.56273766737527]
  強化学習問題の標準的な見方では、エージェントの目標は、長期的な報酬を最大化するポリシーを効率的に識別することである。 継続的強化学習とは、最高のエージェントが決して学習をやめない状態を指す。 エージェントの分析とカタログ化のための新しい数学的言語を通じて「学習をやめることはない」エージェントの概念を定式化する。
  論文  参考訳（メタデータ） (2023-07-20T17:28:01Z)
• Incremental procedural and sensorimotor learning in cognitive humanoid robots [52.77024349608834]
  本研究は,手順を段階的に学習する認知エージェントを提案する。 各サブステージで必要とされる認知機能と, エージェントが未解決の課題に, 新たな機能の追加がどう対処するかを示す。 結果は、このアプローチが複雑なタスクを段階的に解くことができることを示している。
  論文  参考訳（メタデータ） (2023-04-30T22:51:31Z)
• Define, Evaluate, and Improve Task-Oriented Cognitive Capabilities for Instruction Generation Models [5.975913042883176]
  最近の研究は、人間のために設計された心理学的テストを通して言語モデルの認知能力を研究する。 我々は、言語モデルがタスクを実行するために利用する人間のような認知能力であるタスク指向認知能力を定式化する。
  論文  参考訳（メタデータ） (2022-12-21T04:43:19Z)
• AGENT: A Benchmark for Core Psychological Reasoning [60.35621718321559]
  直観心理学は、観察可能な行動を駆動する隠された精神変数を推論する能力です。 他のエージェントを推論する機械エージェントに対する近年の関心にもかかわらず、そのようなエージェントが人間の推論を駆動するコア心理学の原則を学ぶか保持するかは明らかではない。 本稿では,プロシージャが生成する3dアニメーション,エージェントを4つのシナリオで構成したベンチマークを提案する。
  論文  参考訳（メタデータ） (2021-02-24T14:58:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。