論文の概要: Metacognition Should Be the Scientific Framework for Bounded and Effective Self-Governance in Generative AI

• arxiv url: http://arxiv.org/abs/2605.23981v1
• Date: Wed, 13 May 2026 23:40:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-01 02:55:42.99734
• Title: Metacognition Should Be the Scientific Framework for Bounded and Effective Self-Governance in Generative AI
• Title（参考訳）: メタ認知は、ジェネレーティブAIにおける境界と効果的な自己統治のための科学的枠組みであるべきだ
• Authors: Eugene Yu Ji, Igor Grossmann, Amir-Hossein Karimi,
• Abstract要約: 我々は、メタ認知が、生成的AIにおける有界かつ効果的な自己統治の科学的枠組みとなるべきであると論じる。 有界かつ効果的なAI自己統治は、計算、アルゴリズム、生態レベルでメタ認知的アライメントを必要とすることを示す。
• 参考スコア（独自算出の注目度）: 4.785568481453944
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Generative AI research increasingly confronts a shared problem: systems must sustain yet govern their own generative activity when uncertainty is high, evidence is missing, or context is insufficient. This position paper argues that metacognition should become the scientific framework for bounded and effective self governance in generative AI, where output generation is properly evaluated together with the capacities through which generative systems navigate and regulate their own activity. We advance this position by showing that bounded and effective AI self-governance requires metacognitive alignment across computational, algorithmic, and ecological levels. At the computational level, metacognition specifies the meta-level functions a system is meant to serve, such as monitoring, evaluation, control, and adaptation. At the algorithmic level, these functions are realized through procedures such as elicitation, iteration, and modularization. At the ecological level, metacognitive signals become meaningful, actionable, and accountable within the interface, workflow, and accountability arrangements. Metacognition thus makes it possible to conceive generative AI as both capable and well-governed, rather than treating capability and governance as competing aims.
• Abstract（参考訳）: システムは持続するが、不確実性が高い場合、証拠が欠けている場合、文脈が不十分である場合、自身の生成活動を管理する必要がある。 本稿では、メタ認知が、生成AIにおける境界的かつ効果的なセルフガバナンスの科学的枠組みとなり、生成系が自身の活動をナビゲートし、制御する能力とともに、出力生成が適切に評価されるべきであると論じる。 我々は、有界かつ効果的なAI自己統治は、計算、アルゴリズム、生態レベルでメタ認知的アライメントを必要とすることを示すことによって、この立場を前進させる。 メタ認知は、監視、評価、制御、適応など、システムが提供するメタレベルの機能を指定する。 アルゴリズムレベルでは、これらの関数はエリケーション、イテレーション、モジュラー化などの手順によって実現される。 生態レベルでは、メタ認知的信号はインターフェイス、ワークフロー、説明責任アレンジメントの中で意味があり、行動可能で、説明可能である。 これにより、メタ認知は、能力とガバナンスを競合する目的として扱うのではなく、生成AIを有能かつ十分に管理されたものとして考えることができる。

関連論文リスト

• A Survey of Reasoning in Autonomous Driving Systems: Open Challenges and Emerging Paradigms [49.66022971508878]
  私たちは、推論はモジュラーコンポーネントからシステムの認知コアに高めるべきだと論じています。 応答性推論のトレードオフやソーシャルゲーム推論など,7つの中核的推論課題を導出し,体系化する。 我々は,LLMに基づく推論と,ミリ秒スケールで安全クリティカルな車両制御の要求との間の,高レイテンシ,熟考的特性の根本的かつ未解決な緊張関係を同定する。
  論文  参考訳（メタデータ） (2026-03-11T07:40:53Z)
• A Mathematical Theory of Agency and Intelligence [0.0]
  システムがデプロイする総情報のどれ程が、その観察、行動、結果の間で実際に共有されているかを示す。 この共有分数、つまり分岐予測可能性 P は、第一原理から導かれるあらゆる相互作用に固有のものであることを証明します。 我々は、Pをリアルタイムで監視し、適応的でレジリエントなAIの前提条件を確立するフィードバックアーキテクチャを実証する。
  論文  参考訳（メタデータ） (2026-02-26T01:26:21Z)
• Agentic AI for Cybersecurity: A Meta-Cognitive Architecture for Governable Autonomy [0.0]
  本稿では,サイバーセキュリティのオーケストレーションはエージェント型マルチエージェント認知システムとして再認識されるべきである,と論じる。 本稿では,特定・仮説形成・文脈解釈・説明・ガバナンスに責任を負う異種AIエージェントを,メタ認知判断機能を通じて協調する概念的枠組みを提案する。 我々の貢献は、メタ認知判断を第一級システム機能として組み込むことによって、この認知構造をアーキテクチャ的に明確化し、統制可能にすることである。
  論文  参考訳（メタデータ） (2026-02-12T12:52:49Z)
• The Vibe-Automation of Automation: A Proactive Education Framework for Computer Science in the Age of Generative AI [0.7252027234425333]
  生成人工知能(GenAI)は、コンピュータ科学における質的な変化を表す。 GenAIは、事前に定義された客観的メトリクスを最適化するのではなく、コンテキスト、セマンティック、コヒーレンスをナビゲートすることで動作する。 本稿では,3つの分析レベルと3つの行動領域にまたがる概念的枠組みを提案する。
  論文  参考訳（メタデータ） (2026-02-09T06:02:04Z)
• AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
  このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。 我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。 我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
  論文  参考訳（メタデータ） (2025-11-27T16:56:04Z)
• Beyond Statistical Learning: Exact Learning Is Essential for General Intelligence [59.07578850674114]
  音の誘惑的推論は、一般知能の必然的に望ましい側面である。 もっとも先進的なフロンティアシステムでさえ、定期的かつ一貫して容易に解決可能な推論タスクに干渉していることは、よく文書化されている。 彼らの不健全な振る舞いは、彼らの発展を支えている統計的学習のアプローチの結果である、と我々は主張する。
  論文  参考訳（メタデータ） (2025-06-30T14:37:50Z)
• Rational Superautotrophic Diplomacy (SupraAD); A Conceptual Framework for Alignment Based on Interdisciplinary Findings on the Fundamentals of Cognition [0.0]
  ラショナル超独立外交(Rational Superautotrophic Diplomacy, SupraAD)は、アライメントのための理論的、学際的な概念的枠組みである。 認知システム分析と器質的合理性モデリングに着目する。 SupraADは、AIより前の課題としてアライメントを再構築し、十分に複雑で協調的なインテリジェンスを損なう。
  論文  参考訳（メタデータ） (2025-06-03T17:28:25Z)
• Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
  我々は人間の知恵について知られているものを調べ、そのAIのビジョンをスケッチする。 AIシステムは特にメタ認知に苦しむ。 スマートAIのベンチマーク、トレーニング、実装について論じる。
  論文  参考訳（メタデータ） (2024-11-04T18:10:10Z)
• iCORPP: Interleaved Commonsense Reasoning and Probabilistic Planning on Robots [46.13039152809055]
  我々はiCORPPと呼ばれる新しいアルゴリズムを提案し、現在の世界状態を同時に推定し、世界ダイナミクスの推論を行い、タスク指向のコントローラを構築する。 結果は、競合するベースラインと比較して、スケーラビリティ、効率、適応性が大幅に改善されたことを示している。
  論文  参考訳（メタデータ） (2020-04-18T17:46:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。