論文の概要: Metacognition Should Be the Scientific Framework for Bounded and Effective Self-Governance in Generative AI
- arxiv url: http://arxiv.org/abs/2605.23981v1
- Date: Wed, 13 May 2026 23:40:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-01 02:55:42.99734
- Title: Metacognition Should Be the Scientific Framework for Bounded and Effective Self-Governance in Generative AI
- Title（参考訳）: メタ認知は、ジェネレーティブAIにおける境界と効果的な自己統治のための科学的枠組みであるべきだ
- Abstract要約: 我々は、メタ認知が、生成的AIにおける有界かつ効果的な自己統治の科学的枠組みとなるべきであると論じる。
有界かつ効果的なAI自己統治は、計算、アルゴリズム、生態レベルでメタ認知的アライメントを必要とすることを示す。
- 参考スコア（独自算出の注目度）: 4.785568481453944
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generative AI research increasingly confronts a shared problem: systems must sustain yet govern their own generative activity when uncertainty is high, evidence is missing, or context is insufficient. This position paper argues that metacognition should become the scientific framework for bounded and effective self governance in generative AI, where output generation is properly evaluated together with the capacities through which generative systems navigate and regulate their own activity. We advance this position by showing that bounded and effective AI self-governance requires metacognitive alignment across computational, algorithmic, and ecological levels. At the computational level, metacognition specifies the meta-level functions a system is meant to serve, such as monitoring, evaluation, control, and adaptation. At the algorithmic level, these functions are realized through procedures such as elicitation, iteration, and modularization. At the ecological level, metacognitive signals become meaningful, actionable, and accountable within the interface, workflow, and accountability arrangements. Metacognition thus makes it possible to conceive generative AI as both capable and well-governed, rather than treating capability and governance as competing aims.
- Abstract（参考訳）: システムは持続するが、不確実性が高い場合、証拠が欠けている場合、文脈が不十分である場合、自身の生成活動を管理する必要がある。
本稿では、メタ認知が、生成AIにおける境界的かつ効果的なセルフガバナンスの科学的枠組みとなり、生成系が自身の活動をナビゲートし、制御する能力とともに、出力生成が適切に評価されるべきであると論じる。
我々は、有界かつ効果的なAI自己統治は、計算、アルゴリズム、生態レベルでメタ認知的アライメントを必要とすることを示すことによって、この立場を前進させる。
メタ認知は、監視、評価、制御、適応など、システムが提供するメタレベルの機能を指定する。
アルゴリズムレベルでは、これらの関数はエリケーション、イテレーション、モジュラー化などの手順によって実現される。
生態レベルでは、メタ認知的信号はインターフェイス、ワークフロー、説明責任アレンジメントの中で意味があり、行動可能で、説明可能である。
これにより、メタ認知は、能力とガバナンスを競合する目的として扱うのではなく、生成AIを有能かつ十分に管理されたものとして考えることができる。
関連論文リスト
- AI-Augmented Inquiry and Regulation in Hybrid Systems: A Control Allocation Architecture for Preserving Epistemic Agency in Hybrid Human-AI Cognition [0.05863360388454259]
外的生成能力の増加に伴い、内部監視、校正、認知エンゲージメントが低下する可能性がある。
これは、分散人間-AIシステムにおける認知制御の再分配を反映している。
我々は、このジレンマを分析し、規制介入がどこで対処できるかを特定するためのAIRISフレームワークを提案する。
論文 参考訳（メタデータ） (2026-08-21T20:32:44Z) - A Taxonomy of Cognitive Capability Gaps in Generative and Agentic AI [4.077787659104315]
本稿では,認知AIの発達を抑え続ける主要な認知能力のギャップについて,分類学的に考察した。
本稿では,アダプティブ・コグニティブ・インテリジェンス・アーキテクチャ(ACIA)を概説し,認知中心評価における新たな方向性を検討する。
論文 参考訳（メタデータ） (2026-08-03T17:37:38Z) - Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels [53.63220028820581]
身体的知性は、学習した知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。
我々は,信頼に値するインテリジェンスを,特定のタスクを確実に実行するための持続能力として定義する。
論文 参考訳（メタデータ） (2026-07-28T17:50:44Z) - Solipsistic Superintelligence is Unlikely to be Cooperative [48.65947679109806]
極めて有能なタスク解決ツールである超知能は協調的ではないと我々は主張する。
我々は、相互依存を中核的な設計原則として扱う非ソリプシックな研究パラダイムを提唱する。
論文 参考訳（メタデータ） (2026-06-02T06:54:55Z) - AutoResearch AI: Towards AI-Powered Research Automation for Scientific Discovery [184.2309450554096]
AutoResearchはAIを活用した科学ワークフロー自動化の開発スペクトルとして定義されている。
我々は、研究システムが制御、エビデンス、実行、検証、説明責任を再分配し、その分野を組織化する方法について分析する。
本稿では,5つの評価次元 – ノベルティ,インパクト,信頼性,証明 – を提案し,AutoResearchの自律性はドメイン条件であることを示す。
論文 参考訳（メタデータ） (2026-05-22T03:40:30Z) - A Survey of Reasoning in Autonomous Driving Systems: Open Challenges and Emerging Paradigms [49.66022971508878]
私たちは、推論はモジュラーコンポーネントからシステムの認知コアに高めるべきだと論じています。
応答性推論のトレードオフやソーシャルゲーム推論など,7つの中核的推論課題を導出し,体系化する。
我々は,LLMに基づく推論と,ミリ秒スケールで安全クリティカルな車両制御の要求との間の,高レイテンシ,熟考的特性の根本的かつ未解決な緊張関係を同定する。
論文 参考訳（メタデータ） (2026-03-11T07:40:53Z) - A Mathematical Theory of Agency and Intelligence [0.0]
システムがデプロイする総情報のどれ程が、その観察、行動、結果の間で実際に共有されているかを示す。
この共有分数、つまり分岐予測可能性 P は、第一原理から導かれるあらゆる相互作用に固有のものであることを証明します。
我々は、Pをリアルタイムで監視し、適応的でレジリエントなAIの前提条件を確立するフィードバックアーキテクチャを実証する。
論文 参考訳（メタデータ） (2026-02-26T01:26:21Z) - Agentic AI for Cybersecurity: A Meta-Cognitive Architecture for Governable Autonomy [0.0]
本稿では,サイバーセキュリティのオーケストレーションはエージェント型マルチエージェント認知システムとして再認識されるべきである,と論じる。
本稿では,特定・仮説形成・文脈解釈・説明・ガバナンスに責任を負う異種AIエージェントを,メタ認知判断機能を通じて協調する概念的枠組みを提案する。
我々の貢献は、メタ認知判断を第一級システム機能として組み込むことによって、この認知構造をアーキテクチャ的に明確化し、統制可能にすることである。
論文 参考訳（メタデータ） (2026-02-12T12:52:49Z) - The Vibe-Automation of Automation: A Proactive Education Framework for Computer Science in the Age of Generative AI [0.7252027234425333]
生成人工知能(GenAI)は、コンピュータ科学における質的な変化を表す。
GenAIは、事前に定義された客観的メトリクスを最適化するのではなく、コンテキスト、セマンティック、コヒーレンスをナビゲートすることで動作する。
本稿では,3つの分析レベルと3つの行動領域にまたがる概念的枠組みを提案する。
論文 参考訳（メタデータ） (2026-02-09T06:02:04Z) - AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。
我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。
我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
論文 参考訳（メタデータ） (2025-11-27T16:56:04Z) - Beyond Statistical Learning: Exact Learning Is Essential for General Intelligence [59.07578850674114]
音の誘惑的推論は、一般知能の必然的に望ましい側面である。
もっとも先進的なフロンティアシステムでさえ、定期的かつ一貫して容易に解決可能な推論タスクに干渉していることは、よく文書化されている。
彼らの不健全な振る舞いは、彼らの発展を支えている統計的学習のアプローチの結果である、と我々は主張する。
論文 参考訳（メタデータ） (2025-06-30T14:37:50Z) - Rational Superautotrophic Diplomacy (SupraAD); A Conceptual Framework for Alignment Based on Interdisciplinary Findings on the Fundamentals of Cognition [0.0]
ラショナル超独立外交(Rational Superautotrophic Diplomacy, SupraAD)は、アライメントのための理論的、学際的な概念的枠組みである。
認知システム分析と器質的合理性モデリングに着目する。
SupraADは、AIより前の課題としてアライメントを再構築し、十分に複雑で協調的なインテリジェンスを損なう。
論文 参考訳（メタデータ） (2025-06-03T17:28:25Z) - Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
我々は人間の知恵について知られているものを調べ、そのAIのビジョンをスケッチする。
AIシステムは特にメタ認知に苦しむ。
スマートAIのベンチマーク、トレーニング、実装について論じる。
論文 参考訳（メタデータ） (2024-11-04T18:10:10Z) - iCORPP: Interleaved Commonsense Reasoning and Probabilistic Planning on
Robots [46.13039152809055]
我々はiCORPPと呼ばれる新しいアルゴリズムを提案し、現在の世界状態を同時に推定し、世界ダイナミクスの推論を行い、タスク指向のコントローラを構築する。
結果は、競合するベースラインと比較して、スケーラビリティ、効率、適応性が大幅に改善されたことを示している。
論文 参考訳（メタデータ） (2020-04-18T17:46:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。