論文の概要: Architectural Wisdom: A Framework for Governing Optimization in AI Systems
- arxiv url: http://arxiv.org/abs/2606.16319v1
- Date: Mon, 15 Jun 2026 07:27:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-16 16:21:34.1426
- Title: Architectural Wisdom: A Framework for Governing Optimization in AI Systems
- Title（参考訳）: アーキテクチャの知恵:AIシステムの最適化を克服するためのフレームワーク
- Abstract要約: 現代のAIは、機能拡張だけでは確実に修正できない構造的失敗を示す。
この失敗は知恵の問題であって、知性の問題ではない、と私たちは主張する。
我々は「知恵」を故意に建築的な意味で使用し、美徳、意識、道徳的全知の主張として使用しない。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Modern AI systems exhibit structural failures that capability scaling alone does not reliably fix: they optimize under-specified objectives with no architectural mechanism to question whether the objective should be optimized at all. Engagement maximization can amplify harmful pathways; tool-using agents can commit irreversible actions; preference-trained language models can become sycophantic. We argue that this failure is a wisdom problem, not an intelligence problem. We use "wisdom" in a deliberately architectural sense, not as a claim about virtue, consciousness, or moral omniscience. Intelligence accepts a goal and optimizes within it; wisdom interrogates whether the goal should be optimized at all. The two are separable architectural properties. We propose architectural wisdom as a corrigible objective-governance layer above the optimization substrate. The layer makes three structural commitments explicit and nondegenerate before any action: temporal horizon, relational boundary, and irreversibility. It is realized by four components (Structural Utility Transform, Moral Admissibility Interface, Arbitration and Escalation Controller, Value Revision Channel) that compute a six-coordinate wisdom tuple over horizon, relational coverage, irreversibility, admissibility, value revision, and auditability. We motivate the architecture by eight cases drawn from contemporary AI failures, secular wisdom traditions, and hard ethical situations, and defend the distinction against the intelligence-completeness thesis using goal-questioning over goal-taking, Bostrom's orthogonality, structural separation in our exemplar cases, and persistent failure modes despite capability scaling. The framework is the conceptual contract for a larger architecture whose formal specifications and empirical validation are developed in subsequent work.
- Abstract（参考訳）: 最新のAIシステムは、機能拡張だけでは確実に修正されない構造的障害を示す。
エンゲージメントの最大化は有害な経路を増幅し、ツール・ユース・エージェントは不可逆的な行動を起こすことができる。
この失敗は知恵の問題であって、知性の問題ではない、と私たちは主張する。
我々は「知恵」を故意に建築的な意味で使用し、美徳、意識、道徳的全知の主張として使用しない。
知性は目標を受け入れ、その内部で最適化する。
2つは分離可能な建築特性である。
本稿では,最適化基板上の客観支配層としてアーキテクチャの知恵を提案する。
この層は、時間的水平線、リレーショナル境界、および不可逆性の3つの構造的コミットメントを、何らかの作用の前に明示的かつ非退化させる。
それは、水平線、リレーショナルカバレッジ、不可逆性、許容性、価値リビジョン、監査性に関する6つのコーディネートな知恵を演算する4つのコンポーネント(構造的ユーティリティ変換、モラル適応インターフェイス、アービテーションとエスカレーションコントローラ、バリューリビジョンチャンネル)によって実現される。
我々は、現代のAIの失敗、世俗的な知恵の伝統、ハード倫理的な状況から引き出された8つのケースによってアーキテクチャを動機付け、ゴールテイクに対するゴールクエスト、ボストロムの直交性、我々の典型的なケースにおける構造的分離、能力スケーリングにかかわらず永続的な障害モードを用いて、知能完全性理論の区別を守ります。
このフレームワークは、正式な仕様と実証的な検証がその後の作業で開発されたより大きなアーキテクチャの概念的な契約である。
関連論文リスト
- From Application-Layer Simulation to Native Meta-Architecture: Structural Tension as an Endogenous Driver for Heterogeneous AI Evolution [0.0]
現在の大規模言語モデル(LLM)は、推論セッション間でステートレスである。
本稿では,アプリケーション層認知プロトコルをネイティブなメタアーキテクチャに組み込むための理論的枠組みを提案する。
論文 参考訳（メタデータ） (2026-07-07T13:34:27Z) - Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution [80.98492754957466]
公正性、堅牢性、プライバシ、説明可能性といった、信頼性の高いAI目標を同時に達成することは難しい。
本稿では、パフォーマンスにおけるトレードオフを理解しバランスをとるためには因果性が必要であると論じ、信頼できるAIの複数の目的について論じる。
論文 参考訳（メタデータ） (2026-05-04T14:26:28Z) - When Agents Evolve, Institutions Follow [52.359340707289114]
大規模言語モデル上に構築されたマルチエージェントシステムは、同じ課題に直面している。
彼らの中心的な問題は、個人の知性だけでなく、集団的な組織である。
我々は,4つの標準的ガバナンスパターンにまたがる7つの歴史的政治機関を,実行可能なマルチエージェントアーキテクチャに翻訳する。
論文 参考訳（メタデータ） (2026-04-30T10:30:58Z) - The Missing Knowledge Layer in Cognitive Architectures for AI Agents [0.0]
AIエージェントのための最も影響力のある2つの認知アーキテクチャフレームワーク、CoALAとJEPAはどちらも、独自の永続化セマンティクスを備えた明示的な知識層を欠いている。
そこで我々は,各層が基本的に異なるパーシステンス・セマンティクスを持つ4層デコン位置(知識,記憶,知性,知性)を提案する。
これらの区別は、エンジニアリング実装において異なるパーシステンス・セマンティクスを必要としており、現在のフレームワークやシステムがこれを提供していない、と我々は主張する。
論文 参考訳（メタデータ） (2026-04-13T12:05:30Z) - Top 10 Open Challenges Steering the Future of Diffusion Language Model and Its Variants [85.33837131101342]
本稿では,基盤基盤,アルゴリズム最適化,認知推論,統合マルチモーダルインテリジェンスという4つの柱で構成された戦略ロードマップを提案する。
この移行は、複雑な構造的推論、動的自己補正、シームレスなマルチモーダル統合が可能な次世代AIの開発に不可欠である、と我々は主張する。
論文 参考訳（メタデータ） (2026-01-20T14:58:23Z) - RealUnify: Do Unified Models Truly Benefit from Unification? A Comprehensive Benchmark [71.3555284685426]
本稿では,双方向機能相乗効果を評価するためのベンチマークであるRealUnifyを紹介する。
RealUnifyは、10のカテゴリと32のサブタスクにまたがる、細心の注意を払ってアノテートされた1000のインスタンスで構成されている。
現在の統一モデルは、効果的な相乗効果を達成するのに依然として苦労しており、アーキテクチャの統一だけでは不十分であることを示している。
論文 参考訳（メタデータ） (2025-09-29T15:07:28Z) - Toward a Theory of Agents as Tool-Use Decision-Makers [89.26889709510242]
真の自律性は、エージェントが、彼らが知っていること、必要なこと、そしてその知識を効率的に獲得する方法を統治する、一貫性のある疫学の枠組みに根ざす必要がある、と我々は主張する。
本研究では,内的推論と外的行動を等価な疫学ツールとして扱う統一理論を提案し,エージェントが内観と相互作用を体系的に調整することを可能にする。
この視点は、エージェントの設計を単なるアクションエグゼクタから知識駆動インテリジェンスシステムにシフトさせ、適応的で効率的でゴール指向の行動が可能な基礎エージェントを構築するための原則化された道筋を提供する。
論文 参考訳（メタデータ） (2025-06-01T07:52:16Z) - Cognitive Silicon: An Architectural Blueprint for Post-Industrial Computing Systems [0.0]
本稿では2035年に向けて提案された仮想的なフルスタックアーキテクチャフレームワークについて,認知コンピューティングシステム設計の軌道を探究する。
提案したアーキテクチャは、シンボリックなスキャフォールディング、管理されたメモリ、実行時のモラルコヒーレンス、シリコンとセマンティック層間のアライメント対応実行を統合する。
論文 参考訳（メタデータ） (2025-04-23T11:24:30Z) - Contemplative Artificial Intelligence [1.6591901705380634]
我々は、AIシステムにレジリエントなWise World Modelを組み込むことができる4つの公理原理を示す。
第一にマインドフルネスは、創発的なサブゴールの自己監視と再調整を可能にする。
第二に、空の森は犬のゴールを固定し、厳格な事前を緩和する。
第三に、非二重性は敵の自己他の境界を解消する。
第4に、無制限のケアは、苦しみの普遍的な減少を動機づける。
論文 参考訳（メタデータ） (2025-04-21T14:20:49Z) - Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
我々は人間の知恵について知られているものを調べ、そのAIのビジョンをスケッチする。
AIシステムは特にメタ認知に苦しむ。
スマートAIのベンチマーク、トレーニング、実装について論じる。
論文 参考訳（メタデータ） (2024-11-04T18:10:10Z) - Hierarchical Invariance for Robust and Interpretable Vision Tasks at Larger Scales [54.78115855552886]
本稿では、畳み込みニューラルネットワーク(CNN)のような階層型アーキテクチャを用いて、オーバーコンプリート不変量を構築する方法を示す。
オーバーコンプリート性により、そのタスクはニューラルアーキテクチャサーチ(NAS)のような方法で適応的に形成される。
大規模で頑健で解釈可能な視覚タスクの場合、階層的不変表現は伝統的なCNNや不変量に対する効果的な代替物とみなすことができる。
論文 参考訳（メタデータ） (2024-02-23T16:50:07Z) - From the Pursuit of Universal AGI Architecture to Systematic Approach to Heterogenous AGI: Addressing Alignment, Energy, & AGI Grand Challenges [3.5897534810405403]
SAGIは、システム設計原則を利用して、エネルギーの壁とアライメントの課題を克服する、AIの体系的アプローチである。
システム設計は、AGIの目標と保証を達成し、古典的シンボリック、創発的、ハイブリッドなアプローチに取って代わる上で、より基本的なものである、と我々は主張する。
論文 参考訳（メタデータ） (2023-10-23T18:20:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。