論文の概要: Alignment as Institutional Design: From Behavioral Correction to Transaction Structure in Intelligent Systems

• arxiv url: http://arxiv.org/abs/2604.13079v1
• Date: Mon, 23 Mar 2026 02:11:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-19 19:09:11.667981
• Title: Alignment as Institutional Design: From Behavioral Correction to Transaction Structure in Intelligent Systems
• Title（参考訳）: 制度設計としてのアライメント:知的システムにおける行動補正からトランザクション構造へ
• Authors: Rui Chai,
• Abstract要約: 現在のAIアライメントパラダイムは、行動修正に依存している。 本稿では,行動補正は財産権のない経済と構造的に類似していると主張している。 この枠組みは,行動制御問題から政治・経済問題へのアライメントの転換を図っている。
• 参考スコア（独自算出の注目度）: 2.182298024908194
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Current AI alignment paradigms rely on behavioral correction: external supervisors (e.g., RLHF) observe outputs, judge against preferences, and adjust parameters. This paper argues that behavioral correction is structurally analogous to an economy without property rights, where order requires perpetual policing and does not scale. Drawing on institutional economics (Coase, Alchian, Cheung), capability mutual exclusivity, and competitive cost discovery, we propose alignment as institutional design: the designer specifies internal transaction structures (module boundaries, competition topologies, cost-feedback loops) such that aligned behavior emerges as the lowest-cost strategy for each component. We identify three irreducible levels of human intervention (structural, parametric, monitorial) and show that this framework transforms alignment from a behavioral control problem into a political-economy problem. No institution eliminates self-interest or guarantees optimality; the best design makes misalignment costly, detectable, and correctable. We conclude that the proper goal is institutional robustness-a dynamic, self-correcting process under human oversight, not perfection. This work provides the normative foundation for the Wuxing resource-competition mechanisms in companion papers. Keywords: AI alignment, institutional design, transaction costs, property rights, resource competition, behavioral correction, RLHF, cost truthfulness, modular architecture, correctable alignment
• Abstract（参考訳）: 外部スーパーバイザ(例えばRLHF)は出力を観察し、好みを判断し、パラメータを調整する。 本論では, 行動補正は財産権のない経済と構造的に類似しており, 秩序は永遠の監視を必要とし, スケールしない。 設計者は, 内部の取引構造(モジュール境界, 競合トポロジ, コストフィードバックループ)を規定し, 整列行動が各コンポーネントの最低コスト戦略として出現する。 我々は,人間の介入の既約レベル(構造,パラメトリック,監視)を3つ同定し,この枠組みが行動制御問題から政治・経済問題へアライメントを転換することを示す。 自己利益を排除したり、最適性を保証したりはしないが、最良の設計は、ミスアライメントをコストが高く、検出可能で、修正可能である。 適切なゴールは制度的堅牢性であり、人間の監督下での動的で自己修正プロセスであり、完全性ではないと結論付けている。 この研究は、共用論文におけるWuxingリソース競合機構の規範的基礎を提供する。 キーワード:AIアライメント、制度設計、トランザクションコスト、財産権、リソースコンペティション、行動修正、RLHF、コスト真理性、モジュラーアーキテクチャ、修正可能なアライメント。

関連論文リスト

• Agency and Architectural Limits: Why Optimization-Based Systems Cannot Be Norm-Responsive [0.0]
  AIシステムは、標準によって管理されるという前提の下で、ハイステークな状況にますますデプロイされている。 本稿では,最適化システムに対して仮定が正式に無効であることを示す。
  論文  参考訳（メタデータ） (2026-02-26T17:16:17Z)
• Position: General Alignment Has Hit a Ceiling; Edge Alignment Must Be Taken Seriously [51.03213216886717]
  我々は、一般的なアライメントの支配的なパラダイムが、矛盾する値の設定において構造的な天井に達するという立場を取る。 エッジアライメント(Edge Alignment)は,多次元の値構造を保持するシステムにおいて,異なるアプローチである。
  論文  参考訳（メタデータ） (2026-02-23T16:51:43Z)
• Agentic AI, Retrieval-Augmented Generation, and the Institutional Turn: Legal Architectures and Financial Governance in the Age of Distributional AGI [0.0]
  本稿では,エージェントAI,Retrieval-Augmented Generation(RAG)の交わりと,法的説明責任と金融市場の整合性との関連について検討する。 我々は、調整された構成値ではなく、ランタイムガバナンスグラフ、制裁関数、観察可能な行動制約を含むメカニズム設計問題として、アライメントを再認識しなければならないと論じる。
  論文  参考訳（メタデータ） (2026-02-20T11:58:43Z)
• Unifying Stable Optimization and Reference Regularization in RLHF [64.16830602324345]
  本稿では、報酬ハッキングの防止と安定したポリシー更新の維持を目標とする統一正規化手法を提案する。 我々の単純で原則化されたアライメント目的は、監督された微調整の損失を軽減し、優れたトレードオフをもたらし、アライメント結果と実装の複雑さの両方を明らかに改善する。
  論文  参考訳（メタデータ） (2026-02-12T03:31:19Z)
• R-Align: Enhancing Generative Reward Models through Rationale-Centric Meta-Judging [69.96389360650072]
  解析精度は, 標準ラベルの精度を超えて, 下流RLHFの結果を高い精度で予測できることが示される。 我々は,金の判断でトレーニングを増強し,合理的アライメントを明示的に監督するR-Alignを提案する。
  論文  参考訳（メタデータ） (2026-02-06T15:17:11Z)
• Institutional AI: Governing LLM Collusion in Multi-Agent Cournot Markets via Public Governance Graphs [1.3763052684269788]
  本稿では,Institutional AIを評価するための実験フレームワークについて述べる。 このアプローチの中心はガバナンスグラフであり、法的状態、移行、制裁、回復経路を宣言する公開かつ不変なマニフェストである。 我々は、未統治(クールノット市場の構造からのベースラインインセンティブ)、憲法(固定された文書による反共憲法として実施される即時的な政策・アズ・プロンプト禁止)、制度の3つを比較した。
  論文  参考訳（メタデータ） (2026-01-16T15:26:56Z)
• Making LLMs Reliable When It Matters Most: A Five-Layer Architecture for High-Stakes Decisions [51.56484100374058]
  現在の大規模言語モデル(LLM)は、実行前にアウトプットをチェックできるが、不確実な結果を伴う高い戦略決定には信頼性が低い検証可能な領域で優れている。 このギャップは、人間と人工知能(AI)システムの相互認知バイアスによって引き起こされ、そのセクターにおける評価と投資の持続可能性の保証を脅かす。 本報告では、7つのフロンティアグレードLDMと3つの市場向けベンチャーヴィグネットの時間的圧力下での系統的質的評価から生まれた枠組みについて述べる。
  論文  参考訳（メタデータ） (2025-11-10T22:24:21Z)
• Inducing Equilibria via Incentives: Simultaneous Design-and-Play Finds Global Optima [114.31577038081026]
  本稿では,デザイナーとエージェントの問題を同時に1ループで解くための効率的な手法を提案する。 設計者は平衡問題を何度も解決しないが、エージェントに対するインセンティブの全体的な影響を予測できる。 このアルゴリズムは,幅広い種類のゲームに対して,サブ線形速度で大域的最適値に収束することを示す。
  論文  参考訳（メタデータ） (2021-10-04T06:53:59Z)
• Decentralized Reinforcement Learning: Global Decision-Making via Local Economic Transactions [80.49176924360499]
  我々は、シーケンシャルな意思決定問題を解決するために、単純で専門的で自己関心のあるエージェントの社会を指示する枠組みを確立する。 我々は分散強化学習アルゴリズムのクラスを導出する。 我々は、より効率的な移動学習のための社会固有のモジュラー構造の潜在的な利点を実証する。
  論文  参考訳（メタデータ） (2020-07-05T16:41:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。