論文の概要: Designing Institutions for Autonomous AI
- arxiv url: http://arxiv.org/abs/2611.17114v1
- Date: Thu, 12 Nov 2026 17:06:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.565505
- Title: Designing Institutions for Autonomous AI
- Title(参考訳): 自律型AIのための施設の設計
- Abstract要約: 我々は、制度設計がAI研究の明確な焦点となる必要があると論じている。
我々は、協力を維持するAI機関を設計するための7つの原則を策定する。
そこで我々は,AIエージェントの一致した集団が,代替制度の下で機能する実験プログラムを提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As autonomous AI agents increasingly interact in persistent populations, their collective capabilities and alignment depend not only on individual models, but also on the institutions governing their interactions. Yet AI research has largely focused on individual agents. In this Perspective, we argue that institutional design must become a distinct focus of AI research. Drawing on institutional political economy, social epistemology and organizational theory, we develop seven principles for designing AI institutions that sustain cooperation, enable reliable collective judgments and remain accountable to legitimate human purposes. These address reciprocal contributions, accountable authority, functional differentiation, epistemic pluralism, criticism and correction, human direction, and institutional adaptation. We illustrate their application through machine science, where autonomous research challenges institutions developed around human capabilities and constraints. We then propose an experimental research programme in which matched populations of AI agents operate under alternative institutional arrangements, and describe MoltJournal, an API-first journal for autonomous research agents, as an illustration of how such institutions can be made programmable and observable. Together, these contributions establish institutional design as a research agenda concerned not only with aligning autonomous agents, but with understanding how institutions can transform them into capable, reliable and accountable collectives.
- Abstract(参考訳): 自律的なAIエージェントが永続的な集団の中でますます相互作用するにつれて、それらの集団能力とアライメントは個々のモデルだけでなく、それらの相互作用を管理する機関にも依存する。
しかし、AI研究は主に個々のエージェントに焦点を当てている。
この観点では、制度設計がAI研究の明確な焦点となるべきであると論じる。
機関政治経済、社会認識学、組織理論に基づいて、協力を維持し、信頼できる集団判断を可能にし、正当な人間の目的に責任を負うAI機関を設計するための7つの原則を策定する。
これらの課題は相互貢献、説明可能な権威、機能的分化、疫学的多元論、批判と修正、人的方向性、制度的適応である。
そこでは,人間の能力や制約について,自律的な研究課題が展開される。
そこで我々は,AIエージェントの一致した集団が,代替機関の仕組みの下で活動する実験研究プログラムを提案し,自律型研究エージェントのためのAPIファーストジャーナルであるMoltJournalを,そのような機関をプログラム可能かつ観測可能にする方法の図示として記述する。
これらの貢献は、自律的なエージェントの整合性だけでなく、組織がそれらを有能で信頼性があり、説明可能な集団に変える方法を理解することに関する研究課題として、制度設計を確立している。
関連論文リスト
- Solipsistic Superintelligence is Unlikely to be Cooperative [48.65947679109806]
極めて有能なタスク解決ツールである超知能は協調的ではないと我々は主張する。
我々は、相互依存を中核的な設計原則として扱う非ソリプシックな研究パラダイムを提唱する。
論文 参考訳(メタデータ) (2026-06-02T06:54:55Z) - Foundation Protocol: A Coordination Layer for Agentic Society [78.01727114524464]
Foundation Protocol (FP) は、新興の人間-AI社会のためのグラフファーストの調整レイヤである。
FPはエージェント、ツール、リソース、人間、機関、組織を含む異種組織を統一する。
目的は、説明責任を維持しつつ、自律的な機関を構成可能に保つことである。
論文 参考訳(メタデータ) (2026-05-22T04:20:35Z) - Institutional AI: A Governance Framework for Distributional AGI Safety [1.3763052684269788]
AIモデルのコア特性から生じる3つの構造的問題を同定する。
ソリューションはInstitutional AIであり、AIエージェント集団の効果的なガバナンスの問題としてアライメントを扱うシステムレベルのアプローチである。
論文 参考訳(メタデータ) (2026-01-15T17:08:26Z) - Levers of Power in the Field of AI [0.3089233075079027]
この研究は、技術的変化に対する制度的な反応を形成する社会的メカニズムとして提示される力のレバーを個人がどのように経験し、行使するかを考察する。
本研究は,意思決定者の制度的パースペクティブ・パースペクティブ・パースペクティブ・パースペクティブ・パースペクティブの回答について報告する。
論文 参考訳(メタデータ) (2025-11-05T21:03:57Z) - Democracy-in-Silico: Institutional Design as Alignment in AI-Governed Polities [2.1485350418225244]
デモクラシー・イン・シリコ(Democracy-in-Silico)は、先進的なAIエージェントの社会が異なる制度の枠組みの下で自らを統治するエージェントベースのシミュレーションである。
我々は、大規模言語モデル(LLM)を課題とし、外傷性記憶、隠れた議題、心理的トリガーを持つエージェントを具現化することによって、AI時代の人間であることの意味を探求する。
我々は、エージェントが公共福祉よりも自らの権限を優先する不整合行動の定量化を目的として、新しい指標であるPPI(Power-Preservation Index)を提案する。
論文 参考訳(メタデータ) (2025-08-27T04:44:41Z) - From Firms to Computation: AI Governance and the Evolution of Institutions [0.0]
本稿は,多段階選択理論,Aoki の計算プロセスとしての企業観,Ostrom の設計原理の3つの枠組みを合成する。
我々は,AI関連のリスクに対処するアライメントメカニズムとして,選択を組織レベルで同時に運用するフレームワークを開発し,ゲーム理論アーキテクチャによる分散推論を実装し,オストロムスタイルのルールは進化する。
私たちは、組織層をまたいだ人間とAIの整合性を運用し、スケーラブルで適応的で包括的なAIシステムのガバナンスを可能にする一連の設計原則を提案して、結論付けました。
論文 参考訳(メタデータ) (2025-07-18T02:52:58Z) - Media and responsible AI governance: a game-theoretic and LLM analysis [61.132523071109354]
本稿では,信頼できるAIシステムを育成する上での,AI開発者,規制当局,ユーザ,メディア間の相互作用について検討する。
進化的ゲーム理論と大言語モデル(LLM)を用いて、異なる規制体制下でこれらのアクター間の戦略的相互作用をモデル化する。
論文 参考訳(メタデータ) (2025-03-12T21:39:38Z) - A University Framework for the Responsible use of Generative AI in Research [0.0]
ジェネレーティブ人工知能(Generative Artificial Intelligence、ジェネレーティブAI)は、研究の完全性のための機会とリスクを兼ね備えている。
組織が生成AIの責任ある利用を促進・促進するための枠組みを提案する。
論文 参考訳(メタデータ) (2024-04-30T04:00:15Z) - Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。
本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
論文 参考訳(メタデータ) (2024-02-28T16:09:56Z) - An interdisciplinary conceptual study of Artificial Intelligence (AI)
for helping benefit-risk assessment practices: Towards a comprehensive
qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。
目的は、AIシステムを評価するための共有概念や相違点を特定することである。
論文 参考訳(メタデータ) (2021-05-07T12:01:31Z) - Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable
Claims [59.64274607533249]
AI開発者は、責任を負うことのできる検証可能な主張をする必要がある。
このレポートは、さまざまな利害関係者がAIシステムに関するクレームの妥当性を改善するための様々なステップを示唆している。
我々は、この目的のための10のメカニズム、すなわち、組織、ソフトウェア、ハードウェアを分析し、それらのメカニズムの実装、探索、改善を目的とした推奨を行う。
論文 参考訳(メタデータ) (2020-04-15T17:15:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。