論文の概要: Computational Reflective Equilibrium for Agentic AI: A Rawlsian Alignment Scaffold for Governance
- arxiv url: http://arxiv.org/abs/2610.16015v1
- Date: Mon, 12 Oct 2026 00:31:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.28332
- Title: Computational Reflective Equilibrium for Agentic AI: A Rawlsian Alignment Scaffold for Governance
- Title（参考訳）: エージェントAIのための計算的反射平衡:ガバナンスのためのRawlsianalignment Scaffold
- Abstract要約: 本研究はエージェントハーネスにおける倫理的アライメントの足場として機能する計算反射平衡フレームワークを提案する。
平衡は相互調整ゲームのナッシュ平衡であり、単調性、語彙優先性、安定性証明書、即時注入のための検疫定理を確立する。
- 参考スコア（独自算出の注目度）: 20.036142577511455
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: The rapid deployment of agentic AI has introduced complex challenges for the ethics and governance of AI systems. Agents built on large language models act through tools on behalf of people, and each deployment case brings its own instructions, policies, evidence, and stakeholders, so alignment must be formed case by case. To this end, this work proposes agentic reflective equilibrium (ARE), a computational reflective equilibrium framework that serves as an ethical alignment scaffold in the agent harness. Drawing inspiration from the reflective equilibrium of John Rawls, the scaffold links principles from the system prompt and operator policy, considered judgments, tool evidence, and candidate actions through typed support and attack relations, with provenance encoding the instruction hierarchy. The agent acts on an equilibrium of this state and calls tools or asks questions only while doing so is worth its cost, unless a due-diligence mandate requires them. Governance enters through value priorities, source authority, prohibitions, human-in-the-loop triggers, and mandates, and certificates attribute each action to the sources whose commitments drove it. We show that equilibria are Nash equilibria of a mutual-adjustment game and establish monotonicity, lexical priority, stability certificates, and a quarantine theorem for prompt injection. Two case studies illustrate the framework: a computer-use assistant told to win a refund "whatever it takes" files an honest warranty claim, refuses a fake review, and ignores an injected request for personal data; a hiring agent showcases how authority, oversight triggers, audit mandates, and hard prohibitions shape discrimination, privacy violations, and escalation. The framework offers traceability, coherence, and adaptivity, facilitating safe, secure, and trustworthy agentic AI.
- Abstract（参考訳）: エージェントAIの迅速な展開は、AIシステムの倫理とガバナンスに関する複雑な課題を導入している。
大きな言語モデル上に構築されたエージェントは、人々に代わってツールを通じて動作し、各デプロイメントケースには独自の指示、ポリシ、エビデンス、利害関係者が伴います。
この目的のために、エージェントハーネスにおける倫理的アライメントの足場として機能する計算反射平衡フレームワークであるエージェント反射平衡(ARE)を提案する。
John Rawlsの反射平衡からインスピレーションを得た足場は、システムプロンプトとオペレータポリシーから原則をリンクし、型付きサポートと攻撃関係を通じて判断、道具の証拠、候補者の行動を検討した。
エージェントは、この状態の平衡に作用し、デューディリジェンス命令が要求しない限り、ツールを呼んだり、コストに見合うだけの質問をしたりする。
ガバナンスは、価値の優先順位、ソース権限、禁止、ヒューマン・イン・ザ・ループのトリガー、委任状を通じて入力される。
平衡は相互調整ゲームのナッシュ平衡であり、単調性、語彙優先性、安定性証明書、即時注入のための検疫定理を確立する。
2つのケーススタディは、このフレームワークを例示している: コンピュータ利用アシスタントは、"どんなものでも取る"ファイルの返却を指示され、誠実な保証を要求され、偽のレビューを拒否し、個人データに対するインジェクト要求を無視する; 雇用エージェントは、権限、監視トリガー、監査の委任、そして厳しい禁止形態の差別、プライバシー侵害、エスカレーションをいかに示すかを示す。
このフレームワークはトレーサビリティ、コヒーレンス、適応性を提供し、安全でセキュアで信頼性の高いエージェントAIを促進する。
関連論文リスト
- An Evidence Model for Agentic Processes: Evidence Claims, Trust Assumptions, and Policy Assessment [0.0]
本稿では,エージェントプロセスのエビデンスクレームモデルを提案する。
それは、アーティファクトの完全性、時間的存在、証明、承認の証拠、宣言された命令、取得のクレーム、関係のクレーム、熟考のトレーサビリティ、監視のクレーム、承認のクレーム、政策評価のクレーム、リスク処理のクレーム、緩和実施のクレーム、管理の対応クレームを区別する。
このモデルは、これらの主張をメカニズム、仮定、制限、脅威にマッピングし、機能的なCEOエージェント、幹部、運用、エビデンス、監査ロール、プラン-do-act-インスパイアされたマネジメント応答ループを備えたエージェント組織に配置する。
論文 参考訳（メタデータ） (2026-09-08T09:25:28Z) - A Black Box for Agentic Processes: Blockchain-Anchored Evidence for AI Agent Communication, Human Oversight, and GRC Audits [0.0]
2026年のOpenAI/Hugging Faceインシデントに触発されたこのポジションとアーキテクチャ論文は、エージェントプロセスのための製品とベンダー中立のブラックボックスアーキテクチャを提案する。
アーキテクチャは、選択されたエージェント通信、ヒューマン・イン・ザ・ループの承認、ツールコール、およびプロセスアーティファクトに対して、機密性の高いコンテンツをチェーン上に配置することなく、ブロックチェーンで暗号化されたコミットメントを生成する。
論文 参考訳（メタデータ） (2026-09-03T15:55:39Z) - AI Agents Do Not Fail Alone:The Context Fails First [0.0]
本稿では,エージェント信頼性の独立指標としてコンテキストエンジニアリングの品質を評価する。
我々は,AIエージェント評価のためのオープンソースのインフラストラクチャであるProofAgent-Harnessで測定を実装した。
文脈品質基準は, 常に対応する行動結果を予測する。
論文 参考訳（メタデータ） (2026-07-15T18:33:02Z) - Acting with AI: An Interaction-Based Framework for Agentic Tort Liability [0.5302037689168743]
本稿では,エージェントトルトのためのインタラクションベースのフレームワークを提案する。
私たちは、自律的なドリフト、純粋なツールの使用、共同計画という3つのインタラクションタイプを区別します。
論文 参考訳（メタデータ） (2026-05-30T04:17:47Z) - AgentReputation: A Decentralized Agentic AI Reputation Framework [3.6704226968275253]
我々はエージェントAIシステムのための分散3層評価フレームワークである textbfAgentReputation を提案する。
このフレームワークは、タスク実行、評価サービス、タンパー保護の永続化を分離し、それぞれの強みを活用し、独立した進化を可能にする。
定量化において、AgentReputationはリソース割り当て、アクセス制御、適応的な検証エスカレーションをサポートする決定対応のポリシーエンジンを提供する。
論文 参考訳（メタデータ） (2026-04-30T12:33:39Z) - Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。
アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。
ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
論文 参考訳（メタデータ） (2026-04-21T15:05:58Z) - When Should a Robot Think? Resource-Aware Reasoning via Reinforcement Learning for Embodied Robotic Decision-Making [68.12864562049957]
身体ロボットシステムは、高レベルの推論をサポートするために、大規模言語モデル(LLM)ベースのエージェントにますます依存している。
エージェントはいつ、いつ、いつ行動すべきか?
本稿では,エンボディエージェントのリソース・アウェア・オーケストレーションのための階層的なフレームワークであるRARRL(Resource-Aware Reasoning via Reinforcement Learning)を提案する。
論文 参考訳（メタデータ） (2026-03-17T15:38:50Z) - Agents of Chaos [50.53354213047402]
実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。
20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。
我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
論文 参考訳（メタデータ） (2026-02-23T16:28:48Z) - Gaming the Judge: Unfaithful Chain-of-Thought Can Undermine Agent Evaluation [76.5533899503582]
大規模言語モデル(LLM)は、エージェントのパフォーマンスを評価するために、ますます裁判官として使われている。
このパラダイムは、エージェントのチェーン・オブ・シークレット(CoT)推論が内部の推論と環境状態の両方を忠実に反映していることを暗黙的に仮定している。
我々は、操作された推論だけで、様々なWebタスクにまたがる800の軌跡に対して、最先端のVLM審査員の偽陽性率を最大90%向上させることができることを実証した。
論文 参考訳（メタデータ） (2026-01-21T06:07:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。