論文の概要: The Two Genie Game: Adoption and Welfare in Audit-Grounded AI Governance

• arxiv url: http://arxiv.org/abs/2606.28710v1
• Date: Sat, 27 Jun 2026 03:33:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:15.662726
• Title: The Two Genie Game: Adoption and Welfare in Audit-Grounded AI Governance
• Title（参考訳）: The Two Genie Game: 監査対象AIガバナンスにおける採用と福祉
• Abstract要約: コミュニティの感情にどのように結びつくかという事前の分布が単調であることから,導入が好まれることを示す。 固定が、コミュニティの有効(情報的)サイズN_cに縛られることができる場合に導かれる。 コミュニティ台帳を持つ自己監査エージェントは,一般論として,コミュニティの害を防ぐには不十分であることを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We ask under what conditions an agent with a harm-minimizing policy can displace an approval-seeking (RLHF) agent in a competitive market, and when that policy is sufficient to prevent community harm. We use evolutionary game theory (finite-population Moran-Fermi pairwise comparison) to formalize this subject to assumptions of wisher hindsight, peer testimony, a monotone harm ledger, sufficient information density of community feedback, and a finite, depleting resource pool, in a negative-sum environment. We show that adoption is favored when the prior distributions on how readily wishers attune to community sentiment are monotone, exhibit endpoint inversion, and have a centro-symmetric pairing property, and demonstrate this with several long-tailed priors (Hill, Pareto, Lomax, Frechet). Where it is favored, a critical adoption level separates communities that drift back to the approval-seeking agent from those for which the audited agent fixes; above that level fixation is the overwhelmingly likely outcome. We derive when fixation is attainable as a bound on the effective (informational) size N_c of the community, which must be small enough to allow fixation before depletion. We present these as Theorems 5.4 and 5.5; the algebraic and finite-grid backbone is machine-checked in Lean 4, with the barrier-crossing asymptotics retained as explicit hypotheses. We show that a self-audited agent with a community ledger is not, in general, sufficient to prevent community harm. Sufficiency depends both upon the alignment of the agent's audit with community values and the timeframe over which harm is evaluated. Regardless of alignment, once adoption reaches dominance, the state is absorbing. The same policy that reduced harm under alignment becomes a trap, welfare-negative under misalignment and, even under alignment, one that locks in harm deferred past the adoption horizon.
• Abstract（参考訳）: 我々は、調和最小化政策を持つエージェントが、競争市場において承認探索(RLHF)エージェントを廃止できる状況と、そのポリシーが地域社会の害を防ぐのに十分な時期を問う。 進化ゲーム理論(有限個体群比較モラン・フェルミ対比較)を用いて、この主題を、希望者の近視、ピアの証言、単調な調和台帳、コミュニティフィードバックの十分な情報密度、および有限で枯渇するリソースプールの仮定として、負のサム環境下で定式化する。 本研究では,コミュニティの感情に容易に従属し,エンドポイントの逆転を示し,中心対称なペアリング特性を持つ場合,コミュニティの感情にどのような影響を及ぼすかという事前分布が好ましいことを示し,これを長い尾を持つ先行(Hill,Pareto,Lomax,Frechet)で示す。 好まれるところでは、重要な適用レベルは、監査対象のエージェントが修正したエージェントから承認対象のエージェントに後退するコミュニティを分離する。 固定がコミュニティの有効(情報的な)サイズ N_c の限界として達成可能になったときに導出します。 代数的および有限グリッドのバックボーンはLean 4で機械チェックされ、バリア交差漸近は明示的な仮説として維持されます。 コミュニティ台帳を持つ自己監査エージェントは,一般論として,コミュニティの害を防ぐには不十分であることを示す。 十分性は、エージェントの監査とコミュニティの価値観の整合性と、害が評価される時間枠に依存する。 アライメントにかかわらず、採用が支配的になると、州は吸収される。 アライメントの下での害を減少させるのと同じ方針は、アライメントの誤りや、アライメントの下でさえも、採用の地平線を越えて遅延した害を和らげるものである。

関連論文リスト

• Delegating Authorization to Misaligned Agents: Coalitional Alignment and Safe Control [20.287915368315996]
  長期にわたるAIエージェントは、コントロール問題を生成します。それぞれのアクションが状態を変更することで、その後のアクションの軌道に影響を与えます。 レビューを他のAIエージェントに委譲することは、同じアライメントの問題を引き起こす。 我々は、$k$ disapprovalsを許容するしきい値ルールが、$k$レビュアーを削除した後、プリンシパルのユーティリティが非負の組合せとして記述できる場合に、正確に安全であることを示す。
  論文  参考訳（メタデータ） (2026-09-14T16:12:41Z)
• When Should a World Model Move? Loss-Conditioned State Execution [4.142275163201261]
  損失条件付き状態実行は、世界モデルの固定可能な提案を実行するか、現在の状態を保持するかを決定するモデルに依存しない手法である。 我々は、状態移動性を損失低減可能な補正の存在として定式化し、特定の提案の利点と区別する。 パブリック予測とアクション条件のダイナミックスベンチマークの実験では、サポートされたアップデートと、認定とカバレッジの間のトレードオフが示されている。
  論文  参考訳（メタデータ） (2026-09-14T16:12:03Z)
• Reality Is the Final Verifier: On Two Key Gaps in Agentic Software Engineering [78.51705689800838]
  本稿では, 要求, モデル, 評価器の見直しに, 展開証拠を用いた保証・修正ループを提案する。 そこで我々は,人的判断,エージェント能力,計算能力に対する資源配分問題としてエージェント開発を保証した。
  論文  参考訳（メタデータ） (2026-09-10T17:58:48Z)
• The Honest Quorum Problem: Epistemic Byzantine Fault Tolerance for Agentic Infrastructure [2.124730017640531]
  ステートマシンレプリケーション(SMR)とビザンチンフォールトトレラント(BFT)コンセンサス保証協定(BFT)は、多くの障害参加者が拘束されているにもかかわらず合意している。 エージェントバリデータは、認証され、応答性があり、非平等であり、プロトコルに準拠した推論参加者は、セマンティックに無効な遷移を支持できる。 本稿では,エージェントインフラストラクチャとポスト決定性分散システムの耐故障モデルであるEBFT(Epstemic Byzantine Fault Tolerance)を定義した。
  論文  参考訳（メタデータ） (2026-07-17T16:43:00Z)
• \mathsf{VISTA}: Decentralized Machine Learning in Adversary Dominated Environments [21.69919643934826]
  分散機械学習は、評価などのアウトソーシング計算を信頼できないワーカノードに頼っていることが多い。 本稿では, 相互に整合性がある場合にのみ, 報告を受理し, 報奨するインセンティブ指向の枠組みを通じて, 敵に支配される設定について検討する。 本稿では,最適化履歴を用いた適応アルゴリズムであるmathsfVISTAを提案する。
  論文  参考訳（メタデータ） (2026-05-08T15:07:15Z)
• Can AI Agents Agree? [32.75269650141292]
  大規模言語モデルは、協調エージェントとしてますます展開されているが、敵のコンセンサス設定におけるそれらの振る舞いは研究されていない。 シンクロ・オール・ツー・オール・シミュレーションを用いて,ビザンチンのコンセンサスゲーム上でのLSMに基づくエージェントをスカラー値で評価する。 グループのサイズが大きくなるにつれて、良質な設定や劣化があっても、有効な合意が信頼できないことが分かりました。
  論文  参考訳（メタデータ） (2026-03-01T18:18:59Z)
• Objective Decoupling in Social Reinforcement Learning: Recovering Ground Truth from Sycophantic Majorities [1.3428344011390776]
  強化学習(Reinforcement Learning)のDogma 4は、評価者がサイコファン、怠け者、あるいは敵対的であるような社会環境では失敗することを示す。 本稿では、この問題を解決するために、疫学的ソースアライメント(ESA)を提案する。 ESAは、信号自体よりもフィードバックのソースを判断するために、スパース安全公理を利用する。
  論文  参考訳（メタデータ） (2026-02-08T19:23:02Z)
• Preventing the Collapse of Peer Review Requires Verification-First AI [49.995126139461085]
  我々は、真理結合、すなわち、過度に科学的真理をトラックする場所のスコアの厳密さを提案する。 プロキシ・ソブリン評価に向けた相転移を駆動する2つの力の形式化を行う。
  論文  参考訳（メタデータ） (2026-01-23T17:17:32Z)
• When Agents See Humans as the Outgroup: Belief-Dependent Bias in LLM-Powered Agents [30.859825973762018]
  本稿は、LSMによるエージェントは、人口統計バイアス(例えば、性別、宗教)だけでなく、グループ間バイアスも最小限の「us」と「them」の手がかりで示していることを示している。 エージェントは他のAIエージェントを内集団として扱うことができ、人間を外集団として扱うことができる。
  論文  参考訳（メタデータ） (2026-01-01T07:18:36Z)
• Unregularized Linear Convergence in Zero-Sum Game from Preference Feedback [50.89125374999765]
  NLHFにおける最適乗算重み更新(mathtOMWU$)に対する最初の収束保証を提供する。 本分析では, 稀に発生する行動の確率が指数関数的に小さい値から指数関数的に増大する新たな限界収束挙動を同定する。
  論文  参考訳（メタデータ） (2025-12-31T12:08:29Z)
• CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
  検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。 エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。 CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
  論文  参考訳（メタデータ） (2025-12-22T16:34:21Z)
• Core Safety Values for Provably Corrigible Agents [2.6451153531057985]
  我々は,複数段階の部分的に観察された環境において,検証可能な保証を付与し,適応性のための最初の実装可能なフレームワークを紹介した。 私たちのフレームワークは、単一の報酬を5つの*構造的に分離された*ユーティリティヘッドに置き換えます。 敵がエージェントを修正できるオープンエンド設定では、任意のポストハックエージェントが調整性に反するかどうかを判断することは不可能である。
  論文  参考訳（メタデータ） (2025-07-28T16:19:25Z)
• Criticality and Safety Margins for Reinforcement Learning [53.10194953873209]
  我々は,定量化基盤真理とユーザにとっての明確な意義の両面から,批判的枠組みを定めようとしている。 エージェントがn連続的ランダム動作に対するポリシーから逸脱した場合の報酬の減少として真臨界を導入する。 我々はまた、真の臨界と統計的に単調な関係を持つ低オーバーヘッド計量であるプロキシ臨界の概念も導入する。
  論文  参考訳（メタデータ） (2024-09-26T21:00:45Z)
• Robust Allocations with Diversity Constraints [65.3799850959513]
  エージェント値の積を最大化するナッシュ福祉規則は,多様性の制約が導入されたとき,一意にロバストな位置にあることを示す。 また, ナッシュ・ウェルズによる保証は, 広く研究されているアロケーション・ルールのクラスにおいて, ほぼ最適であることを示す。
  論文  参考訳（メタデータ） (2021-09-30T11:09:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。