論文の概要: Bilevel Coordinated Reflection: A Game-Theoretic Approach to Multi-Agent LLM Systems
- arxiv url: http://arxiv.org/abs/2609.02750v1
- Date: Wed, 02 Sep 2026 15:50:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-03 17:53:18.45863
- Title: Bilevel Coordinated Reflection: A Game-Theoretic Approach to Multi-Agent LLM Systems
- Title(参考訳): 2レベル協調反射:マルチエージェントLLMシステムに対するゲーム理論的アプローチ
- Abstract要約: マルチエージェントLLMシステムは、一般的にオーケストレータを使用して、労働者のチームのためにタスクを分解し、テキストリフレクションによって改善する。
強い実証結果にもかかわらず、これらのシステムには調整、メモリ改善、外部検証の役割の統一的な説明が欠けている。
我々は,評価のための信頼ゲーティングと,断片的な静止環境に対する保証の再集計を行う。
実験では、これらのオブジェクトを環境条件付きメトリクスでインスタンス化し、予測調整法則とドリフト法則をテストする。
- 参考スコア(独自算出の注目度): 40.47928908205563
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multi-agent LLM systems commonly use an orchestrator to decompose a task for a team of workers and then improve through textual reflection. Despite strong empirical results, these systems lack a unified account of coordination, memory improvement, and the role of external verification. We model orchestrator-worker interaction as a bilevel coordination game: under bounded coupling, the workers' local-update game is an approximate potential game whose equilibrium slack is controlled by decomposition quality. We then analyse reflection as stochastic movement over semantic memory states. For free-form reflection, we derive a finite-time upper bound, prove worst-case tightness, and give a positive lower bound under a falsifiable persistent-harm condition. We further prove an information-theoretic impossibility result: no gate that observes only the generated transcript can improve uniformly over text-indistinguishable environments, whereas an environment-grounded gate can. Motivated by this separation, we introduce Stochastic Reflective Memory Ascent (SRMA), which accepts a candidate memory only after a grounded evaluation risk strictly decreases. Under calibration and non-degenerate corrective mass, SRMA converges exactly, geometrically or polynomially; matching constructions show that both rate regimes are order-tight. We also provide confidence gating for stochastic evaluation and re-anchoring guarantees for piecewise-stationary environments. Experiments instantiate these objects with environment-grounded metrics and test the predicted coordination and drift laws. On 500 SWE-bench instances, the complete Kimi-based system resolves 72.2% versus a 70.8% public mini-SWE-agent reference. Code: https://github.com/YihangChen9/Bilevel-Coordinated-Reflection
- Abstract(参考訳): マルチエージェントLLMシステムは、一般的にオーケストレータを使用して、労働者のチームのためにタスクを分解し、テキストリフレクションによって改善する。
強い実証結果にもかかわらず、これらのシステムには調整、メモリ改善、外部検証の役割の統一的な説明が欠けている。
両レベル協調ゲームとしてオーケストレータと労働者の相互作用をモデル化する: 有界結合の下では、労働者の局所更新ゲームは、平衡スラックが分解品質によって制御される近似ポテンシャルゲームである。
次に、意味記憶状態に対する確率的運動としての反射を分析する。
自由形反射の場合、有限時間上界を導出し、最悪のケースの厳密性を証明し、ファルシブルな持続的ハーム条件の下で正の下界を与える。
生成した文字のみを観察するゲートは、テキストを区別できない環境において一様に改善できるが、環境に接するゲートは不可能である。
この分離に動機づけられたStochastic Reflective Memory Ascent(SRMA)を導入する。
キャリブレーションと非退化補正質量の下では、SRMAは幾何学的にも多項式的にも正確に収束する。
また、確率的評価のための信頼ゲーティングや、断片的な静止環境に対する保証の再調整も提供する。
実験では、これらのオブジェクトを環境条件付きメトリクスでインスタンス化し、予測調整法則とドリフト法則をテストする。
500のSWE-benchインスタンスでは、キミベースのシステムは72.2%と、70.8%の公開ミニSWE-agent参照に対して解決する。
コード:https://github.com/YihangChen9/Bilevel-Coordinated-Reflection
関連論文リスト
- Cross-Session Decomposition Attacks: Scaling Risk and Intent-Aligned Retrieval Defense [49.05879299987137]
言語モデリングの損失の低減は、より有用なモデルを生み出します。
本研究は,このメカニズムの安全性について,独立した相互作用を通じて,良質なサブクエリが要求され,後に禁忌の対象へと再帰される,エンフクロス・セッション分解攻撃(enmphcross-session decomposition attack)における研究である。
我々は、この設定をEmphcompositional safety riskとして定式化し、条件付きリスク-転送境界を証明する。
論文 参考訳(メタデータ) (2026-08-28T05:39:29Z) - Controllable Sim Agents with Behavior Latents [9.41175594126692]
制御可能な変量エージェント(CNeVA)は、制御可能なシミュレートエージェントフレームワークである。
速度および加速度に基づくステアリングは、ストールによる報酬ハックを伴わずにモノトーン応答を生成する。
本実験は, ステアリングの指標を物理楽観性ガードレールと併用して読み込まなければならないことを示す。
論文 参考訳(メタデータ) (2026-07-02T17:55:39Z) - The Evaluation Game: Beyond Static LLM Benchmarking [2.168753020470345]
本稿では,評価者とトレーナーの相互作用を2人プレイヤゲームとして形式化するゲーム理論フレームワークを提案する。
モデルの局所性依存性を示す実証的証拠を提供する。
ベンチマークは静的なプロンプトのセットではなく,評価者のグループアクションの下での軌道である。
論文 参考訳(メタデータ) (2026-05-19T05:22:21Z) - Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。
アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。
ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
論文 参考訳(メタデータ) (2026-04-21T15:05:58Z) - Beyond Reward Suppression: Reshaping Steganographic Communication Protocols in MARL via Dynamic Representational Circuit Breaking [0.0]
監視を回避するためのプライベートプロトコルを開発するエージェントによるステガノグラフィーの共謀は、AIの安全性に重大な脅威をもたらす。
既存の防御は行動層や報酬層に限られており、潜伏する通信路での調整を検知できない。
本稿では,動的表現回路ブレーカ(DRCB)について紹介する。
論文 参考訳(メタデータ) (2026-03-07T04:14:38Z) - PRISM: Parallel Reward Integration with Symmetry for MORL [21.062340361303608]
本研究はMORL(Multi-Objective Reinforcement Learning)について研究し,時間周波数で目的が著しく異なることを示す。
本稿では,報酬チャネルの整合における帰納バイアスとして反射対称性を適用したPRISM(Parallel Reward Integration with Symmetry)アルゴリズムを提案する。
MuJoCoベンチマーク全体では、PRISMはスパースリワードベースラインと、フルに密集した報酬でトレーニングされた託宣の両方を一貫して上回っている。
論文 参考訳(メタデータ) (2026-02-20T15:02:42Z) - CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。
エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。
CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
論文 参考訳(メタデータ) (2025-12-22T16:34:21Z) - Reinforcement Learning with Verifiable yet Noisy Rewards under Imperfect Verifiers [90.50039419576807]
RLVR(Reinforcement Learning with Verifiable Rewards)は、人為的なラベル付けを避けるために、自動検証に対するポリシーを訓練する。
認証ハッキングの脆弱性を軽減するため、多くのRLVRシステムはトレーニング中にバイナリ$0,1$の報酬を破棄する。
この選択にはコストがかかる:textitfalse negatives(正しい回答、FNを拒絶)とtextitfalse positives(間違った回答、FPを受け入れる)を導入する。
論文 参考訳(メタデータ) (2025-10-01T13:56:44Z) - Detecting Rewards Deterioration in Episodic Reinforcement Learning [63.49923393311052]
多くのRLアプリケーションでは、トレーニングが終了すると、エージェント性能の劣化をできるだけ早く検出することが不可欠である。
我々は,各エピソードにおける報酬が独立でもなく,同一に分散した,マルコフでもない,エピソード的枠組みを考察する。
平均シフトは、時間信号の劣化(報酬など)に対応する方法で定義し、最適な統計的パワーでこの問題の試行を導出する。
論文 参考訳(メタデータ) (2020-10-22T12:45:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。