論文の概要: Policy Optimality Measurement for Multi-Vehicle Decision-Making: From Extrinsic Indicators to Intrinsic Quality
- arxiv url: http://arxiv.org/abs/2608.01133v1
- Date: Sun, 02 Aug 2026 10:21:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.091412
- Title: Policy Optimality Measurement for Multi-Vehicle Decision-Making: From Extrinsic Indicators to Intrinsic Quality
- Title(参考訳): 多車種意思決定のための政策最適度測定:外因性指標から内因性品質へ
- Abstract要約: 本稿では,自律運転政策を評価するための新しい情報理論診断フレームワークを提案する。
完全に収束したモンテカルロ木探索 (MCTS) をオラクルとして活用することにより, 理論的基盤構造分布を確立する。
我々はこの計量を横次元と縦次元に意味的に分離し、粒度の細かい「セマンティック顕微鏡」を作成する。
- 参考スコア(独自算出の注目度): 13.870167545420935
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Evaluating Multi-Agent Reinforcement Learning (MARL) policies in autonomous driving fundamentally relies on extrinsic statistical indicators (e.g., reward curves and success rates), which often mask intrinsic policy degradation and algorithmic blind spots. To break this black-box evaluation, this letter proposes a novel information-theoretic diagnostic framework. By leveraging a fully converged Monte Carlo Tree Search (MCTS) as an asymptotic oracle, we establish a theoretical ground-truth baseline distribution. We formulate a bounded policy optimality score ($\mathcal{M}_{opt}$) using the forward KL divergence to rigorously penalize fatal collaborative omissions. Crucially, we semantically decouple this metric into lateral and longitudinal dimensions, creating a granular "semantic microscope". Extensive spatial and temporal diagnostics on state-of-the-art MARL architectures and exploration mechanisms demonstrate that our framework conclusively exposes hidden directional biases, identifies temporal average-policy traps, and transforms heuristic hyperparameter tuning into a visually trackable trajectory optimization. This framework establishes a rigorous, model-agnostic standard for benchmarking intrinsic multi-agent policy quality.
- Abstract(参考訳): 自律運転におけるマルチエージェント強化学習(MARL)政策の評価は、本質的に外在的な統計指標(例えば、報酬曲線と成功率)に依存しており、内在的な政策劣化やアルゴリズム的な盲点を隠蔽することが多い。
このブラックボックス評価を破るために,本論文では,新しい情報理論診断フレームワークを提案する。
完全に収束したモンテカルロ木探索 (MCTS) を漸近のオラクルとして活用することにより, 理論的基盤トラス分布を確立する。
我々は、前方KL偏差を用いた境界政策最適度スコア(\mathcal{M}_{opt}$)を定式化し、致命的な協調的省略を厳格に罰する。
重要なことに、私たちはこの計量を横方向と縦方向の次元に意味的に分離し、粒度の細かい「セマンティック顕微鏡」を作成しました。
最先端のMARLアーキテクチャと探査機構の大規模な空間的・時間的診断は,我々のフレームワークが隠れた指向性バイアスを包括的に露呈し,時間的平均政治トラップを特定し,ヒューリスティックなハイパーパラメータチューニングを視覚的に追跡可能な軌道最適化に変換することを実証している。
このフレームワークは、固有のマルチエージェントポリシー品質をベンチマークするための厳密でモデルに依存しない標準を確立する。
関連論文リスト
- A Continuous-Time Reinforcement Learning Framework for Fine-Tuning Discrete Diffusion Models [9.133661763917374]
我々は、離散状態空間とおそらく任意の行動空間で連続的に強化学習(RL)を定式化する。
スコアベース離散拡散モデルを微調整するための完全連続時間RLフレームワークを開発した。
論文 参考訳(メタデータ) (2026-07-16T03:19:53Z) - Expanding SPHERE-JEPA: A Family of Statistical Regularizers for the Hypersphere [11.087393998848254]
SSL(Self-Supervised Learning)では,単位超球面上の一様分布を明示的に強制することにより,表現の崩壊を防止することが実証された。
現在のフレームワークは通常、SIGReg(LeJEPAで使用される)やSUSReg(SPHEREJEPAで使用される)のようなスライスされた統計正規化器に依存している。
これにより、トレーニング勾配にプロジェクションのばらつきを注入し、最適化を安定化させ、収束を妨げる。
本研究では,これらのランダムな射影を解析的に統合することにより,決定論的最大平均離散性(MMD)が得られ,スライスされた手法のばらつきを回避できることを示す。
論文 参考訳(メタデータ) (2026-06-16T07:10:05Z) - Influence-Guided Symbolic Regression: Scientific Discovery via LLM-Driven Equation Search with Granular Feedback [56.69850045068714]
逐次的2段階プロセスとして方程式発見をフレーム化する方法である textitInfluence-Guided Regression (IGSR) を導入する。
LLM-SRBench, 薬理学的PKPDモデル, 疫学シミュレーション, 実世界のゲノムデータなど, IGSRの有効性を示す。
論文 参考訳(メタデータ) (2026-05-27T23:48:01Z) - Reinforcement Learning for Laser Additive Manufacturing Scan-Order Optimisation: A Bilevel Proxy--FEA Diagnostic Framework for Reward and World-Model Diagnosis [21.97902184672397]
強化学習はレーザー添加物製造におけるスキャン順序最適化に有望なアプローチを提供する。
完全有限要素解析は、ループ内密評価において計算的に禁じられている。
本稿では,報酬と世界モデル診断のための2レベルプロキシ-FEA診断フレームワークについて検討する。
論文 参考訳(メタデータ) (2026-05-24T13:17:05Z) - Regulating Anatomy-Aware Rewards via Trajectory-Integral Feedback for Volumetric Computed Tomography Analysis [30.439440028190944]
我々は,放射線学報告を検証可能な臨床的意味単位に分解する構造化システムであるtextbfClinical Abnormality Benchmarking Substrate (CABS) を導入する。
制御理論の原理を政策最適化に組み込んだ新しいフレームワークである textbfTrajectory-Integral FeedbackO (TIF-GRPO) を提案する。
論文 参考訳(メタデータ) (2026-05-19T04:33:27Z) - Split the Differences, Pool the Rest: Provably Efficient Multi-Objective Imitation [49.86232017439639]
マルチ出力拡張行動クローン(MA-BC)について紹介する。
MA-BCは、振る舞いの衝突が観測されない状態-動作ペアをプールしながら、専門家データを分離する。
我々は,MA-BCが極小であることを示す,多目的模倣学習のための新しい下位境界を確立する。
論文 参考訳(メタデータ) (2026-05-12T11:49:08Z) - Too Correct to Learn: Reinforcement Learning on Saturated Reasoning Data [55.84428098924793]
構造保存探索を行うためのパラメータ自由復号法である Constrained Uniform Top-K Smpling (CUTS) を提案する。
グループ内の利点分散を増幅するために、エクスプロイトと探索的なロールアウトを相乗化するためのトレーニングフレームワークであるMixed-CUTSに統合する。
特にMixed-CUTSは、AIME25ベンチマークのPass@1の精度を標準のGRPOよりも15.1%向上している。
論文 参考訳(メタデータ) (2026-04-20T16:43:28Z) - Blind-Spot Mass: A Good-Turing Framework for Quantifying Deployment Coverage Risk in Machine Learning Systems [0.0]
Blindspot massは、機械学習におけるデプロイメントカバレッジリスクを定量化するためのグッドチューリングフレームワークである。
実験支援がしきい値タウ以下となる状態に割り当てられた総確率質量を推定する展開距離であるブラインドスポット質量B_n(tau)を提案する。
論文 参考訳(メタデータ) (2026-04-06T18:06:38Z) - Gaussian Joint Embeddings For Self-Supervised Representation Learning [0.0]
自己パラメトリック表現学習は、しばしば決定論的予測アーキテクチャに頼り、潜在空間におけるコンテキストとターゲットビューを整列させる。
生成的関節モデルに基づく確率的代替案を提案する。
論文 参考訳(メタデータ) (2026-03-26T00:54:54Z) - SIGMA: Scalable Spectral Insights for LLM Collapse [51.863164847253366]
SIGMA(Spectral Inequalities for Gram Matrix Analysis)は,モデル崩壊のための統一的なフレームワークである。
行列のスペクトル上の決定論的境界を導出するベンチマークを利用することで、SIGMAは表現空間の収縮を追跡するために数学的に基底化された計量を提供する。
我々は、SIGMAが状態への遷移を効果的に捉え、崩壊のメカニズムに関する理論的知見の両方を提供することを示した。
論文 参考訳(メタデータ) (2026-01-06T19:47:11Z) - Statistical control for spatio-temporal MEG/EEG source imaging with
desparsified multi-task Lasso [102.84915019938413]
脳磁図(MEG)や脳電図(EEG)のような非侵襲的手法は、非侵襲的手法を約束する。
ソースローカライゼーション(ソースイメージング)の問題は、しかしながら、高次元の統計的推測問題を引き起こす。
この問題に対処するために,分離されたマルチタスクラッソ(ecd-MTLasso)のアンサンブルを提案する。
論文 参考訳(メタデータ) (2020-09-29T21:17:16Z) - Global Convergence of Policy Gradient for Linear-Quadratic Mean-Field
Control/Game in Continuous Time [109.06623773924737]
線形二乗平均場制御とゲームに対するポリシー勾配法について検討する。
線形速度で最適解に収束し, 合成シミュレーションにより検証した。
論文 参考訳(メタデータ) (2020-08-16T06:34:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。