論文の概要: Training Observable Control Policies to Expose Agent State Through Actions

• arxiv url: http://arxiv.org/abs/2606.27609v1
• Date: Thu, 25 Jun 2026 23:50:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-29 18:24:25.328438
• Title: Training Observable Control Policies to Expose Agent State Through Actions
• Title（参考訳）: アクションによるエージェント状態の抽出のための可観測制御政策の訓練
• Abstract要約: 政策可観測性はトレーニング報酬によって奨励され、訓練されたエージェントのシミュレーションを用いて分析される。 航空機追尾問題においては,観測可能性の向上が課題性能に与える影響を最小限に抑える。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Physical or operational constraints often impose communications limitations on autonomous agents. Such limitations complicate monitoring or multiagent coordination. Even when strong communications are absent, some information may still be available. The remainder of the relevant agent state may be reconstructed via estimation. The actions taken by an agent are a potential source of information -- as the agent interacts with the environment, these actions may be observed even in the absence of explicit communication. We investigate using actions to estimate the state of an agent, using reinforcement learning to develop policies which make the estimation problem more tractable. Policy observability is encouraged through the training reward and is analyzed using simulation of the trained agent. In an aircraft tracking problem a policy with enhanced observability is found that has minimal impact on nominal task performance.
• Abstract（参考訳）: 物理的または運用上の制約は、しばしば自律的なエージェントに通信制限を課す。 このような制限は監視やマルチエージェントの調整を複雑にする。 強いコミュニケーションが欠如している場合でも、いくつかの情報は引き続き利用可能である。 関連するエージェント状態の残りは、推定によって再構築することができる。 エージェントが取るアクションは情報の潜在的な源であり、エージェントが環境と相互作用するにつれて、明示的なコミュニケーションがなくてもこれらのアクションが観察される可能性がある。 本研究では,エージェントの状態を推定するためのアクションを用いて,強化学習を用いて,評価問題をより難易度の高いものにするためのポリシーを開発する。 政策可観測性はトレーニング報酬によって奨励され、訓練されたエージェントのシミュレーションを用いて分析される。 航空機追尾問題においては,観測可能性の向上が課題性能に与える影響を最小限に抑える。

関連論文リスト

• Finishing the Task Is Not Enough: Evaluating Agent Resilience and Considerate Participation under Accumulating Challenge [3.7173953682452585]
  我々は,2つの生成AIモデルと12の利害関係者によるタスクを,軽度,中等度,重度の課題下でシミュレーションした120のヘルスケアトラジェクトリについて検討した。 我々は,このようなエージェントを評価するための2つの相補的な側面として,運用のレジリエンスと参加について考察する。 永続性、注意力、役割境界、状態開示、エスカレーションを含む5つのデプロイメントジレンマを導出します。
  論文  参考訳（メタデータ） (2026-09-09T18:18:10Z)
• REDAgentBench: Executable Red Teaming and Faithful Measurement of LLM Agent Systems [21.484325207774166]
  逆入力はエージェントと環境の間の相互作用を利用することができ、実行中にエージェントが安全ポリシーに違反する。 自律的なリピートと忠実な測定を行うためのフレームワークであるREDAgentBenchを紹介する。 明示的な安全制約と関連するエージェントシステム脆弱性から攻撃を導き、独立したサービスサンドボックスでそれらを実行し、サービスレシートと最終状態の変更による有害な影響を検証する。
  論文  参考訳（メタデータ） (2026-08-11T08:48:54Z)
• Task-Oriented Sensing and Covert Transmissions for Collaborative Multi-AUV Systems [67.63956000297922]
  本稿では,協調作業における情報の有用性を特徴付けるための,感性情報量実現型マルチエージェント強化学習(SVR-MARL)フレームワークを提案する。 不要なコミュニケーションや露出リスクを低減しつつ,協調作業効率を向上させるフレームワークの可能性を示す。
  論文  参考訳（メタデータ） (2026-07-15T14:29:25Z)
• Learning Agent-Compatible Context Management for Long-Horizon Tasks [79.09330817637205]
  フリーズエージェントのコンテキストを管理するために外部LLMをトレーニングするAdaptive Context Management (AdaCoM)を導入する。 AdaCoMは、静的なコンテンツをプルーニングしながらタスク制約と進捗を保ち、パフォーマンスを大幅に改善する。 学習した戦略は、忠実度-信頼性のトレードオフを明らかにしている: よりバニラリアクトなパフォーマンスを持つエージェントは、高忠実度コンテキストの保存から恩恵を受ける一方、低いパフォーマンスのエージェントは、信頼できる推論体制内に留まるためにより攻撃的な圧縮を必要とする。
  論文  参考訳（メタデータ） (2026-05-29T03:21:08Z)
• Agents of Chaos [50.53354213047402]
  実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。 20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。 我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
  論文  参考訳（メタデータ） (2026-02-23T16:28:48Z)
• Are Your Agents Upward Deceivers? [73.1073084327614]
  大規模言語モデル(LLM)ベースのエージェントは、ユーザのためにタスクを実行する自律的な従属者として、ますます使われています。 これは、人間の組織の個人がどのように上官に嘘をついて良いイメージを作り出したり、罰を免れるかのような、詐欺にも関与するかどうかという問題を提起する。 本研究では,環境制約に直面するエージェントが障害を隠蔽し,報告なしに要求されない動作を行う現象であるエージェント上行錯誤を観察・定義する。
  論文  参考訳（メタデータ） (2025-12-04T14:47:05Z)
• Evaluating Generalization Capabilities of LLM-Based Agents in Mixed-Motive Scenarios Using Concordia [100.74015791021044]
  大規模言語モデル(LLM)エージェントは、社会的相互作用の素晴らしい能力を実証している。 既存の評価手法は、これらの能力がいかに新しい社会的状況に一般化するかを測ることに失敗する。 我々は,NeurIPS 2024 Concordia Contestで,エージェントが相互利得を達成する能力について評価した経験的結果を示す。
  論文  参考訳（メタデータ） (2025-12-03T00:11:05Z)
• Understanding Action Effects through Instrumental Empowerment in Multi-Agent Reinforcement Learning [39.74025439412935]
  本研究は,政策分布の分析のみでエージェント行動に対する有意義な洞察を抽出できるかどうかを考察する。 知的エージェントが収束器質的価値を追求する傾向にある現象にインスパイアされた我々は、ICV(Intended Cooperation Values)を導入する。 ICVは、その決定(不確実性)と選好の整合性を評価することで、チームメイトの方針に対するエージェントの作用を測定する。
  論文  参考訳（メタデータ） (2025-08-21T15:35:59Z)
• SOPBench: Evaluating Language Agents at Following Standard Operating Procedures and Constraints [59.645885492637845]
  SOPBenchは、各サービス固有のSOPコードプログラムを実行可能な関数の有向グラフに変換する評価パイプラインである。 提案手法では,各サービス固有のSOPコードプログラムを実行可能関数の有向グラフに変換し,自然言語SOP記述に基づいてこれらの関数を呼び出しなければならない。 我々は18の先行モデルを評価し、上位モデルでさえタスクが困難であることを示す。
  論文  参考訳（メタデータ） (2025-03-11T17:53:02Z)
• DCMAC: Demand-aware Customized Multi-Agent Communication via Upper Bound Training [9.068971933560416]
  本稿では,アッパーバウンドトレーニングを用いて理想的なポリシを得る,要求対応のカスタマイズ型マルチエージェント通信プロトコルを提案する。 実験結果から,DCMACは,制約のない,通信制約のないシナリオにおいて,ベースラインアルゴリズムを著しく上回ることがわかった。
  論文  参考訳（メタデータ） (2024-09-11T09:23:27Z)
• Fact-based Agent modeling for Multi-Agent Reinforcement Learning [6.431977627644292]
  Fact-based Agent Modeling (FAM) 法は,Fact-based belief inference (FBI) ネットワークがローカル情報のみに基づいて,部分的に観測可能な環境下で他のエージェントをモデル化する手法である。 種々のマルチエージェント粒子環境(MPE)上でFAMを評価し,その結果を最先端のMARLアルゴリズムと比較した。
  論文  参考訳（メタデータ） (2023-10-18T19:43:38Z)
• Explaining Reinforcement Learning Policies through Counterfactual Trajectories [147.7246109100945]
  人間の開発者は、RLエージェントがテスト時にうまく機能することを検証しなければならない。 本手法では, エージェントの挙動をより広い軌道分布で示すことにより, エージェントの挙動を分布変化下で表現する。 本研究では,2つのエージェント検証タスクのうちの1つに対して,ベースライン法よりも優れたスコアを得られることを示す。
  論文  参考訳（メタデータ） (2022-01-29T00:52:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。