論文の概要: One Task, Many Interfaces: Simple Cross-Interface Consistency Training Improves LLM Agent Robustness
- arxiv url: http://arxiv.org/abs/2610.20576v1
- Date: Wed, 14 Oct 2026 17:56:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:16.289877
- Title: One Task, Many Interfaces: Simple Cross-Interface Consistency Training Improves LLM Agent Robustness
- Title(参考訳): LLMエージェントのロバスト性を改善するシンプルなインターフェースの整合性トレーニング
- Abstract要約: ポストトレーニングは、LLMエージェントの能力とトレーニング対象のインターフェースとを結びつける。
アクション名を非形式的な識別子に置き換えるために,CIPR (Interface Policy Regularization) を提案する。
教師付きおよび強化学習後トレーニングにおけるCIPRの評価を行い,ロバスト性の向上を図った。
- 参考スコア(独自算出の注目度): 5.815103758695631
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Post-training binds the competence of an LLM agent to the interface it was trained on. Semantics-preserving perturbations of that interface, such as renaming an action or changing the notation, leave the underlying task unchanged yet make the agent worse at it. Scoring each sample independently means interface randomization only broadens this dependence from a single interface to the training interface distribution, so out-of-distribution perturbations still degrade the agent. We propose Cross-Interface Policy Regularization (CIPR), a self-supervised objective that replaces action names with uninformative identifiers and presents each training sample under two interfaces in which equivalent actions are identified by construction. CIPR penalizes the KL divergence between the action distributions induced under the two interfaces, so the policy behaves consistently across them. We evaluate CIPR in both supervised and reinforcement-learning post-training, where it improves robustness. On agentic function calling, held-out interface perturbations reduce the accuracy of a post-trained agent by nearly 25%, and CIPR recovers 10.5% while leaving accuracy on the unchanged interface intact.
- Abstract(参考訳): ポストトレーニングは、LLMエージェントの能力とトレーニング対象のインターフェースとを結びつける。
アクションのリネームや表記の変更など、インターフェイスのセマンティック保存の摂動は、基礎となるタスクをそのままにして、エージェントを悪化させる。
各サンプルを個別に選別すると、インターフェイスのランダム化は単一のインタフェースからトレーニングインターフェイスの分布への依存を拡大するだけであり、したがって分布外摂動は依然としてエージェントを劣化させる。
本研究では,行動名を非形式的識別子に置き換える自己教師型目標であるクロスインタフェースポリシー規則化(CIPR)を提案し,これに基づいて,等価な動作が構築によって識別される2つのインタフェース下で,各トレーニングサンプルを提示する。
CIPRは2つのインターフェースの下で誘導される作用分布間のKLのばらつきを罰するので、ポリシーはそれら全体で一貫して振る舞う。
教師付きおよび強化学習後トレーニングにおけるCIPRの評価を行い,ロバスト性の向上を図った。
エージェント関数呼び出しでは、ホールドアウトインタフェースの摂動により、トレーニング後のエージェントの精度が25%近く低下し、CIPRは変更されていないインターフェイスの精度を保ちながら10.5%回復する。
関連論文リスト
- MeshHeal: Two-Timescale Self-Healing for Gray Failures in Decentralized LLM Agent Networks [60.95806999869478]
MeshHealは、完全に分散化された自己修復フレームワークである。
能力にマッチしたピアレビューを2つのタイムスケールに分けている。
1タスクあたり51kのトータルモデルトークンを使用して0.839の劣化位相精度を達成し、最強のベースラインでは1タスクあたり115kの0.807の精度を達成した。
論文 参考訳(メタデータ) (2026-09-24T04:29:37Z) - MATES: Learning Multi-Agent Interactions by Transforming Observations for Frozen Single-Agent Policies [2.2801444394060257]
MATES(Multi-Agent Observation Transformation for existing Single-Agent Policies)について紹介する。
MATESは、個別に識別可能な隣接情報を公開しながら、単独タスク情報を保存しているタスクのための入力側適応フレームワークである。
我々は、生涯にわたるパスフィニング、ナビゲーション、協調的な発見において、オン・アンド・オフ・ポリシーのアルゴリズムを用いてMATESを評価する。
論文 参考訳(メタデータ) (2026-09-22T11:10:34Z) - UnifiedPlayers: Enhance Tool-Integrated Reasoning in Agentic Reinforcement Learning [10.82443398666203]
自己進化的手法は、ツール使用エージェントが独自のトレーニングデータを生成することによって、人間に注釈をつけた軌道の必要性を減らす。
計画、実行、評価を共同で適応させることは、有望な代替手段を提供するが、基本的な調整課題を導入する。
この課題に対処するために、textbfUnifiedPlayers、タスクを生成するPlanning Player、Pythonツールコールでマルチターントラジェクトリを生成するExecution Player、実行可能なバリデーションを構築するAudiment Playerという協調的なフレームワークを使います。
論文 参考訳(メタデータ) (2026-09-17T11:49:31Z) - MechRL: Reinforcement Learning Agents Perform Circuit Discovery for Mechanistic Interpretability [0.0]
我々は回路発見を強化学習問題として再放送する。
エージェントは、離散的なアクション空間として、GPT-2の144個のアテンションヘッドを動作させる。
単一のPPOポリシーは、トレーニングタスクと保持された第3タスクの両方において、エピソード単位のオラクルを達成する。
論文 参考訳(メタデータ) (2026-05-25T21:32:57Z) - SEAL: Synergistic Co-Evolution of Agents and Learning Environments [11.720414165425256]
大きな言語モデル(LLM)エージェントは、インタラクションによってますます改善されている。
ほとんどの自己進化的手法は、政策または学習環境を独立に適応させる。
対話型ツール利用エージェントのためのクローズドループ共進化フレームワークSEALを提案する。
論文 参考訳(メタデータ) (2026-05-23T06:41:31Z) - Improving Search Agent with One Line of Code [68.58667107354253]
ツールベースのエージェント強化学習(TARL)は,検索エージェントが外部ツールと対話できるようにトレーニングするための,有望なパラダイムとして登場した。
textbfSearch textbfAgent textbfPolicy textbfOptimization (textbfSAPO)を提案する。
論文 参考訳(メタデータ) (2026-03-10T04:07:39Z) - What Do Agents Learn from Trajectory-SFT: Semantics or Interfaces? [32.72487312750579]
最小限の書き直し環境インタフェースによるインタフェース依存の診断のためのプロトコルレベルの評価拡張であるPIPEを提案する。
AgentBenchとAgentGymの16の環境と、さまざまなオープンソースおよびAPIベースのエージェントから、PIPEは、trajectory-SFTがインターフェイスショートカットを大幅に増幅することを明らかにした。
さらに、トレーニング時間インタフェースの嗜好を定量化する対等なエイリアスに基づく計量であるInterface Reliance(IR)を導入する。
論文 参考訳(メタデータ) (2026-02-02T04:02:03Z) - CKAA: Cross-subspace Knowledge Alignment and Aggregation for Robust Continual Learning [80.18781219542016]
継続的学習(CL)は、シーケンシャルなタスクストリームから継続的に学習するAIモデルに権限を与える。
近年,パラメータ効率のよい微調整(PEFT)によるCL法が注目されている。
ミスリード型タスクIDに対するロバスト性を高めるために,クロスサブスペース・ナレッジアライメント・アグリゲーション(CKAA)を提案する。
論文 参考訳(メタデータ) (2025-07-13T03:11:35Z) - AsyCo: An Asymmetric Dual-task Co-training Model for Partial-label Learning [53.97072488455662]
自己学習モデルは、最先端のパフォーマンスを実現するが、誤って曖昧なインスタンスによって生じるエラーの蓄積問題に悩まされる。
本稿では,2つのネットワーク,すなわち曖昧なネットワークと補助的なネットワークに,異なる視点から明確に学習するよう強制する,AsyCoという非対称なデュアルタスク協調学習モデルを提案する。
AsyCoの有効性を実証するため、一様および一様にラベル付けされた部分ラベル付きデータセットの実験を行った。
論文 参考訳(メタデータ) (2024-07-21T02:08:51Z) - Cooperative Online Learning in Stochastic and Adversarial MDPs [50.62439652257712]
我々は、協調的オンライン学習と敵対的マルコフ決定過程(MDP)について研究する。
各エピソードでは、$m$エージェントが同時にMDPと対話し、個人の後悔を最小限に抑えるために情報を共有する。
協調強化学習(RL)を非フレッシュランダム性, あるいは敵対的MDPで検討したのは, 初めてである。
論文 参考訳(メタデータ) (2022-01-31T12:32:11Z) - Distributed Adaptive Learning Under Communication Constraints [54.22472738551687]
本研究では,コミュニケーション制約下での運用を目的とした適応型分散学習戦略について検討する。
我々は,ストリーミングデータの連続的な観察から,オンライン最適化問題を解決しなければならないエージェントのネットワークを考える。
論文 参考訳(メタデータ) (2021-12-03T19:23:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。