論文の概要: RL-ADA: A World-Feedback Framework for Adversarially Robust Enterprise Dialogue Agents
- arxiv url: http://arxiv.org/abs/2609.02902v1
- Date: Mon, 06 Jul 2026 15:56:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.454494
- Title: RL-ADA: A World-Feedback Framework for Adversarially Robust Enterprise Dialogue Agents
- Title（参考訳）: RL-ADA: 逆ロバストなエンタープライズ対話エージェントのためのWorld-Feedbackフレームワーク
- Abstract要約: RL-ADA(Reinforcement Learning with Adversarial Dialogue Agents)は、人間のラベルをemphworldのフィードバックで置き換えるトレーニングフレームワークである。
銀行のカスタマーサポートの概念実証では、ツールルーティングエラーが排除され、厳格なエンドツーエンドPASSレートが5つの共進化サイクルで倍になる。
我々は、CAが報酬圧力から純粋に、密集した現実的な顧客の詳細に意図を埋め込むことを学ぶ敵対的戦略であるtextbfContextual Camouflageの出現を観察する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deploying task-oriented dialogue agents in enterprise customer support faces a persistent annotation bottleneck: robust training requires labelled interaction data at scale, yet enterprise conversational logs are privacy-sensitive and expensive to annotate, while user behaviour evolves faster than labelling pipelines can keep pace. We present RL-ADA (Reinforcement Learning with Adversarial Dialogue Agents), a co-evolutionary training framework that eliminates this bottleneck by replacing human labels with \emph{world feedback}: consequence-based reward signals derived directly from measurable interaction outcomes. A Customer Support Agent (DA, 3B parameters) and an Adversarial Customer Agent (CA, 7B parameters) co-evolve in an adversarial arena guided by a fixed automated judge: the DA is rewarded for correctly handling multi-turn customer conversations to successful resolution, while the CA is rewarded for producing realistic, intent-concealing utterances that cause misroutes, creating asymmetric adversarial pressure through opposing but independently structured rewards. An isolation gym iteratively retrains the weaker agent on prior-failure transcripts, requiring no human annotation at any stage. In a banking customer support proof of concept, tool-routing errors are eliminated and the strict end-to-end PASS rate doubles over five co-evolutionary cycles, driven solely by automated arena reward with no labelled data. We additionally observe the emergence of \textbf{Contextual Camouflage}, an adversarial strategy in which the CA learns to embed intent within dense realistic customer detail purely from reward pressure, with direct implications for enterprise red-teaming and robustness evaluation.
- Abstract（参考訳）: 堅牢なトレーニングにはラベル付きインタラクションデータが必要だが、エンタープライズ会話ログはプライバシに敏感でアノテートに費用がかかる。
RL-ADA(Reinforcement Learning with Adversarial Dialogue Agents, Reinforcement Learning with Adversarial Dialogue Agents, RL-ADA)は、人間のラベルを「emph{world feedback}」に置き換えることでボトルネックを解消する学習フレームワークである。
顧客支援エージェント(DA,3Bパラメータ)及び対人顧客エージェント(CA,7Bパラメータ)は、固定された自動判断者によって誘導される対人アリーナで共進化し、DAは、複数回顧客の会話を正常に処理して解決を成功させ、CAは、現実的で意図に満ちた発話を発生させ、反抗的かつ独立的に構成された報酬によって非対称な対人圧力を発生させる。
隔離体育館は、いかなる段階でも人間のアノテーションを必要とせず、より弱いエージェントを事前の欠陥転写で反復的に再訓練する。
銀行のカスタマーサポートの概念実証では、ツールルーティングエラーが排除され、厳格なエンドツーエンドPASSレートが5つの共進化サイクルで倍増する。
また,CAが企業におけるリピートとロバストネス評価に直接的な意味を持たせることによって,報酬圧力から真に密集した現実的な顧客への意図を組み込むことを学習する敵戦略である「textbf{Contextual Camouflage}」の出現を観察する。
関連論文リスト
- Learning from Online User Feedback for Shopping Agents [54.03311028861336]
大規模言語モデルに基づくショッピングエージェントは、現実のeコマースプラットフォームにますます多くデプロイされている。
既存のアプローチは、ユーザ-イテムインタラクションや合成優先データなど、オフラインのトレーニング信号に依存している。
ショッピングエージェントが人間のアノテーションを使わずに実際のオンラインインタラクションログから直接学習できるフレームワークであるLOFAを提案する。
論文 参考訳（メタデータ） (2026-08-12T03:24:44Z) - Adversarial Attacks for Good: A Survey of Proactive Protection across the Visual Content Lifecycle [65.6642776933861]
この介入点付近で成長した保護パラダイムについて検討する。
ほとんどの保護は、主に静的あるいは弱い適応的な敵に対して検証されている。
我々は、堅牢で構成可能で、デプロイ可能な所有者側の保護のために、クロスステージ対策とオープンな問題を統合することで、閉鎖する。
論文 参考訳（メタデータ） (2026-08-05T00:46:50Z) - Rolling With Resistance: Preference-Optimized LLM Counselors Can Trade Goal Persistence for Relational Attunement in Motivational Interviewing [0.6372261626436676]
モチベーション・インタヴュー(MI)では、クライアントの持続的なトーク(現状に関する議論)が、カウンセラーに抵抗を伴って展開するよう呼びかけるが、これは2つの方法で失敗する可能性がある。
モチベーション型面接処理統合 (MITI) コード, ゴールパーシスタンス (GP) およびアテンション (RA) のカウンセラー応答の2軸評価を導入する。
優先最適化によって1つの障害を罰することは、転がり抵抗の反作用を引き起こすかどうかを問う。
論文 参考訳（メタデータ） (2026-07-30T20:16:03Z) - FERA: Uncertainty-Aware Federated Reasoning for Large Language Models [60.52562148874846]
我々は、サーバがプライベートなデモンストレーションを行う異種クライアントと協調することで、多段階推論を改善するフェデレーション推論について研究する。
重要な課題は、クライアントの信頼性がクエリ依存であるのに対して、サーバはクライアントデータを検査して、どのコントリビューションが信頼できるかを判断できません。
本稿では,サーバクライアントの反復的コリファインメントに基づくトレーニングフリーフレームワークである Uncertainty-Aware Federated Reasoning (FERA) を提案する。
論文 参考訳（メタデータ） (2026-05-11T07:04:51Z) - Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。
アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。
ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
論文 参考訳（メタデータ） (2026-04-21T15:05:58Z) - Dynamic analysis enhances issue resolution [53.50448142467294]
DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。
テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。
Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
論文 参考訳（メタデータ） (2026-03-23T14:48:54Z) - ICON: Indirect Prompt Injection Defense for Agents based on Inference-Time Correction [24.416258744287166]
ICONは、タスクの連続性を維持しながら攻撃を中和する、調査と軽減のためのフレームワークである。
ICONは競争力のある0.4%のASRを達成し、商業グレード検出器と一致し、50%以上のタスクユーティリティーゲインを得る。
論文 参考訳（メタデータ） (2026-02-24T09:13:05Z) - From Transcripts to AI Agents: Knowledge Extraction, RAG Integration, and Robust Evaluation of Conversational AI Assistants [0.0]
顧客向け産業向けの信頼できる会話AIアシスタントの構築は、ノイズの多い会話データ、断片化された知識、正確なヒューマンハンドオフの必要性により、依然として困難である。
本稿では,履歴書から直接対話型AIアシスタントを構築し,評価するためのエンドツーエンドフレームワークを提案する。
論文 参考訳（メタデータ） (2026-01-26T07:44:47Z) - Defending the Edge: Representative-Attention for Mitigating Backdoor Attacks in Federated Learning [7.808916974942399]
不均一エッジデバイスは、多種多様で非独立で、同一に分散された(非IID)データを生成する。
本稿では, 悪意のあるクライアントと良識を区別するための, FeRA という, 表現力に基づく防衛機構を提案する。
本評価では,エッジデバイスに典型的な非IIDデータ分散に挑戦するなど,さまざまなFLシナリオにおけるFeRAの堅牢性を示す。
論文 参考訳（メタデータ） (2025-05-15T13:44:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。