論文の概要: From Agent Failures to Text Policies: What Works and What Breaks
- arxiv url: http://arxiv.org/abs/2607.20668v1
- Date: Wed, 22 Jul 2026 19:08:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-24 18:26:25.194453
- Title: From Agent Failures to Text Policies: What Works and What Breaks
- Title(参考訳): エージェントの失敗からテキストポリシーへ:何が機能し、何が壊れるか
- Abstract要約: TextGradは、フィードバックからテキストを更新することで、言語モデルシステムを改善する。
一連のアクションの後にフィードバックが到着するので、エージェントにそれを適用するのは難しくなります。
我々は、有用な政策に従う能力と、その政策を経験から学ぶ能力とを分離して、この問題を研究する。
- 参考スコア(独自算出の注目度): 2.8890052855500143
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: TextGrad improves language-model systems by revising text from feedback. Its core thesis is that natural-language feedback can act as a gradient for optimizing text components without changing model weights. Applying it to agents is harder because feedback arrives only after a sequence of actions, making it difficult to identify which decision caused failure. We study this problem by separating the ability to follow a useful policy from the ability to learn that policy from experience. Our main finding is a clear gap between these two abilities. Human-written policies improve two frozen 7B agents on TextWorldExpress by 5.0 success points, showing that useful policy text exists. However, policies generated from agent trajectories do not reliably outperform fixed prompting, even with richer traces, counterfactual evidence, or iterative GEPA search. The main challenge for agent-level TextGrad is therefore not executing textual policy updates, but reliably generating and selecting them from experience.
- Abstract(参考訳): TextGradは、フィードバックからテキストを更新することで、言語モデルシステムを改善する。
自然言語フィードバックは、モデル重みを変更することなく、テキストコンポーネントを最適化するための勾配として機能する。
エージェントにそれを適用するのは、フィードバックが一連のアクションの後にのみ到着するため、どの決定が失敗を引き起こしたかを特定するのが難しくなるため、難しい。
我々は、有用な政策に従う能力と、その政策を経験から学ぶ能力とを分離して、この問題を研究する。
主な発見は、これらの2つの能力の明確なギャップである。
人手によるポリシーはTextWorldExpress上の2つのフリーズされた7Bエージェントを5.0の成功ポイントで改善し、有用なポリシーテキストが存在することを示した。
しかしながら、エージェント・トラジェクトリから生成されたポリシーは、よりリッチなトレース、偽物証拠、反復的なGEPA探索であっても、固定的なプロンプトよりも確実に優れているわけではない。
エージェントレベルのTextGradの最大の課題は、テキストポリシーのアップデートを実行せず、エクスペリエンスから確実に生成し、選択することである。
関連論文リスト
- Text2Grad: Reinforcement Learning from Natural Language Feedback [32.59003667154527]
我々は、自由形式のテキストフィードバックをスパンレベルの勾配に変換する、きめ細かい強化パラダイムであるText2Gradを紹介する。
以上の結果から, 自然言語フィードバックが勾配に変換された場合, より詳細な政策最適化のための強力な信号であることが示唆された。
論文 参考訳(メタデータ) (2025-05-28T13:23:49Z) - Text-to-Decision Agent: Offline Meta-Reinforcement Learning from Natural Language Supervision [36.643102023506614]
オフラインメタRLは通常、高品質なサンプルやウォームアップ探索からタスク信念を推測することで一般化に取り組む。
textbfText-to-textbfDecision textbfAgent (textbfT2DA)を提案する。
論文 参考訳(メタデータ) (2025-04-21T12:00:20Z) - Truthful Text Sanitization Guided by Inference Attacks [3.3802914883339557]
そこで本研究では,原文のセマンティックな内容をサブセットとした一般化に基づく新しいテキスト衛生手法を提案する。
このアプローチは命令チューニングされた大規模言語モデル(LLM)の使用に依存しており、2つの段階に分けられる。
Text Anonymization Benchmarkの結果、Mistral 7B Instructで実装された提案手法は、実用性の向上につながることが示された。
論文 参考訳(メタデータ) (2024-12-17T14:07:01Z) - Attacking Misinformation Detection Using Adversarial Examples Generated by Language Models [1.8759938228229573]
テキスト分類アルゴリズムのロバスト性をテストするために,逆例を生成するという課題について検討する。
我々は、攻撃者が試すことができるクエリ数に現実的な制限を設定することで、コンテンツモデレーションのシミュレーションに焦点を当てる。
論文 参考訳(メタデータ) (2024-10-28T11:46:30Z) - Focus, Distinguish, and Prompt: Unleashing CLIP for Efficient and Flexible Scene Text Retrieval [13.315951821189538]
シーンテキスト検索は、画像ギャラリーからクエリテキストを含むすべての画像を見つけることを目的としている。
現在の取り組みでは、複雑なテキスト検出および/または認識プロセスを必要とする光学文字認識(OCR)パイプラインを採用する傾向にある。
我々は,OCRのないシーンテキスト検索のためのCLIP(Contrastive Language- Image Pre-Trening)の本質的な可能性について検討する。
論文 参考訳(メタデータ) (2024-08-01T10:25:14Z) - ESTextSpotter: Towards Better Scene Text Spotting with Explicit Synergy
in Transformer [88.61312640540902]
明示的な構文に基づくテキストスポッティング変換フレームワーク(ESTextSpotter)を紹介する。
本モデルは,1つのデコーダ内におけるテキスト検出と認識のための識別的,インタラクティブな特徴をモデル化することにより,明示的な相乗効果を実現する。
実験結果から,本モデルが従来の最先端手法よりも有意に優れていたことが示唆された。
論文 参考訳(メタデータ) (2023-08-20T03:22:23Z) - Retroformer: Retrospective Large Language Agents with Policy Gradient Optimization [103.70896967077294]
本稿では,レトロスペクティブモデルを学習することで,大規模言語エージェントを強化するための原則的枠組みを提案する。
提案するエージェントアーキテクチャは,事前学習した言語モデルを微調整するために,複数の環境やタスクにまたがる報酬から学習する。
様々なタスクの実験結果から、言語エージェントは時間とともに改善することが示された。
論文 参考訳(メタデータ) (2023-08-04T06:14:23Z) - TextFormer: A Query-based End-to-End Text Spotter with Mixed Supervision [61.186488081379]
Transformerアーキテクチャを用いた問合せベースのエンドツーエンドテキストスポッターであるTextFormerを提案する。
TextFormerは、画像エンコーダとテキストデコーダの上に構築され、マルチタスクモデリングのための共同セマンティック理解を学ぶ。
分類、セグメンテーション、認識のブランチの相互訓練と最適化を可能にし、より深い特徴共有をもたらす。
論文 参考訳(メタデータ) (2023-06-06T03:37:41Z) - Learning to Transfer Prompts for Text Generation [97.64625999380425]
転送可能なテキスト生成のための新しいプロンプトベース手法(PTG)を提案する。
まず、PTGは、様々なソース生成タスクの一連のソースプロンプトを学習し、ターゲット生成タスクを実行するためのターゲットプロンプトとしてこれらのプロンプトを転送する。
広範な実験では、PTGは微調整法よりも競争力または優れた結果が得られる。
論文 参考訳(メタデータ) (2022-05-03T14:53:48Z) - TextGAIL: Generative Adversarial Imitation Learning for Text Generation [68.3579946817937]
本稿では,大規模な事前学習言語モデルを用いて,より信頼性の高い報酬ガイダンスを提供するテキスト生成のための生成逆模倣学習フレームワークを提案する。
提案手法では, テキスト生成性能の安定化と向上のために, コントラスト判別器とPPOを用いた。
論文 参考訳(メタデータ) (2020-04-07T00:24:35Z) - Learning Dynamic Belief Graphs to Generalize on Text-Based Games [55.59741414135887]
テキストベースのゲームをプレイするには、自然言語処理とシーケンシャルな意思決定のスキルが必要である。
本研究では,原文からエンドツーエンドに学習したグラフ構造化表現を用いて,エージェントがテキストベースのゲームでどのように計画・一般化できるかを検討する。
論文 参考訳(メタデータ) (2020-02-21T04:38:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。