論文の概要: Diagnosing Task Insensitivity in Language Agents

• arxiv url: http://arxiv.org/abs/2606.26918v1
• Date: Thu, 25 Jun 2026 11:53:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-26 18:46:32.261901
• Title: Diagnosing Task Insensitivity in Language Agents
• Title（参考訳）: 言語エージェントにおけるタスク不感度の診断
• Abstract要約: 大規模言語モデルは有能なロングホライゾンエージェントとして機能するが、その分布外一般化は依然として弱い。 命令が意味的に破損しても、モデルが元のタスクと整合したアクションを継続することを示す。 タスク命令へのアクション依存を明確に促進する軽量コントラスト正規化器であるTask-Perturbed NLL Optimizationを提案する。
• 参考スコア（独自算出の注目度）: 20.018733779493587
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models can serve as capable long-horizon agents, but their out-of-distribution (OOD) generalization remains weak. We identify a key source of this failure as task insensitivity: when faced with similar but distinct tasks, models might apply patterns learned during training and fail to solve the task at hand. We show that models often continue with actions aligned with the original task even when the instruction is semantically corrupted and cannot be directly answered. We further find that, when we replace the task description in a trained prompt with another similar but distinct task, the model may still output the same action. This behavior is accompanied by a consistent training-time attention drift away from task tokens and toward local observations, suggesting an optimization bias toward shortcuts. To mitigate this problem, we propose Task-Perturbed NLL Optimization, a lightweight contrastive regularizer that explicitly encourages action dependence on the task instruction. Extensive evaluations show that our intervention improves task sensitivity and OOD generalization while preserving more stable attention to task tokens.
• Abstract（参考訳）: 大きな言語モデルは有能な長距離エージェントとして機能するが、そのアウト・オブ・ディストリビューション(OOD)の一般化は依然として弱いままである。 私たちは、この障害の原因をタスクの非感受性として特定しています。同じですが、異なるタスクに直面した場合、モデルはトレーニング中に学習したパターンを適用し、手元にあるタスクの解決に失敗します。 命令が意味的に破損し、直接答えられない場合でも、モデルが元のタスクと整合したアクションを継続することを示す。 さらに、トレーニングされたプロンプトでタスク記述を別の類似しているが異なるタスクに置き換える場合、モデルが依然として同じアクションを出力する可能性があることも分かりました。 この行動には、タスクトークンから局所的な観察へと一貫したトレーニングタイムの注意が伴い、ショートカットに対する最適化バイアスが提案される。 この問題を軽減するために,タスク命令へのアクション依存を明示的に促進する軽量コントラスト正規化器であるTask-Perturbed NLL Optimizationを提案する。 大規模評価では,タスクトークンに対するより安定した注意を保ちながら,タスク感度とOOD一般化を改善した。

関連論文リスト

• Shared Lexical Task Representations Explain Behavioral Variability In LLMs [35.89864679533707]
  プロンプトの関数としての性能に大きな変化があるにもかかわらず、そのモデルはタスクの異なるプロンプト間で共通の基盤機構を担っている。 具体的には、文字通りタスクを記述したタスク固有のアテンションヘッドを特定し、これらのヘッドがプロンプトスタイルにまたがって共有され、その後の回答生成が引き起こされることを示す。
  論文  参考訳（メタデータ） (2026-04-23T19:43:29Z)
• Task Vectors in In-Context Learning: Emergence, Formation, and Benefit [17.72043522825441]
  合成データセットをスクラッチから学習したモデルを用いて, 制御された環境下でのタスクベクトルの生成について検討した。 その結果,特定の条件下ではタスクベクトルが自然に現れることが確認できたが,タスクは比較的弱く,あるいは非局所的にモデル内にコード化されている可能性がある。 モデル内の所定位置に符号化された強いタスクベクトルを促進するために,損失を促すタスクベクトルに基づく補助的なトレーニング機構を提案する。
  論文  参考訳（メタデータ） (2025-01-16T01:54:23Z)
• Active Instruction Tuning: Improving Cross-Task Generalization by Training on Prompt Sensitive Tasks [101.40633115037983]
  インストラクションチューニング(IT)は,大規模言語モデル(LLM)を命令付き多種多様なタスクで訓練することにより,印象的なゼロショット一般化を実現する。 ITモデルの性能と一般化性を改善するために、新しいタスクをどのように選択するかは、未解決の問題である。 本稿では,情報的タスクを識別する新しいフレームワークである即時不確実性に基づくアクティブな指導チューニングを提案し,選択したタスク上でモデルをアクティブにチューニングする。
  論文  参考訳（メタデータ） (2023-11-01T04:40:05Z)
• Instruction Position Matters in Sequence Generation with Large Language Models [67.87516654892343]
  大規模言語モデル(LLM)は、翻訳や要約といった条件付きシーケンス生成タスクを実行することができる。 入力文の後にタスク命令の位置をシフトさせることにより,LLMの指示追従能力を向上させることを提案する。
  論文  参考訳（メタデータ） (2023-08-23T12:36:57Z)
• Reasoning or Reciting? Exploring the Capabilities and Limitations of Language Models Through Counterfactual Tasks [71.19560970717495]
  最近の言語モデルは、幅広いタスクで印象的なパフォーマンスを示している。 これらのスキルは一般的で、移行可能か、あるいは事前トレーニング中に見られる特定のタスクに特化していますか? 本稿では,標準タスクの既定前提から逸脱する「数値的」タスク変種に基づく評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-07-05T17:50:42Z)
• Exposing and Addressing Cross-Task Inconsistency in Unified Vision-Language Models [80.23791222509644]
  一貫性のないAIモデルは、人間のユーザーによって不安定で信頼できないと見なされている。 最先端のビジョン言語モデルは、タスク間の驚くほど高い一貫性のない振る舞いに悩まされている。 本稿では,大規模で自動生成されるクロスタスクコントラスト集合上で計算されたランク相関に基づく補助訓練目標を提案する。
  論文  参考訳（メタデータ） (2023-03-28T16:57:12Z)
• ForkMerge: Mitigating Negative Transfer in Auxiliary-Task Learning [59.08197876733052]
  補助タスク学習(ATL)は、関連するタスクから得られる知識を活用することにより、目標タスクの性能を向上させることを目的としている。 複数のタスクを同時に学習すると、ターゲットタスクのみを学習するよりも精度が低下することがある。 ForkMergeは、モデルを定期的に複数のブランチにフォークし、タスクの重みを自動的に検索する新しいアプローチである。
  論文  参考訳（メタデータ） (2023-01-30T02:27:02Z)
• Task Compass: Scaling Multi-task Pre-training with Task Prefix [122.49242976184617]
  既存の研究では、大規模教師付きタスクによるマルチタスク学習がタスク間の負の効果に悩まされていることが示されている。 タスク間の関係を探索するために,タスクプレフィックスガイド付きマルチタスク事前学習フレームワークを提案する。 我々のモデルは、幅広いタスクの強力な基盤バックボーンとして機能するだけでなく、タスク関係を分析するための探索ツールとしても実現可能である。
  論文  参考訳（メタデータ） (2022-10-12T15:02:04Z)
• Intermediate-Task Transfer Learning with Pretrained Models for Natural Language Understanding: When and Why Does It Work? [44.88358841370665]
  特定の目標タスクに対して、中間タスクトレーニングが有益である時期と理由についてはあまり理解されていない。 110の中間目標タスクの組み合わせで事前学習したRoBERTaモデルを大規模に検討する。 高いレベルの推論と推論能力を必要とする中間タスクが最善である傾向が観察された。
  論文  参考訳（メタデータ） (2020-05-01T21:49:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。