論文の概要: Curating Always-Loaded Context for LLM Agents: A Capacitated Assortment Model with Censored Feedback
- arxiv url: http://arxiv.org/abs/2610.11007v1
- Date: Wed, 07 Oct 2026 23:44:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.705614
- Title: Curating Always-Loaded Context for LLM Agents: A Capacitated Assortment Model with Censored Feedback
- Title(参考訳): LLMエージェントの常時負荷コンテキストの算出--補償フィードバックを用いた容量配置モデル
- Abstract要約: LLMエージェントはセッションの開始時に$texttAGENTS.md$などの固定されたコンテキストファイルをロードする。
各ロードされたトークンはセッションの後半ラウンドごとに再び課金され、これらのファイルはサイズが大きくなるにつれて性能が低下する。
我々はコンテクストキュレーションを容量問題として定式化する。
- 参考スコア(独自算出の注目度): 9.913528412284697
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: At the start of every session, LLM agents load a fixed context file, such as $\texttt{AGENTS.md}$. Each loaded token in the file is charged again in every later round of the session, and these files can degrade performance as they grow in size. However, in practice, human or automated curators usually grow these files by appending. We formulate context curation as a capacitated assortment problem. Instructions consume tokens under a finite attention capacity; adding an instruction never raises the compliance of the others, while retained instructions incur a per-session setup cost. We prove an upper bound on the optimal file size, regardless of the number of available candidate instructions, and that appending every instruction with positive standalone value can be arbitrarily worse in net value than selecting an optimal subset. A token budget also limits the loss when the token price is underestimated. We then examine what can be learned from past sessions and how this information can guide decisions to add or remove instructions. Feedback is inherently censored: the benefits and harms of loaded instructions are observable, whereas missing instructions generate feedback only when their absence causes harm. In this setting, we show that deleting instructions ignored by agents can inevitably remove helpful ones. We characterize how much evidence should be collected before adding an instruction. Besides, we bound regret when human reviewers can inspect only a limited number of edits per period. Empirical experiments further show that irrelevant rules drawn from real context files reduce language-model compliance.
- Abstract(参考訳): 各セッションの開始時に LLM エージェントは $\texttt{AGENTS.md}$ などの固定コンテキストファイルをロードする。
各ロードされたトークンはセッションの後半ラウンドごとに再び課金され、これらのファイルはサイズが大きくなるにつれて性能が低下する。
しかし、実際には、人間または自動化されたキュレーターは通常、追加することでこれらのファイルを成長させる。
コンテクストキュレーションはコンテクストキュレーションの問題として定式化する。
トークンを有限の注意力で消費する命令; 命令を追加すると他の命令のコンプライアンスは上昇しないが、命令はセッション当たりのセットアップコストを発生させる。
我々は、利用可能な候補命令の数にかかわらず、最適なファイルサイズに上限があることを証明し、任意の命令を正のスタンドアロン値で付加することは、最適なサブセットを選択するよりも、任意の値で任意に悪くなることを証明した。
トークンの予算は、トークン価格が過小評価された場合にも損失を制限する。
その後、過去のセッションから何が学べるか、この情報によってどのように意思決定をガイドし、指示を追加したり削除したりできます。
フィードバックは本質的に検閲されており、ロードされた命令の利点と害は観察可能である。
この設定では、エージェントによって無視される命令を削除することは、必然的に有用な命令を削除することができることを示す。
命令を追加する前にどれだけの証拠を収集すべきかを特徴付ける。
また、人間レビュアーが期間ごとに限られた数の編集しか検査できないことを後悔している。
実証実験により、実際のコンテキストファイルから引き出された無関係な規則は言語モデルのコンプライアンスを低下させることが示された。
関連論文リスト
- How Calibration Content Shapes Attention-Based Reranking [24.816673222527953]
アテンションベースのリランカは、クエリ・ツー・ドキュメントの注意を集約し、ヌル・クエリ・キャリブレーション・パスを減算することで文書をスコアする。
本稿では,制約,指示,ペルソナ,デモンストレーションなどの現代的なプロンプトコンテンツが,スコアリングの読み出しに入ると,この仮定に反する可能性があることを示す。
本稿では,命令内容のどれ程がヌルベースラインに入るかを制御する訓練不要な修正である補間ヌルキャリブレーションを提案する。
論文 参考訳(メタデータ) (2026-09-15T19:12:58Z) - Soft Instruction De-escalation Defense [36.36851291734834]
大規模言語モデル(LLM)は、ますます外部環境と相互作用するエージェントシステムにデプロイされている。
これにより、信頼できないデータを扱う際に、インジェクションをインジェクションすることが可能になる。
ツール拡張LDMエージェント用に設計された簡易かつ効果的な反復的プロンプト衛生ループSICを提案する。
論文 参考訳(メタデータ) (2025-10-24T00:04:07Z) - Robustness via Referencing: Defending against Prompt Injection Attacks by Referencing the Executed Instruction [68.6543680065379]
大型言語モデル(LLM)はインジェクション攻撃に弱い。
本研究では,LLMの命令追従能力を抑えるのではなく,新たな防御手法を提案する。
論文 参考訳(メタデータ) (2025-04-29T07:13:53Z) - On the Loss of Context-awareness in General Instruction Fine-tuning [101.03941308894191]
教師付き微調整後の文脈認識の喪失について検討した。
性能低下は,会話指導の微調整中に学んだ異なる役割に対する偏見と関連していることがわかった。
一般命令微調整データセットから文脈依存例を識別する指標を提案する。
論文 参考訳(メタデータ) (2024-11-05T00:16:01Z) - Evaluating the Instruction-Following Robustness of Large Language Models
to Prompt Injection [70.28425745910711]
LLM(Large Language Models)は、命令追従に非常に熟練した言語である。
この能力は、迅速なインジェクション攻撃のリスクをもたらす。
このような攻撃に対する命令追従LDMの堅牢性を評価する。
論文 参考訳(メタデータ) (2023-08-17T06:21:50Z) - Enhancing Large Language Models Against Inductive Instructions with
Dual-critique Prompting [55.15697111170836]
本稿では,大規模言語モデル(LLM)のテクスト誘導的指示に対する行動を明らかにするとともに,その真しさと有用性を高める。
広範囲な人的・自動的な評価の結果,帰納的命令処理において LLM に共通する脆弱性が発見された。
異なる帰納的スタイルがモデルに同じエラーを識別する能力に影響を及ぼし、基礎となる仮定の複雑さがモデルの性能にも影響を及ぼす。
論文 参考訳(メタデータ) (2023-05-23T06:38:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。