論文の概要: Editing as Language: Teaching LLM Agents a Grammar for Native Context Editing
- arxiv url: http://arxiv.org/abs/2610.25550v1
- Date: Sun, 18 Oct 2026 21:48:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 13:37:43.612
- Title: Editing as Language: Teaching LLM Agents a Grammar for Native Context Editing
- Title(参考訳): 言語としての編集: LLMエージェントにネイティブコンテキスト編集のための文法を教える
- Abstract要約: 本研究では,言語モデルエージェントに独自のコンテキストをネイティブに編集するための文法を与えるNative Context Editingフレームワークを提案する。
我々は反復的に構築された軌道セグメントのエージェントを訓練し、各教師は進化する文脈で条件付きで編集する。
特定の外部ハーネス環境におけるツール使用コードの生成を学習するコンテキスト編集手法と比較して,本手法では,コンテキスト編集をモデル固有の生成プロセスの内部メカニズムとして統合する。
- 参考スコア(独自算出の注目度): 25.093117824287287
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A synopsis in novels folds a story into a few lines; a function in code gathers many steps with a single execution. Context editing is native to language itself. In this paper, we propose the Native Context Editing (NCE) framework, which gives language model agents a grammar for natively editing their own context. By encoding context-editing operations in a grammar of dedicated special tokens, we teach the agents to invoke edits through the language itself. We train agents on iteratively constructed trajectory segments, with each teacher edit conditioned on the evolving context. This establishes context editing as an atomic and inherent capability of LLM agents, enabling them to dynamically modify their context as they generate responses over long-horizon reasoning and interaction. Compared with context-editing methods that learn to generate tool-use code within specific external harness environments, our approach integrates context editing as an internal mechanism of the model's native generation process, enabling better generalization across diverse real-world workflows. On four long-horizon agentic benchmarks (Terminal-Bench 2.0, SWE-bench Verified, SWE-bench Multilingual, and SWE-bench Pro), NCE improves the average task success rate over the base model by 5.6 percentage points for LongCat-Flash-Lite-Sparse and by 4.5 for Qwen3.6-35B-A3B, while reducing average token usage by 36% and 15%, respectively.
- Abstract(参考訳): ノベルのシナプスはストーリーを数行に折り畳み、コード内の関数は1つの実行で多くのステップを収集する。
コンテキスト編集は言語自体にネイティブである。
本稿では,言語モデルエージェントに独自のコンテキストをネイティブに編集するための文法を与えるNative Context Editing (NCE)フレームワークを提案する。
特別なトークンの文法でコンテキスト編集操作を符号化することにより、エージェントに言語自体を通して編集を実行するように教える。
我々は反復的に構築された軌道セグメントのエージェントを訓練し、各教師は進化する文脈で条件付きで編集する。
これにより、コンテキスト編集はLLMエージェントのアトミックで固有の能力として確立され、長期の推論や相互作用に対して応答を生成するときにコンテキストを動的に変更することができる。
特定の外部ハーネス環境におけるツール使用コードの生成を学習するコンテキスト編集手法と比較して,本手法では,コンテキスト編集をモデルネイティブ生成プロセスの内部メカニズムとして統合し,さまざまな現実世界のワークフローをまたいだよりよい一般化を実現する。
4つのロングホライゾンエージェントベンチマーク(Terminal-Bench 2.0、SWE-bench Verified、SWE-bench Multilingual、SWE-bench Pro)では、NCEはベースモデルの平均タスク成功率をLongCat-Flash-Lite-Sparseで5.6ポイント、Qwen3.6-35B-A3Bで4.5ポイント改善し、平均トークン使用率を36%、SWE-bench Proで15%削減した。
関連論文リスト
- ContextMaster: Interactive Multi-Shot Video Creation via Fixed-Budget Sparse Context Routing [42.25675968821303]
ビデオモデルは、単一のモデル内で生成、参照条件付け、編集をサポートするようになった。
我々はこの設定をインタラクティブなマルチショットビデオ作成(IMVC)として定式化する。
これらの操作にロールを意識したコンテキスト表現を備えた統合モデルであるContextMasterを紹介します。
論文 参考訳(メタデータ) (2026-08-05T15:27:26Z) - PICASO: Permutation-Invariant Context Composition with State Space Models [98.91198288025117]
State Space Models (SSM) は、コンテキストのデータベースを固定次元の状態にマッピング可能にすることで、有望なソリューションを提供する。
本研究では,SSM力学から導かれる単純な数学的関係を,生のコンテキストトークンの連結効果を効率的に近似する複数の状態に構成する。
我々は,WikiText と MSMARCO をゼロショットと微調整の両方で評価し,平均5.4倍のスピードアップを楽しみながら最強の演奏ベースラインと一致できることを示す。
論文 参考訳(メタデータ) (2025-02-24T19:48:00Z) - Raw Text is All you Need: Knowledge-intensive Multi-turn Instruction Tuning for Large Language Model [25.459787361454353]
本稿では,対話論理のCoD-Chainを利用して,多言語モデル(LLM)を指導指導のための知識集約型多元対話を生成する新しいフレームワークR2Sを提案する。
オープンソースデータセットとドメイン固有のWebcrawledドキュメントの両方の生文書をベンチマークK-BENCHに統合することにより、Wikipedia(英語)、Science(中国語)、Artifacts(中国語)などのさまざまな領域をカバーする。
論文 参考訳(メタデータ) (2024-07-03T12:04:10Z) - Unsupervised Text Style Transfer via LLMs and Attention Masking with
Multi-way Interactions [18.64326057581588]
非教師付きテキストスタイル転送(UTST)が自然言語処理(NLP)分野における重要な課題として浮上している。
本稿では,命令を調整したパイプライン・フレームワークであるLarge Language Models (LLMs) から注目マスキング・モデルへの知識蒸留,構築された並列例を用いたコンテキスト内学習の4つの方法を提案する。
これらのマルチウェイインタラクションは、スタイルの強さ、コンテンツ保存、テキストの流布といった観点から、ベースラインを改善することを実証的に示しています。
論文 参考訳(メタデータ) (2024-02-21T09:28:02Z) - Contextual Refinement of Translations: Large Language Models for Sentence and Document-Level Post-Editing [12.843274390224853]
大規模言語モデル(LLM)は、様々な自然言語処理タスクでかなりの成功を収めている。
ニューラルネットワーク翻訳における最先端性能は,まだ達成できていない。
直接翻訳者ではなく,自動編集者 (APE) としてLLMを適用することを提案する。
論文 参考訳(メタデータ) (2023-10-23T12:22:15Z) - Cross-Lingual Knowledge Editing in Large Language Models [73.12622532088564]
知識編集は、スクラッチから再学習することなく、大きな言語モデルを新しい知識に適応させることが示されている。
ソース言語編集が別のターゲット言語に与える影響は、いまだ不明である。
まず、ZsREを英語から中国語に翻訳することで、大規模な言語間合成データセットを収集する。
論文 参考訳(メタデータ) (2023-09-16T11:07:52Z) - Language Anisotropic Cross-Lingual Model Editing [61.51863835749279]
既存の作業はモノリンガルのシナリオのみを研究しており、言語間で同時に編集を行うための言語間転送能力が欠如している。
本稿では,並列コーパスを用いた一言語モデル編集手法を言語間シナリオに適用する枠組みを提案する。
本研究では,複数言語への編集の伝播における単言語ベースラインの失敗と,提案言語異方性モデル編集の有効性を実証的に示す。
論文 参考訳(メタデータ) (2022-05-25T11:38:12Z) - VECO: Variable and Flexible Cross-lingual Pre-training for Language
Understanding and Generation [77.82373082024934]
我々はTransformerエンコーダにクロスアテンションモジュールを挿入し、言語間の相互依存を明確に構築する。
独自の言語でコンテキストにのみ条件付けされたマスク付き単語の予測の退化を効果的に回避することができる。
提案した言語間モデルでは,XTREMEベンチマークのさまざまな言語間理解タスクに対して,最先端の新たな結果が提供される。
論文 参考訳(メタデータ) (2020-10-30T03:41:38Z) - FILTER: An Enhanced Fusion Method for Cross-lingual Language
Understanding [85.29270319872597]
我々は,XLMファインタニングの入力として言語間データを利用する拡張融合法を提案する。
推論中は、ターゲット言語で入力されたテキストとソース言語の翻訳に基づいて予測を行う。
この問題に対処するため,対象言語における翻訳テキストのための自動生成ソフト擬似ラベルに基づくモデル学習のためのKL分割自己学習損失を提案する。
論文 参考訳(メタデータ) (2020-09-10T22:42:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。