論文の概要: Chained Recursive Language Models for Multi-Iteration Reasoning
- arxiv url: http://arxiv.org/abs/2608.05124v1
- Date: Wed, 05 Aug 2026 17:50:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 14:48:44.06832
- Title: Chained Recursive Language Models for Multi-Iteration Reasoning
- Title(参考訳): マルチイテレーション推論のための連鎖帰納的言語モデル
- Authors: Purbesh Mitra, Sennur Ulukus,
- Abstract要約: Chained Recursive Language Models (Chained RLM)は、推論時のアーキテクチャである。
各ルートは元の問題とコンテキストを受信するが、完全な会話履歴を継承しない。
各段階の計算では、中間アーティファクトを検査し、修正し、同じモデルで後の新しい推論によって拡張することができる。
- 参考スコア(独自算出の注目度): 46.765013720309064
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Long context reasoning in large language models (LLMs) is usually constrained by the fact that a single inference trajectory has to simultaneously explore the context, store intermediate state, verify evidence, and produce the final answer. This becomes particularly difficult in tasks that require extraction, counting, ordering, or multi-hop reasoning, where an early mistake can propagate until the final response. In this work, we propose Chained Recursive Language Models (Chained RLM), an inference-time architecture, in which the same underlying model is called repeatedly as a sequence of fresh reasoning roots. Each root receives the original problem and context, but does not inherit the full conversational history. Instead, it receives a compact plain-text summary, a plain-text blackboard, and some durable task-specific artifacts written by predecessor roots. The motivation is to manage the context by chopping into partial tasks rather than one large inference response; in each staged computation, intermediate artifacts can be inspected, corrected, and extended by a later fresh inference by the same model. We describe the system model, handoff mechanism, artifact workspace, and evaluation protocol for this system. We study when fresh-context artifact continuation gives a measurable gain in accuracy over direct LLM answering even with recursive tool-calling.
- Abstract(参考訳): 大規模言語モデル(LLM)における長期文脈推論は、単一の推論軌道が同時にコンテキストを探索し、中間状態を記憶し、証拠を検証し、最終的な答えを生成する必要があるという事実によって制限される。
これは、抽出、カウント、順序付け、マルチホップ推論を必要とするタスクでは特に困難になる。
本研究では、推論時アーキテクチャである連鎖帰納的言語モデル(Chained Recursive Language Models, RLM)を提案する。
各ルートは元の問題とコンテキストを受信するが、完全な会話履歴を継承しない。
代わりに、コンパクトなプレーンテキストの要約、プレーンテキストのブラックボード、および以前のルートで書かれた耐久性のあるタスク固有のアーティファクトを受け取る。
その動機は、1つの大きな推論応答ではなく、部分的なタスクに切り込み、コンテキストを管理することである。
本稿では,システムモデル,ハンドオフ機構,アーティファクトワークスペース,評価プロトコルについて述べる。
本研究では,再帰的ツールコールでも直接LLM応答よりも精度が向上することを示す。
関連論文リスト
- RepoReasoner: Evaluating Repository-Level Code Reasoning Ability of Long-Context Language Models [54.53236295237077]
リポジトリレベルのコード推論を評価するベンチマークであるRepoReasonerを紹介します。
出力予測は、ファイル間でのきめ細かいステートフルな実行推論を計測します。
Call Chain Predictionは、ノイズの多いコンテキスト下での高レベルのアーキテクチャ依存性の理解を評価する。
論文 参考訳(メタデータ) (2026-07-28T17:12:41Z) - Chain-of-thought Reviewing and Correction for Time Series Question Answering [22.889720488678076]
本稿では,時系列質問応答の明示的な補正機構を備えた多段階推論を行うT3LLMを提案する。
このフレームワーク内では、作業者は構造化されたプロンプトの下で段階的思考連鎖(CoT)を生成し、レビュアーは推論を検査し、誤ったステップを特定し、修正的なコメントを提供する。
複数の実世界のTSQAベンチマークの実験により、T3LLMは強力なLLMベースのベースラインに対して最先端のパフォーマンスを達成することが示された。
論文 参考訳(メタデータ) (2025-12-27T15:54:18Z) - Decomposition-Enhanced Training for Post-Hoc Attributions In Language Models [64.49342399229529]
我々は、ポストホック帰属を推論問題として再編成し、回答を構成単位に分解し、それぞれ特定の文脈に結び付けることができると論じる。
DecompTuneは、モデルに中間的推論ステップとして解解分解を生成することを教えるポストトレーニング手法である。
DecompTuneは、広範な実験と改善を通じて、属性の品質を大幅に改善し、先行手法より優れ、最先端のフロンティアモデルに適合または超えている。
論文 参考訳(メタデータ) (2025-10-29T17:58:59Z) - SQuARE: Sequential Question Answering Reasoning Engine for Enhanced Chain-of-Thought in Large Language Models [4.328173053224842]
本稿では、自己干渉パラダイムによる推論を改善するために設計された新しいプロンプト技術であるSQuAREを紹介する。
CoTフレームワーク上に構築されているSQuAREでは,メインクエリに対処する前に,複数の補助的な質問の生成と解決をモデルに促している。
Llama 3 と GPT-4o モデルを用いて複数の質問応答データセットを用いて評価を行った結果,SQuARE が従来の CoT プロンプトや既存のrephrase-and- corresponding 手法をはるかに上回っていることが示された。
論文 参考訳(メタデータ) (2025-02-13T15:07:20Z) - Larger Language Models Don't Care How You Think: Why Chain-of-Thought Prompting Fails in Subjective Tasks [25.562937159039038]
In-Context Learning (ICL) in Large Language Models (LLM) が自然言語処理の主流の手法として登場した。
ICLはタスク先行の検索に大きく依存しており、タスクを実行するための"学習"は少なくなっている。
驚くべきことに、CoT(Chain-of-Thought)は、大きな言語モデルではICLと同じ後方崩壊に悩まされている。
論文 参考訳(メタデータ) (2024-09-10T03:06:17Z) - Text Modular Networks: Learning to Decompose Tasks in the Language of
Existing Models [61.480085460269514]
本稿では,既存のモデルで解けるより単純なモデルに分解することで,複雑なタスクを解くための解釈可能なシステムを構築するためのフレームワークを提案する。
我々はこのフレームワークを用いて、ニューラルネットワークのファクトイド単一スパンQAモデルとシンボリック電卓で答えられるサブクエストに分解することで、マルチホップ推論問題に答えられるシステムであるModularQAを構築する。
論文 参考訳(メタデータ) (2020-09-01T23:45:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。