論文の概要: Cross-Loop Query Handoff: How Later Loops Redirect Two-Hop Retrieval in the Ouro Looped Language Models
- arxiv url: http://arxiv.org/abs/2610.34639v1
- Date: Sun, 25 Oct 2026 23:46:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.652332
- Title: Cross-Loop Query Handoff: How Later Loops Redirect Two-Hop Retrieval in the Ouro Looped Language Models
- Title(参考訳): クロスループクエリハンドオフ:Ouroループ言語モデルにおける後ループの2ホップ検索方法
- Abstract要約: We study Ouro-1.4B and Ouro-2.6B by transplanting attention querys between loops at the same layer, head and final prompt position。
合成インコンテキスト質問では、ループ1全体を通してループ3クエリの層インデクシングされたコレクションを注入すると、ループ1とループ3で正しく答えた質問の90%と97%が、シャッフルドナーでは24%と21%が正しく答えなかった。
- 参考スコア(独自算出の注目度): 5.394321849717333
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: How do later loops in a pretrained looped language model repair two-hop retrieval? We study Ouro-1.4B and Ouro-2.6B by transplanting attention queries between loops at the same layer, head and final prompt position. On synthetic in-context questions, injecting the layer-indexed collection of loop-3 queries throughout loop 1 rescues 90% and 97% of questions answered incorrectly at loop 1 and correctly at loop 3, versus 24% and 21% for shuffled donors. The rescue also holds under greedy generation in Ouro-2.6B; in Ouro-1.4B it is limited to four-candidate ranking. Crossed donor-recipient swaps favor retrieval through the donor's bridge entity over copying its answer, although a substantial positional component remains in Ouro-2.6B. Late keys and values rescue far fewer targets. Freezing queries at their loop-1 values also damages two-hop accuracy more than a matched question that supplies the bridge. On natural questions, rescue is smaller and replicates only in Ouro-2.6B, and crossed swaps do not establish bridge redirection. These results identify a transferable collection of late-loop queries that supports bridge-conditioned retrieval on synthetic scenes; they do not locate where the bridge is computed or establish a single-vector handoff.
- Abstract(参考訳): 事前訓練されたループ言語モデルにおける後続ループは、どのように2ホップ検索を修復するか?
We study Ouro-1.4B and Ouro-2.6B by transplanting attention querys between loops at the same layer, head and final prompt position。
合成インコンテキスト質問では、ループ1全体を通してループ3クエリの層インデクシングされたコレクションを注入すると、ループ1とループ3で正しく答えた質問の90%と97%が、シャッフルドナーでは24%と21%が正しく答えなかった。
救助隊はOuro-2.6Bでも強欲な世代であり、Ouro-1.4Bでは4候補に制限されている。
ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー/ドナー
後期の鍵と価値ははるかに少ない目標を救った。
ループ1の値でクエリを凍結することは、ブリッジを提供する一致した質問よりも2ホップの精度を損なう。
自然の質問では、救助は小さく、Ouro-2.6Bでのみ複製される。
これらの結果は、合成シーン上でブリッジ条件検索をサポートする遅延ループクエリの転送可能なコレクションを特定する。
関連論文リスト
- RecurTrace: Adaptive Latent Reasoning with Loop-Time Memory [25.81050020222202]
Loop Memory Attentionでは、ループ時間軸に沿った以前のイテレーションから、ループされた各レイヤが自身の状態に参加することができる。
RecurTraceは平均2.0ループで56.9%の精度を達成し、一致した計算で2.2ポイントの最良の固定ループ深さを超えた。
論文 参考訳(メタデータ) (2026-09-03T05:29:24Z) - Difficulty-Gated Fusion of Reasoning Views for Temporal Retrieval [22.82938587928396]
推論集約的な時間的検索は、共有時間的推論に依存している文書とクエリをマッチングする必要がある。
そこで本研究では,問合せに難渋した推論ビューの融合を提案する。
論文 参考訳(メタデータ) (2026-08-09T22:31:49Z) - DiscoLoop: Looping Discrete Embeddings and Continuous Hidden States for Multi-hop Reasoning [91.94042219655866]
大規模言語モデルは、Chain-of-Thought(CoT)として中間ステップの外部化を可能にすると、多くの推論タスクにおいて強力なパフォーマンスを達成する
我々は,この課題を,モデルが1つの前方パス内で複数の知識を構成しなければならない代表的タスクである2-ホップ推論を通じて研究する。
本稿では,個別の埋め込みチャネルと連続的な隠れ状態チャネルの両方を連続的に持つループアーキテクチャであるDiscoLoopを提案する。
論文 参考訳(メタデータ) (2026-07-01T02:32:02Z) - Dissecting Agentic RAG: A Component Ablation for Multi-Hop QA with a Local 7B Model [0.0]
5000の質問に対して評価したフルエージェントRAGパイプラインのアブレーション制御を行った。
相互階数融合による固定ハイブリッド検索は規則に基づく適応的ルーティングよりも一貫して優れていることがわかった。
論文 参考訳(メタデータ) (2026-06-19T15:50:35Z) - BridgeRAG: Training-Free Bridge-Conditioned Retrieval for Multi-Hop Question Answering [0.0]
本稿では,BridgeRAGを提案する。
BridgeRAGは、スコアリングからカバーを分離する: 二重エンタテイティーANNは、第2のホップ候補プールを広げる。
ブリッジコンディショニングが生産的再ランク付けを引き起こすことを示す(並列チェーンでは18.7%、単一チェーンでは0.6%)。
論文 参考訳(メタデータ) (2026-04-03T18:27:51Z) - ReFIT: Relevance Feedback from a Reranker during Inference [109.33278799999582]
Retrieve-and-Rerankは、ニューラル情報検索の一般的なフレームワークである。
本稿では,リランカを利用してリコールを改善する手法を提案する。
論文 参考訳(メタデータ) (2023-05-19T15:30:33Z) - Adversarial Retriever-Ranker for dense text retrieval [51.87158529880056]
本稿では、二重エンコーダレトリバーとクロスエンコーダローダからなるAdversarial Retriever-Ranker(AR2)を提案する。
AR2は、既存の高密度レトリバー法より一貫して大幅に優れている。
これには、R@5から77.9%(+2.1%)、TriviaQA R@5から78.2%(+1.4)、MS-MARCO MRR@10から39.5%(+1.3%)の改善が含まれている。
論文 参考訳(メタデータ) (2021-10-07T16:41:15Z) - Reader-Guided Passage Reranking for Open-Domain Question Answering [103.18340682345533]
シンプルで効果的なパスリランク方式であるReader-guided Reranker(Rider)を提案します。
riderは、トップ1の検索精度で10〜20の絶対的なゲインを達成し、1〜4の正確なマッチ(em)スコアを得る。
RiderはNatural Questionsデータセットで48.3EM、TriviaQAデータセットで66.4を達成し、1,024トークン(平均7.8パス)のみをリーダー入力として使用します。
論文 参考訳(メタデータ) (2021-01-01T18:54:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。