論文の概要: MORSE: Multi-Context Ordering via Reverse Scoring for Evidence-Preserving Compression

• arxiv url: http://arxiv.org/abs/2609.27380v2
• Date: Sun, 27 Sep 2026 22:38:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-29 21:31:51.716351
• Title: MORSE: Multi-Context Ordering via Reverse Scoring for Evidence-Preserving Compression
• Title（参考訳）: MORSE: 証拠保存圧縮のための逆スコーリングによるマルチコンテキスト順序付け
• Abstract要約: また, 圧縮機で同じコンテキストを不変に変化させることで, 証拠が圧縮に耐えられることを示す。 我々は、エビデンス保存コンテキストオーダリングのための圧縮認識手法であるMORSEを紹介する。
• 参考スコア（独自算出の注目度）: 8.068888334778704
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Retrieval-augmented generation often relies on multiple retrieved contexts that contain substantial redundancy, motivating context compression to preserve useful information under limited input budgets. Likelihood-based compressors can account for cross-context redundancy through sequential scoring, but this makes evidence scores dependent on context order. We show that permuting the same contexts under an unchanged compressor can substantially change which supporting evidence survives compression. We attribute this sensitivity to information preemption: earlier, partially relevant contexts can absorb credit for shared information, reducing the incremental scores of later, stronger evidence and increasing its risk of removal. Controlled pair-swap interventions provide direct empirical support for this mechanism by showing that placing stronger evidence before overlapping, partially relevant contexts can improve its survival. Based on this insight, we introduce MORSE, a compression-aware method for evidence-preserving context ordering. MORSE uses reverse query likelihood to construct an evidence-first anchor and to evaluate compressed candidate outputs, enabling compression-aware selection among alternative permutations. Across multi-hop Question Answering (QA) benchmarks, compression procedures, budgets, and scoring models, MORSE improves evidence retention over reverse ordering and generally outperforms matched random search, with downstream QA gains. Our code is available at https://github.com/tbn5pj/MORSE_code
• Abstract（参考訳）: Retrieval-augmented 生成は、しばしば、かなりの冗長性を含む複数の検索されたコンテキストに依存し、限られた入力予算の下で有用な情報を保持するためにコンテキスト圧縮を動機付けている。 Likelihoodベースの圧縮機はシーケンシャルスコアリングを通じてコンテキスト間の冗長性を説明できるが、これはエビデンススコアを文脈順序に依存する。 また, 圧縮機で同じコンテキストを不変に変化させることで, 証拠が圧縮に耐えられることを示す。 より早い段階で、部分的に関連するコンテキストは共有情報の信用を吸収し、後続のインクリメンタルなスコアを減らし、強力な証拠を出し、削除のリスクを増大させます。 制御されたペア・スワップの介入は、重なり合う前に強い証拠を置くことで、このメカニズムの直接的な実証的支援を提供する。 この知見に基づいて,エビデンス保存コンテキスト順序付けのための圧縮認識手法であるMORSEを紹介する。 MORSEは、エビデンスファーストのアンカーを構築し、圧縮された候補出力を評価するために、逆クエリ可能性を使用し、代替の順列間の圧縮認識選択を可能にする。 マルチホップ質問回答(QA)ベンチマーク、圧縮手順、予算、スコアリングモデル全体において、MORSEは逆順序付けよりも証拠の保持を改善し、一般にランダム検索にマッチする確率を上回り、下流のQAゲインが向上する。 私たちのコードはhttps://github.com/tbn5pj/MORSE_codeで利用可能です。

関連論文リスト

• Just Noticeable Difference Modeling for Token Compression in Vision-Language-Action Models [62.522141464687195]
  本稿では,単に目立った差分(JND)の原理を具体化するためのアクションJNDを紹介する。 トークンの変化は、誘導された行動偏差が許容範囲内に留まっている場合にのみ許容できると考えられる。 結果として生じるアクション耐性スコアは、VLA圧縮パラダイムのプラグアンドプレイ基準として機能する。
  論文  参考訳（メタデータ） (2026-08-21T15:59:37Z)
• Every Time I Hire a Linguist, Inference Costs Go Down: On Linguistic Rules as Effective Prompt Compressors [13.49190771932777]
  我々は, 語彙, 構文, 意味, 言説の種を進化的に探索し, 競争ルールの組み合わせを見つける。 結果、言語圧縮機はデプロイメント時にLMフォワードパスを必要とせず、CPU側でのみ圧縮を行う。 圧縮品質と復元精度のバランスをとるために,デュアルパスプロトコルを用いて評価を行った。
  論文  参考訳（メタデータ） (2026-07-28T06:33:27Z)
• CQC-RAG: Robust Retrieval-Augmented Generation via Cross-Query Consistency [9.50454647525075]
  CQC-RAGは,クエリレベルの多様性注入とクエリ間の一貫性の評価を共同設計するフレームワークである。 CQC-RAGは、元の質問を多様だが意味を保ったクエリに書き換える。 根拠に基づくプロトコルを適用して、回答と証拠のペアを抽出し、信頼性の安定性に応じて回答を選択する。
  論文  参考訳（メタデータ） (2026-06-11T15:01:49Z)
• Forget, Then Recall: Learnable Compression and Selective Unfolding via Gist Sparse Attention [7.694795562178033]
  大きな言語モデルを長い文脈にスケールすることは、注意の2次計算コストのために困難である。 まず、まず文脈をgistトークンに圧縮し、次に最も関連するgistを選択する。 これにより、コンパクトなグローバル表現と、微細なリーブされた証拠へのターゲットアクセスを組み合わせた単純な粗大な機構が得られる。
  論文  参考訳（メタデータ） (2026-04-22T04:22:32Z)
• Knowledge Is Not Static: Order-Aware Hypergraph RAG for Language Models [22.663638862390467]
  本稿では,秩序を一級構造特性として扱う秩序認識知識ハイパーグラフRAGを提案する。 OKH-RAGは、先行構造を付加したハイパーグラフ内の高次相互作用として知識を表す。 我々は, 熱帯サイクロンや港湾運用シナリオなど, 秩序感性質問応答および説明課題におけるOKH-RAGの評価を行った。
  論文  参考訳（メタデータ） (2026-04-14T01:31:35Z)
• Detecting Overflow in Compressed Token Representations for Retrieval-Augmented Generation [49.48204107529758]
  我々はトークンオーバーフローを、圧縮された表現が与えられたクエリに応答する十分な情報を含んでいない状態として定義する。 本稿では,非圧縮トークン表現から,クエリ非依存の飽和統計を確実に分離することを見出した。 クエリとコンテキストの両方のxRAG表現上の軽量なプローブ分類器は平均0.72 AUC-ROCでオーバーフローを検出する。 これらの結果は、クエリ非依存の診断からクエリ対応検出まで進歩し、低コストのプレLLMゲーティングにより、圧縮によるエラーを軽減できる。
  論文  参考訳（メタデータ） (2026-02-12T18:15:08Z)
• Arbitrary Ratio Feature Compression via Next Token Prediction [52.10426317889982]
  Arbitrary Ratio Feature Compression (ARFC)フレームワークは、任意の圧縮比を単一のモデルでサポートする。 ARCは、次の回帰予測によって圧縮を行う自動回帰モデルである。 MoSモジュールは複数の圧縮結果を利用して圧縮トークンを洗練する。 ERGCは、圧縮中の意味的および構造的関係を維持するために、トレーニングプロセスに統合される。
  論文  参考訳（メタデータ） (2026-02-12T02:38:57Z)
• Noise-Robust Dense Retrieval via Contrastive Alignment Post Training [89.29256833403167]
  Contrastive Alignment POst Training (CAPOT) は、指数再生を必要とせず、モデルロバスト性を改善する高効率な微調整法である。 CAPOTはドキュメントエンコーダを凍結することで堅牢な検索を可能にし、クエリエンコーダはノイズの多いクエリを修正されていないルートに整列させる。 MSMARCO、Natural Questions、Trivia QAパス検索のCAPOTノイズ変動を評価し、CAPOTがオーバーヘッドを伴わないデータ増大に類似した影響があることを発見した。
  論文  参考訳（メタデータ） (2023-04-06T22:16:53Z)
• Mutual Exclusivity Training and Primitive Augmentation to Induce Compositionality [84.94877848357896]
  最近のデータセットは、標準的なシーケンス・ツー・シーケンスモデルにおける体系的な一般化能力の欠如を露呈している。 本稿では,セq2seqモデルの振る舞いを分析し,相互排他バイアスの欠如と全例を記憶する傾向の2つの要因を同定する。 広範に使用されている2つの構成性データセット上で、標準的なシーケンス・ツー・シーケンスモデルを用いて、経験的改善を示す。
  論文  参考訳（メタデータ） (2022-11-28T17:36:41Z)
• Once-for-All Sequence Compression for Self-Supervised Speech Models [62.60723685118747]
  自己教師型音声モデルのための一括圧縮フレームワークを提案する。 このフレームワークは様々なタスクで評価され、固定圧縮率の変種と比較して限界劣化を示す。 また、適応圧縮率学習についても検討し、グリッド探索を必要とせず、タスク固有の好ましいフレーム期間を選択する能力を示す。
  論文  参考訳（メタデータ） (2022-11-04T09:19:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。