論文の概要: MORSE: Multi-Context Ordering via Reverse Scoring for Evidence-Preserving Compression

• arxiv url: http://arxiv.org/abs/2609.27380v1
• Date: Wed, 23 Sep 2026 05:32:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 00:05:17.898845
• Title: MORSE: Multi-Context Ordering via Reverse Scoring for Evidence-Preserving Compression
• Title（参考訳）: MORSE: 証拠保存圧縮のための逆スコーリングによるマルチコンテキスト順序付け
• Abstract要約: 我々は,同じコンテキストコレクションの異なる置換が,変化のない圧縮機の下で著しく異なるエビデンス保持結果をもたらすことを示す。 我々は、エビデンス保存コンテキストオーダリングのための圧縮認識手法であるMORSEを紹介する。
• 参考スコア（独自算出の注目度）: 8.068888334778704
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Likelihood-based context compression can account for cross-context redundancy through sequential scoring, but this makes compression outcomes sensitive to context order. We show that different permutations of the same context collection can produce markedly different evidence-retention outcomes under an unchanged compressor. We attribute this sensitivity to information preemption: earlier partially relevant contexts can absorb credit for shared information, suppressing the incremental score of later, stronger evidence carriers and increasing their risk of removal. Controlled pair-swap interventions directly support this mechanism by showing that evidence-first ordering substantially improves supporting-evidence survival. To address this problem, we introduce MORSE, a compression-aware method for evidence-preserving context ordering. MORSE applies a common reverse query-evidence principle to both individual contexts and compressed candidate outputs, using the former to construct an evidence-first anchor and the latter to guide compression-aware permutation selection. Across multi-hop QA benchmarks, compression procedures, budgets, and scoring models, MORSE consistently improves evidence preservation over static reverse ordering and compute-matched random search, with corresponding overall improvements in downstream QA. Our code is available at https://github.com/tbn5pj/MORSE_code.
• Abstract（参考訳）: Likelihoodベースのコンテキスト圧縮はシーケンシャルスコアリングを通じてコンテキスト間の冗長性を考慮できるが、これはコンテクスト順序に敏感な圧縮結果をもたらす。 我々は,同じコンテキストコレクションの異なる置換が,変化のない圧縮機の下で著しく異なるエビデンス保持結果をもたらすことを示す。 より初期の部分的なコンテキストは、共有情報の信用を吸収し、後続のインクリメンタルスコアを抑え、強力なエビデンスキャリアーを抑え、削除のリスクを増大させます。 制御されたペアスワップの介入は、エビデンスファーストの順序付けがサポートエビデンスサバイバルを大幅に改善することを示し、このメカニズムを直接支援する。 この問題に対処するために,エビデンス保存コンテキスト順序付けのための圧縮対応手法であるMORSEを紹介する。 MORSEは、個々のコンテキストと圧縮された候補出力の両方に共通の逆クエリ-エビデンス原理を適用し、前者はエビデンスファーストアンカーを構築し、後者は圧縮-アウェアな置換選択をガイドする。 マルチホップQAベンチマーク、圧縮手順、予算、スコアリングモデル全体で、MORSEは、静的逆順序付けと計算整合ランダム検索によるエビデンス保存を一貫して改善し、ダウンストリームQAの全体的な改善に対応する。 私たちのコードはhttps://github.com/tbn5pj/MORSE_code.comから入手可能です。

関連論文リスト

• Just Noticeable Difference Modeling for Token Compression in Vision-Language-Action Models [62.522141464687195]
  本稿では,単に目立った差分(JND)の原理を具体化するためのアクションJNDを紹介する。 トークンの変化は、誘導された行動偏差が許容範囲内に留まっている場合にのみ許容できると考えられる。 結果として生じるアクション耐性スコアは、VLA圧縮パラダイムのプラグアンドプレイ基準として機能する。
  論文  参考訳（メタデータ） (2026-08-21T15:59:37Z)
• Every Time I Hire a Linguist, Inference Costs Go Down: On Linguistic Rules as Effective Prompt Compressors [13.49190771932777]
  我々は, 語彙, 構文, 意味, 言説の種を進化的に探索し, 競争ルールの組み合わせを見つける。 結果、言語圧縮機はデプロイメント時にLMフォワードパスを必要とせず、CPU側でのみ圧縮を行う。 圧縮品質と復元精度のバランスをとるために,デュアルパスプロトコルを用いて評価を行った。
  論文  参考訳（メタデータ） (2026-07-28T06:33:27Z)
• CQC-RAG: Robust Retrieval-Augmented Generation via Cross-Query Consistency [9.50454647525075]
  CQC-RAGは,クエリレベルの多様性注入とクエリ間の一貫性の評価を共同設計するフレームワークである。 CQC-RAGは、元の質問を多様だが意味を保ったクエリに書き換える。 根拠に基づくプロトコルを適用して、回答と証拠のペアを抽出し、信頼性の安定性に応じて回答を選択する。
  論文  参考訳（メタデータ） (2026-06-11T15:01:49Z)
• Forget, Then Recall: Learnable Compression and Selective Unfolding via Gist Sparse Attention [7.694795562178033]
  大きな言語モデルを長い文脈にスケールすることは、注意の2次計算コストのために困難である。 まず、まず文脈をgistトークンに圧縮し、次に最も関連するgistを選択する。 これにより、コンパクトなグローバル表現と、微細なリーブされた証拠へのターゲットアクセスを組み合わせた単純な粗大な機構が得られる。
  論文  参考訳（メタデータ） (2026-04-22T04:22:32Z)
• Knowledge Is Not Static: Order-Aware Hypergraph RAG for Language Models [22.663638862390467]
  本稿では,秩序を一級構造特性として扱う秩序認識知識ハイパーグラフRAGを提案する。 OKH-RAGは、先行構造を付加したハイパーグラフ内の高次相互作用として知識を表す。 我々は, 熱帯サイクロンや港湾運用シナリオなど, 秩序感性質問応答および説明課題におけるOKH-RAGの評価を行った。
  論文  参考訳（メタデータ） (2026-04-14T01:31:35Z)
• Detecting Overflow in Compressed Token Representations for Retrieval-Augmented Generation [49.48204107529758]
  我々はトークンオーバーフローを、圧縮された表現が与えられたクエリに応答する十分な情報を含んでいない状態として定義する。 本稿では,非圧縮トークン表現から,クエリ非依存の飽和統計を確実に分離することを見出した。 クエリとコンテキストの両方のxRAG表現上の軽量なプローブ分類器は平均0.72 AUC-ROCでオーバーフローを検出する。 これらの結果は、クエリ非依存の診断からクエリ対応検出まで進歩し、低コストのプレLLMゲーティングにより、圧縮によるエラーを軽減できる。
  論文  参考訳（メタデータ） (2026-02-12T18:15:08Z)
• Arbitrary Ratio Feature Compression via Next Token Prediction [52.10426317889982]
  Arbitrary Ratio Feature Compression (ARFC)フレームワークは、任意の圧縮比を単一のモデルでサポートする。 ARCは、次の回帰予測によって圧縮を行う自動回帰モデルである。 MoSモジュールは複数の圧縮結果を利用して圧縮トークンを洗練する。 ERGCは、圧縮中の意味的および構造的関係を維持するために、トレーニングプロセスに統合される。
  論文  参考訳（メタデータ） (2026-02-12T02:38:57Z)
• Noise-Robust Dense Retrieval via Contrastive Alignment Post Training [89.29256833403167]
  Contrastive Alignment POst Training (CAPOT) は、指数再生を必要とせず、モデルロバスト性を改善する高効率な微調整法である。 CAPOTはドキュメントエンコーダを凍結することで堅牢な検索を可能にし、クエリエンコーダはノイズの多いクエリを修正されていないルートに整列させる。 MSMARCO、Natural Questions、Trivia QAパス検索のCAPOTノイズ変動を評価し、CAPOTがオーバーヘッドを伴わないデータ増大に類似した影響があることを発見した。
  論文  参考訳（メタデータ） (2023-04-06T22:16:53Z)
• Mutual Exclusivity Training and Primitive Augmentation to Induce Compositionality [84.94877848357896]
  最近のデータセットは、標準的なシーケンス・ツー・シーケンスモデルにおける体系的な一般化能力の欠如を露呈している。 本稿では,セq2seqモデルの振る舞いを分析し,相互排他バイアスの欠如と全例を記憶する傾向の2つの要因を同定する。 広範に使用されている2つの構成性データセット上で、標準的なシーケンス・ツー・シーケンスモデルを用いて、経験的改善を示す。
  論文  参考訳（メタデータ） (2022-11-28T17:36:41Z)
• Once-for-All Sequence Compression for Self-Supervised Speech Models [62.60723685118747]
  自己教師型音声モデルのための一括圧縮フレームワークを提案する。 このフレームワークは様々なタスクで評価され、固定圧縮率の変種と比較して限界劣化を示す。 また、適応圧縮率学習についても検討し、グリッド探索を必要とせず、タスク固有の好ましいフレーム期間を選択する能力を示す。
  論文  参考訳（メタデータ） (2022-11-04T09:19:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。