Fugu-MT 論文翻訳(概要): SYNLAT: Syntax-Aligned Text-Latent Compression for Chain-of-Thought Reasoning

論文の概要: SYNLAT: Syntax-Aligned Text-Latent Compression for Chain-of-Thought Reasoning

arxiv url: http://arxiv.org/abs/2610.03839v1
Date: Fri, 02 Oct 2026 15:36:21 GMT
ステータス: 情報取得中
システム内更新日: 2026-10-06 21:43:39.48147
Title: SYNLAT: Syntax-Aligned Text-Latent Compression for Chain-of-Thought Reasoning
Title（参考訳）: SynLAT: チェーン・オブ・ソート推論のための構文適応型テキストレイテンシ圧縮
Abstract要約: 圧縮境界を構文構造に整合させるテキスト遅延CoTフレームワークであるSynLatを紹介する。 Qwen3学生の2つの尺度、Standard-CoTとLong-CoTグループ、および3つの圧縮レベル、SynLatは最も評価の高いベースラインに適合する。
参考スコア（独自算出の注目度）: 22.77909649186904
License:
Abstract: Long chain-of-thought (CoT) traces impose substantial output-token costs. Under constrained budgets, compression must preserve answer-critical information, making boundary placement central. Token-level and fixed-length boundaries can fragment coherent spans such as phrases, formulas, and local derivations, whereas step-level boundaries can bind content requiring different compression actions. We introduce SynLat, a text-latent CoT framework that aligns compression boundaries with syntactic structure through non-overlapping Syntax-Aligned Units (SAUs). An answer-conditioned Teacher constructs progressive KEEP/LATENT targets for a single compression-conditioned Student, which generates mixed reasoning from only the question and requested compression level at inference. Across two Qwen3 Student scales, Standard-CoT and Long-CoT groups, and three compression levels, SynLat matches or exceeds the strongest evaluated baseline in all 12 task-group aggregates and strictly leads in 11 under the reported achieved-CR selection protocol. Overall gains reach 3.6/2.6 points at MEDIUM and 7.0/5.5 points at HIGH for Qwen3-8B/14B, with larger advantages under stronger compression, particularly on Long-CoT groups.
Abstract（参考訳）: ロングチェーン・オブ・思想(CoT)トレースは、かなりの生産コストを課している。制限された予算の下では、圧縮は応答クリティカルな情報を保存し、境界配置を中央に置く必要がある。トークンレベルと固定長境界は、フレーズ、公式、局所導出などのコヒーレントなスパンを断片化することができるが、ステップレベル境界は異なる圧縮アクションを必要とするコンテンツをバインドすることができる。テキストラテントCoTフレームワークであるSynLatを導入し,非重複Syntax-Aligned Units(SAUs)を通じて圧縮境界と構文構造を整列する。回答条件の教師は、単一の圧縮条件の学生に対してプログレッシブKEEP/LATENTターゲットを構築し、推論時に質問と要求された圧縮レベルのみから混合推論を生成する。 Qwen3学生の2つの尺度、Standard-CoTとLong-CoTグループ、および3つの圧縮レベルにおいて、SynLatは12のタスクグループアグリゲーションの中で最も評価されたベースラインと一致し、報告されたCR選択プロトコルの下で11で厳密にリードする。全体的なゲインは媒体で3.6/2.6ポイント、Qwen3-8B/14Bで7.0/5.5ポイントに達する。

関連論文リスト

Every Time I Hire a Linguist, Inference Costs Go Down: On Linguistic Rules as Effective Prompt Compressors [13.49190771932777]
我々は, 語彙, 構文, 意味, 言説の種を進化的に探索し, 競争ルールの組み合わせを見つける。結果、言語圧縮機はデプロイメント時にLMフォワードパスを必要とせず、CPU側でのみ圧縮を行う。圧縮品質と復元精度のバランスをとるために,デュアルパスプロトコルを用いて評価を行った。
論文参考訳（メタデータ） (2026-07-28T06:33:27Z)
STAC: Selective Spatiotemporal Aggregation and Compression for Video Reasoning Segmentation [60.597357847359255]
ビデオセグメンテーションでは、複雑な自然言語クエリの下で数百フレームにわたるピクセル精度の高いオブジェクトトラッキングが要求される。既存のメソッドはトークン圧縮を通じてこの問題に対処するが、典型的には時間的コンテキストを持たない機能で動作する。状態空間モデルは、この制約を解決し、その線形反復性は、各トークンを時間的文脈で選択的に$mathcalO(T)$コスト圧縮して減少させる。
論文参考訳（メタデータ） (2026-07-03T03:28:25Z)
When Compression Helps and When It Hurts: Condition-Aware Analysis of Chain-of-Thought Distillation [22.684181578779132]
Chain-of-Thought (CoT)蒸留は、大規模な推論モデルから小規模の学生に多段階の推論を伝達する。既存のCoT圧縮法は、選択的プルーニングと生成的書き換えという2つのファミリーに分類される。我々は,CoT圧縮を重要基準,再構成レベル,圧縮予算の3次元に沿って再放送する。
論文参考訳（メタデータ） (2026-06-19T19:31:37Z)
Mapping Text to Multiplex Graph: Prompt Compression as Lévy Walk-Guided Graph Pruning [55.43705665875779]
RAGPは、多重グラフ上の冗長性を考慮したグラフプルーニングとして、即時圧縮を定式化する。 LongBenchの実験では、RAGPは平均スコア49.3を4倍の圧縮比で達成している。
論文参考訳（メタデータ） (2026-05-04T01:41:31Z)
From Similarity to Structure: Training-free LLM Context Compression with Hybrid Graph Priors [25.32575172623139]
長いコンテキストの大規模言語モデルは実行するのに計算コストがかかるままであり、しばしば非常に長い入力を確実に処理することができない。本稿では,構造グラフに導かれるコンパクトな文群を選択する,学習不要でモデルに依存しない圧縮フレームワークを提案する。本手法は,k-NNセマンティックエッジと短距離シーケンシャルエッジを組み合わせたスパースハイブリッド文グラフを構築する。
論文参考訳（メタデータ） (2026-04-25T12:40:54Z)
Towards Efficient Large Language Reasoning Models via Extreme-Ratio Chain-of-Thought Compression [55.63153956934198]
Chain-of-Thought (CoT)推論はLarge Language Models (LLMs)の推論能力をうまく向上させる既存のCoT圧縮法は、しばしば高い圧縮比で論理的忠実度が著しく低下する。本稿では,Extra-CoTと呼ばれる新しいEXTreme-RAtio Chain-of-Thought Compressionフレームワークを提案する。
論文参考訳（メタデータ） (2026-02-09T06:57:15Z)
CtrlCoT: Dual-Granularity Chain-of-Thought Compression for Controllable Reasoning [29.057579417751203]
チェーン・オブ・シント(CoT)はLCM推論を改善するが、冗長なトレースによって高いレイテンシとメモリコストを発生させる。セマンティック抽象化とトークンレベルのプルーニングを調和させるデュアルグラニュラリティCoT圧縮フレームワークである textbfCtrlCoT を提案する。
論文参考訳（メタデータ） (2026-01-28T10:38:49Z)
CompLLM: Compression for Long Context Q&A [47.90063873976842]
そこで本研究では,実用的デプロイメント用に設計されたソフト圧縮技術であるCompLLMを紹介する。 CompLLMはコンテキストを水平に処理する代わりにセグメントに分割し、それぞれを独立して圧縮する。実験の結果,2倍圧縮速度でコンテクスト長のCompLLMでは,TTFT(Time To First Token)を最大4倍高速化し,KVキャッシュサイズを50%削減できることがわかった。
論文参考訳（メタデータ） (2025-09-23T16:49:43Z)
UniGist: Towards General and Hardware-aligned Sequence-level Long Context Compression [86.33995240043936]
UniGistは、大規模言語モデルのためのシーケンスレベルのロングコンテキスト圧縮フレームワークである。生のトークンを特別な圧縮トークン(gist)に微粒な方法で置き換えることで、コンテキスト情報を効率的に保存する。提案手法は,圧縮トークンの実際の除去を可能にすることで,フレキシブルな推論もサポートしている。
論文参考訳（メタデータ） (2025-09-19T08:47:37Z)
R1-Compress: Long Chain-of-Thought Compression via Chunk Compression and Search [61.4807238517108]
CoT(Chain-of-Thought)推論は、ステップバイステップの問題解決を可能にすることで、大きな言語モデル(LLM)を強化する。 CoTのLong-CoTへの拡張はトークン長の増加による計算オーバーヘッドを大幅に増加させる。ローカル情報とコヒーレンスの両方を保存する2段階のチャンクレベル圧縮フレームワークであるR1-Compressを提案する。
論文参考訳（メタデータ） (2025-05-22T16:06:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。