論文の概要: GLOBE: Geometry-Led Online Behavioral Early Exit via Unit-Sphere Trajectories
- arxiv url: http://arxiv.org/abs/2610.25970v1
- Date: Mon, 19 Oct 2026 08:01:32 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:04:34.408923
- Title: GLOBE: Geometry-Led Online Behavioral Early Exit via Unit-Sphere Trajectories
- Title(参考訳): GLOBE: 単位球軌道による幾何学的オンライン行動早期退避
- Abstract要約: チェーン・オブ・思想(CoT)推論は問題解決を改善することができるが、正しい答えが到達した後にモデルが生成し続けることがしばしばある。
GLOBE(Geometry-Led Online Behavioral Early Exit)は,モデルのCoTプロセスを早期に終了するオンライントレーニングフリーアルゴリズムである。
- 参考スコア(独自算出の注目度): 9.445659080848985
- License:
- Abstract: Chain-of-thought (CoT) reasoning can improve problem solving, but models often keep generating after the correct answer is already reachable; the extra steps raise serving costs and may replace a correct intermediate result with an incorrect one. We propose GLOBE (Geometry-Led Online Behavioral Early Exit), an online, training-free algorithm that terminates the model's CoT process early. GLOBE embeds each completed reasoning segment as a point on a unit sphere and reads the shape of the resulting semantic trajectory. GLOBE first applies a trial phase that generates short trial answers in a separate branch, stopping the main stream on an accepted trial after checking confidence against a threshold. If generation continues, a trajectory phase stops the stream once this path repeatedly reverses direction with little net progress. On five benchmarks including mathematical reasoning, tool calling, and agent memory, GLOBE cuts output tokens by 49.7% and active end-to-end wall time (E2E) by 51.0% across two models, and achieves a five-task average of 80.58%, comparable to Full CoT.
- Abstract(参考訳): チェーン・オブ・シント(CoT)推論は問題解決を改善することができるが、モデルはしばしば正しい答えが到達した後に生成し続け、追加のステップはサービスコストを上昇させ、正しい中間結果を誤ったものに置き換える。
GLOBE(Geometry-Led Online Behavioral Early Exit)は,モデルのCoTプロセスを早期に終了するオンライントレーニングフリーアルゴリズムである。
GLOBEは、完了した各推論セグメントを単位球面上の点として埋め込み、結果として生じる意味軌道の形状を読み取る。
GLOBEはまず、別のブランチで短いトライアル回答を生成するトライアルフェーズを適用し、しきい値に対する信頼性を確認した後、承認されたトライアルでメインストリームを停止する。
生成が継続すると、この経路が繰り返し逆方向に進むと、軌道位相がストリームを停止する。
数学的推論、ツール呼び出し、エージェントメモリを含む5つのベンチマークでは、GLOBEは出力トークンを49.7%削減し、2つのモデルでアクティブエンド・ツー・エンド・ウォールタイム(E2E)を51.0%削減し、Full CoTに匹敵する5タスク平均80.58%を達成する。
関連論文リスト
- Trajectory-Triggered Sparse Collaborative Decoding [8.203270998896624]
本稿では,ほとんどのトークンを生成するドラフトモデルと,短い修正セグメントに対してのみターゲットモデルが呼び出されるスパース協調復号法について検討する。
局所的不確実性は、エントロピー、負の対数類似性、対数マージン、対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数対数不確実性である。
論文 参考訳(メタデータ) (2026-10-16T15:24:05Z) - One Step, One Lead: Mitigating Higher-Order Interference in Multi-Domain Reinforcement Learning via Cross-Step Control [62.82372407840088]
同点領域勾配は、連続的な更新が出力空間で部分的に逆転する場合においても、ほぼ一定であることを示す。
トークンレベルのリバウンドリスクをランク付けするために,各イテレーションでフォーカスドメインを指定するOSOLを提案する。
OSOLは0.4822のドメイン-マクロ平均に達し、最強の比較ベースラインよりも5.7%向上した。
論文 参考訳(メタデータ) (2026-09-06T08:32:59Z) - HEAT: Faster Fully Homomorphic Inference via Approximations-Weights Co-Adaptation [56.14416807766864]
同型暗号化により、サーバは暗号化されたユーザープロンプト上で言語モデルを直接実行することができる。
既存のアプローチでは、各サイトのエラー許容度を調整するのではなく、モデル全体のイテレーションカウントを均一に修正する。
非線形反復回数を学習可能にする微調整法であるHAT(Hymomorphic Encryption-Aware Training)を導入する。
論文 参考訳(メタデータ) (2026-09-01T18:02:02Z) - GradCuit: Credit-Assigned Gradient Flow Enables Robust and Interpretable Test-Time Latent Reasoning [61.67411833252235]
本稿では,プロンプトの隠蔽表現と生成された継続の間に,選択したTransformer層に最適化可能な潜在状態を挿入するGradCuitを紹介する。
5つの命令調整されたバックボーン、3つの推論ベンチマーク、2つの回答フォーマットで、GradCuitの平均精度は64.5%である。
解釈可能性について、トークンレベルの勾配属性は、遅延の影響が推論・接続子トークンに集中していることを明らかにする一方、層解析は、初期から中間のトランスフォーマー層を最も効果的な最適化空間として認識する。
論文 参考訳(メタデータ) (2026-08-03T17:55:24Z) - REVES: REvision and VErification--Augmented Training for Test-Time Scaling [53.197756110943395]
本稿では,オンラインデータ/プロンプト拡張とポリシー最適化を交互に行う2段階反復フレームワークを提案する。
我々は、RLベースライン上の+6.5点と、標準マルチターントレーニングにおける+4.0点の利得を観察する。
論文 参考訳(メタデータ) (2026-06-17T10:37:23Z) - Consolidating Rewarded Perturbations for LLM Post-Training [18.379594820233173]
CoRPは、報酬重み付けアグリゲーション、互換性を意識した再重み付け、ホールドアウトバリデーションゲートを組み合わせた、勾配のない演算子である。
我々は、CoRPがシングル推論のRandOptを6.5ポイント超え、50パスの多数投票アンサンブルの利得の半分以上を回復することを示した。
論文 参考訳(メタデータ) (2026-05-29T16:16:13Z) - Scaling Test-Time Compute for Agentic Coding [126.72747643609274]
本稿では,ロールアウト軌跡のコンパクトな表現に基づくエージェントコーディングのためのテスト時間スケーリングフレームワークを提案する。
当社のフレームワークは,各ロールアウトを,その健全な仮説,進捗,障害モードを保存する構造的な要約に変換する。
提案手法は,SWE-Bench Verified および Terminal-Bench v2.0 におけるフロンティア符号化エージェントの性能を一貫して改善する。
論文 参考訳(メタデータ) (2026-04-16T17:39:33Z) - Correct, Concise and Complete: Multi-stage Training For Adaptive Reasoning [11.179446105672461]
教師付き微調整と強化学習を組み合わせた多段階効率的な推論手法を提案する。
提案手法は,8Bモデルでは平均28%,32Bモデルでは40%の応答長を減少させる。
より複雑な最先端の効率的な推論手法に比べて、優れたトレードオフを実現する。
論文 参考訳(メタデータ) (2026-01-06T12:31:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。