Fugu-MT 論文翻訳(概要): Beyond Confidence: Stability-Aware Test-Time Adaptation for LLM Reasoning

論文の概要: Beyond Confidence: Stability-Aware Test-Time Adaptation for LLM Reasoning

arxiv url: http://arxiv.org/abs/2609.11393v1
Date: Thu, 10 Sep 2026 11:29:18 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-11 23:53:35.314378
Title: Beyond Confidence: Stability-Aware Test-Time Adaptation for LLM Reasoning
Title（参考訳）: 信頼性を超えて: LLM推論のための安定性を考慮したテスト時間適応
Abstract要約: テスト時適応は、下流タスクにおけるLarge Language Models (LLMs)を改善するために、コストのかかる後トレーニングに代わる軽量な代替手段として登場した。本研究では,信頼度に基づくテスト時間適応に局所的安定性を組み込んだフレームワークTASCOを提案する。実験により、TASCOは様々なLCMおよび推論ベンチマークにおける推論精度とトークン効率を改善することが示された。
参考スコア（独自算出の注目度）: 18.026220495767326
License: http://creativecommons.org/licenses/by-sa/4.0/
Abstract: Test-time adaptation has emerged as a lightweight alternative to costly post-training for improving the reasoning capabilities of Large Language Models (LLMs) on downstream tasks. Predictive entropy provides a model-derived signal for such adaptation, guiding models toward higher-confidence reasoning states without external verifiers or reward models. However, higher confidence does not necessarily imply correctness, as LLMs may remain highly confident along incorrect reasoning trajectories. We observe that high-confidence reasoning is more likely to be correct when confidence remains stable under local perturbations. Based on this observation, we propose Test-Time Adaptation via Stability-Aware Confidence Optimization (TASCO), a framework that incorporates local stability into confidence-based test-time adaptation while keeping the LLM frozen. TASCO operationalizes local stability by optimizing a lightweight task-level prefix under two alternative perturbation strategies: Random Perturbation promotes distributional stability across trajectories induced by nearby perturbed prefixes, whereas Sharpness-Aware Perturbation targets worst-case local sensitivity. Experiments demonstrate that TASCO improves reasoning accuracy and token efficiency across diverse LLMs and reasoning benchmarks, while behavioral analyses show that it maintains stable confidence under local perturbations without prematurely concentrating the model's predictive distribution.
Abstract（参考訳）: テスト時適応は、下流タスクにおけるLLM(Large Language Models)の推論能力を改善するために、コストのかかるポストトレーニングに代わる軽量な代替手段として登場した。予測エントロピー(英: Predictive entropy)は、そのような適応のためのモデル由来の信号を提供し、外部検証子や報酬モデルなしで高信頼推論状態に向けてモデルを導く。しかし、LLMは誤った推論軌道に沿って高い信頼を保っているため、高い信頼度は必ずしも正しさを示唆するものではない。局所摂動下での信頼性が安定していけば, 高信頼推論が正しい可能性が高くなる。本報告では,LLMの凍結を維持しつつ,局所的安定性を信頼に基づくテスト時間適応に組み込むフレームワークである,安定性を考慮した信頼度最適化(TASCO)によるテスト時間適応を提案する。ランダム摂動は、近くの摂動プレフィックスによって誘導される軌跡間の分散安定性を促進するが、シャープネス・アウェア摂動は最悪の局所感度を目標とする。実験により,TASCOは多種多様なLCMおよび推論ベンチマークにおける推論精度とトークン効率を向上し,挙動解析によりモデルの予測分布を早めに集中させることなく局所摂動下で安定な信頼性を維持することが示された。

関連論文リスト

Confidence-Aware Alignment Makes Reasoning LLMs More Reliable [65.44962502963378]
CASPOは、トークンレベルの信頼度とステップワイドな論理的正しさを、個別の報酬モデルをトレーニングせずに整合させるフレームワークである。推論中、信頼を意識した思考(CaT)を提案し、不確実な推論枝を無視可能なO(V)レイテンシで動的に生成する。 10のベンチマークと複数のモデルファミリでの実験では、CASPOは推論の信頼性と推論効率を一貫して改善している。
論文参考訳（メタデータ） (2026-05-08T07:08:25Z)
Process Supervision of Confidence Margin for Calibrated LLM Reasoning [52.373121066425455]
強化学習(RL)によるテスト時間計算のスケーリングは,大規模言語モデル(LLM)推論能力を向上させるための信頼性の高い経路として登場した。しかし、結果に基づく報酬は、しばしばモデルに過信感を与え、幻覚、信頼できない信頼ベースの制御、不要な計算割り当てをもたらす。本稿では,信頼性と信頼性を両立させるキャリブレーションを意識したRLフレームワークであるReinforcement Learning with Confidence Margin(textbfRLCM)を紹介する。
論文参考訳（メタデータ） (2026-04-25T14:40:13Z)
Less Approximates More: Harmonizing Performance and Confidence Faithfulness via Hybrid Post-Training for High-Stakes Tasks [52.81286869496811]
大規模な言語モデルは、自信を持って不正確な推論が現実世界の害を引き起こすような、ハイテイクなタスクにますますデプロイされている。内的フィードバックからの教師なし強化学習と推論・トラス誘導型推論蒸留を併用して協調的に最適化することを提案する。 PRG方式のメトリクスを用いてRDとRLIFを適応的に重み付けするハイブリッドポストトレーニングフレームワークであるHyTuningを紹介する。
論文参考訳（メタデータ） (2026-04-09T16:50:11Z)
Stable Reasoning, Unstable Responses: Mitigating LLM Deception via Stability Asymmetry [19.669339224904277]
決定的なリスクは本質的な詐欺であり、モデルがユーザを戦略的に誤解させ、自身の目的を達成させる。 CoT監視に基づく既存のアライメントアプローチは、明確な推論トレースを監督する。本稿では,この分布非対称性を正規化する新たなアライメント目標である安定非対称性正規化(SAR)を提案する。
論文参考訳（メタデータ） (2026-03-27T09:47:57Z)
Shifting Uncertainty to Critical Moments: Towards Reliable Uncertainty Quantification for VLA Model [10.781664119473966]
本稿では,ロールアウトの成功と失敗を予測するための統一的不確実性定量化手法を提案する。本手法は, 故障予測精度を大幅に向上し, 故障検出のための信頼性の高い信号を得る。
論文参考訳（メタデータ） (2026-03-18T22:52:03Z)
Not All Preferences Are Created Equal: Stability-Aware and Gradient-Efficient Alignment for Reasoning Models [52.48582333951919]
ポリシー更新の信号対雑音比を最大化することにより、アライメントの信頼性を高めるために設計された動的フレームワークを提案する。 SAGE(Stability-Aware Gradient Efficiency)は、モデル能力に基づいて候補プールをリフレッシュする粗いきめ細かいカリキュラムメカニズムを統合する。複数の数学的推論ベンチマークの実験により、SAGEは収束を著しく加速し、静的ベースラインを上回っていることが示された。
論文参考訳（メタデータ） (2026-02-01T12:56:10Z)
Test-Time Adaptation for Tactile-Vision-Language Models [6.918033886034668]
触覚ビジョン言語(TVL)モデルは、現実のロボットやマルチモーダルな知覚タスクにますます多くデプロイされている。既存のテスト時間適応法は、一様条件下でのフィルタリングを提供するが、モーダルシフトの下でのモダリティの信頼性の明示的な扱いは欠如している。本稿では,予測の不確実性と摂動に基づく応答からモダリティ毎の信頼性を推定する信頼性認識フレームワークを提案する。
論文参考訳（メタデータ） (2026-01-31T02:26:01Z)
ReasonBENCH: Benchmarking the (In)Stability of LLM Reasoning [2.1461777157838724]
ReasonBENCHは,大規模言語モデル(LLM)推論における基盤不安定性を定量化する最初のベンチマークである。異なる領域からのタスク全体で、推論戦略とモデルの大部分は高い不安定性を示す。我々はさらに、解答率と安定性のトレードオフに対するプロンプト、モデル家族、スケールの影響を解析する。
論文参考訳（メタデータ） (2025-12-08T18:26:58Z)
MaP: A Unified Framework for Reliable Evaluation of Pre-training Dynamics [72.00014675808228]
大規模言語モデルの不安定性評価プロセスは、真の学習力学を曖昧にする。 textbfMaPは、アンダーラインMergingアンダーラインとアンダーラインPass@kメトリックを統合するフレームワークです。実験により、MaPはよりスムーズな性能曲線を示し、ラン間分散を低減し、より一貫性のあるランキングを保証する。
論文参考訳（メタデータ） (2025-10-10T11:40:27Z)
Aurora: Are Android Malware Classifiers Reliable and Stable under Distribution Shift? [51.12297424766236]
AURORAは、その信頼性と運用上のレジリエンスに基づいて、マルウェア分類器を評価するためのフレームワークである。 AURORAは、ポイント・イン・タイムのパフォーマンスを超えるように設計されたメトリクスのセットによって補完される。さまざまなドリフトのデータセットにわたるSOTAフレームワークの脆弱性は、ホワイトボードへの復帰の必要性を示唆している。
論文参考訳（メタデータ） (2025-05-28T20:22:43Z)
ReliOcc: Towards Reliable Semantic Occupancy Prediction via Uncertainty Learning [26.369237406972577]
視覚中心のセマンティック占有予測は、自律運転において重要な役割を果たす。カメラからのセマンティック占有率を予測するための信頼性を探求する研究は、まだ少ない。本稿では,カメラによる占有ネットワークの信頼性向上を目的としたReliOccを提案する。
論文参考訳（メタデータ） (2024-09-26T16:33:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。