論文の概要: CritICL: Inference-Time Weak-to-Strong Generalization from Small Language Model Failure Modes

• arxiv url: http://arxiv.org/abs/2608.27455v1
• Date: Thu, 27 Aug 2026 17:59:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-28 16:30:58.524476
• Title: CritICL: Inference-Time Weak-to-Strong Generalization from Small Language Model Failure Modes
• Title（参考訳）: CritICL:小言語モデル故障モードからの推論時間弱相関一般化
• Abstract要約: 高い効率を保ちながら推論を改善する新しい推論時間フレームワークであるCritICLを紹介する。 我々は、より弱いモデルから派生した障害モードを利用して、批判に基づくインコンテキストの例を通して、それらを推論に取り入れる。 CRITICLは、標準のコンテキスト内学習を一貫して上回り、テスト時間スケーリング手法と競合する、あるいは優れたパフォーマンスを達成する。
• 参考スコア（独自算出の注目度）: 8.494161214945963
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent advances in inference-time scaling have significantly improved the reasoning performance of large language models (LLMs). However, these methods typically rely on repeated generation or external verification. To address this limitation, we introduce CritICL, a novel inference-time framework that improves reasoning while maintaining high efficiency. Our key insight is that LLM failure modes exhibit structured patterns across model scales within the same family. Instead of treating failures as undesirable outputs, CritICL leverages them as a source of guidance. Specifically, we utilize failure modes derived from weaker models and incorporate them into inference through critique-based in-context examples. We propose two variants: CritICL-dynamic, which adaptively predicts input-specific failure modes and retrieves critiques, and CritICL-static, which uses a global failure mode profile to provide stable guidance. Experimental results show that CritICL consistently outperforms standard in-context learning and achieves performance competitive with or superior to test-time scaling methods, while requiring significantly fewer generations and lower token cost. Code available at: https://github.com/umwyf/CRITICL
• Abstract（参考訳）: 推論時間スケーリングの最近の進歩は、大規模言語モデル(LLM)の推論性能を大幅に改善した。 しかし、これらの手法は典型的には繰り返し発生または外部検証に依存する。 この制限に対処するため、我々は高効率を維持しながら推論を改善する新しい推論時フレームワークCritICLを紹介した。 私たちの重要な洞察は、LLMの障害モードは、同じファミリー内のモデルスケールにまたがる構造化パターンを示すということです。 CritICLは、障害を望ましくない出力として扱う代わりに、それらをガイダンスのソースとして利用する。 具体的には、より弱いモデルから派生した障害モードを利用し、批判に基づくインコンテキストの例を通して推論に組み込む。 入力固有の障害モードを適応的に予測し、批判を検索するCritICL-dynamicと、グローバルな障害モードプロファイルを使用して安定したガイダンスを提供するCritICL-staticの2つのバリエーションを提案する。 実験結果から,CrytICLは標準のコンテキスト内学習を一貫して上回り,テスト時間スケーリング手法と競合する性能を達成し,世代数を大幅に削減し,トークンコストを低減できることがわかった。 https://github.com/umwyf/CRITICL

関連論文リスト

• Position: It's Time to Optimize LLMs for Self-Consistency [50.68587056599734]
  多くの重要な障害は、事前および後トレーニングパイプラインの言語モデルに持続する。 これらの失敗は、パイプラインのすべての側面に浸透するモデリングの前提から生じます。 これらの失敗を理解するためのフレームワークとして,自己整合性を提案する。
  論文  参考訳（メタデータ） (2026-07-31T19:16:53Z)
• Categorical Prior Lock-in: Why In-Context Learning Fails for Structured Data [2.327999580858199]
  分散ミスマッチ下での構造化生成における文脈内学習(ICL)の限界について検討する。 ICLが事前学習から受け継いだトークンの分布を更新できないため、我々は、テクティティティカルな事前ロックインと呼ぶ構造的障害モードを特定した。
  論文  参考訳（メタデータ） (2026-06-10T11:41:13Z)
• LiveFMBench: Unveiling the Power and Limits of Agentic Workflows in Specification Generation [75.05397479715576]
  大規模言語モデル(LLM)とエージェントは有望な進歩を示しているが、その真の能力と失敗モードは未だ不明である。 CプログラムのためのLCMおよびエージェントベースの形式仕様生成に関する、最初の体系的および汚染に配慮した研究を提案する。
  論文  参考訳（メタデータ） (2026-05-02T11:31:33Z)
• How LLMs Fail and Generalize in RTL Coding for Hardware Design? [56.361436215029045]
  我々は,認知理論に触発された問題解決性に基づく新しい誤り分類法を導入する。 我々の分類学は、障害を構文、意味、解決可能な機能、解決不可能な機能タイプに分類する。
  論文  参考訳（メタデータ） (2026-04-26T14:34:49Z)
• CLSGen: A Dual-Head Fine-Tuning Framework for Joint Probabilistic Classification and Verbalized Explanation [9.80652710081054]
  CLSGenはバイナリ分類タスクのための新しい微調整フレームワークである。 モデル固有の説明生成能力を犠牲にすることなく、頑健な確率推定を可能にする。 CLSGenで微調整されたモデルは、分類基準において既存のベースラインを上回っている。
  論文  参考訳（メタデータ） (2026-04-13T17:58:43Z)
• FORESTLLM: Large Language Models Make Random Forest Great on Few-shot Tabular Learning [20.27406245916013]
  本稿では,大規模言語モデル(LLM)の意味的推論能力を用いて,決定林の構造的帰納バイアスを統一する枠組みを提案する。 まずLLMがラベル付きデータとラベルなしデータの両方の一貫性に基づいて候補分割を評価するセマンティックスプリッティング基準を導入し、より堅牢で一般化可能な木構造を数発の監視下で実現する。 第2に,LLMが決定経路とその支持例を簡潔で決定論的な予測に蒸留し,雑音の多い経験的推定を意味的インフォームドアウトプットに置き換える,葉ノード安定化のためのワンタイムインコンテキスト推論機構を提案する。
  論文  参考訳（メタデータ） (2026-01-16T14:08:51Z)
• Model Utility Law: Evaluating LLMs beyond Performance through Mechanism Interpretable Metric [99.56567010306807]
  大規模言語モデル(LLM)は、学術、産業、そして日々のアプリケーションに欠かせないものになっている。 大規模言語モデル (LLM) 時代における評価の課題の1つは一般化問題である。 従来の性能スコアを補完するメカニズムの解釈可能性向上指標であるモデル利用指数(MUI)を提案する。
  論文  参考訳（メタデータ） (2025-04-10T04:09:47Z)
• Adaptive Distraction: Probing LLM Contextual Robustness with Automated Tree Search [76.54475437069395]
  大きな言語モデル(LLM)は、意味的に一貫性があるがタスクに依存しないコンテキスト情報に直面している場合、元のパフォーマンスを維持するのに苦労することが多い。 本稿では,木探索に基づく動的散逸生成フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-02-03T18:43:36Z)
• RealCritic: Towards Effectiveness-Driven Evaluation of Language Model Critiques [59.861013614500024]
  我々は,Large Language Models (LLMs) の批判能力を評価するために設計された新しいベンチマークを導入する。 通常、オープンループ方式で機能する既存のベンチマークとは異なり、我々のアプローチでは、批判から生成された修正の質を評価するクローズドループ手法を採用している。
  論文  参考訳（メタデータ） (2025-01-24T13:48:10Z)
• Alice in Wonderland: Simple Tasks Showing Complete Reasoning Breakdown in State-Of-the-Art Large Language Models [13.532180752491954]
  大規模言語モデル(LLM)は、しばしばスケーリング法則に従う強力な一般化を持つ基礎モデルの例として記述される。 ここでは、強い関数を主張する全てのSOTAモデルの一般化と基本的推論の劇的な分解を示す。 また、間違った解法において強い過信感を観察し、妥当な音響的説明のような折り畳みの形で表現する。
  論文  参考訳（メタデータ） (2024-06-04T07:43:33Z)
• Test-Time Training for Semantic Segmentation with Output Contrastive Loss [12.535720010867538]
  ディープラーニングベースのセグメンテーションモデルは、公開ベンチマークで印象的なパフォーマンスを達成したが、目に見えない環境にうまく一般化することは、依然として大きな課題である。 本稿では、適応過程を安定させるために、頑健で一般化された表現を学習する能力で知られるコントラストロス(OCL)を紹介する。 本手法は,テスト領域データに対するドメイン適応法を用いて事前学習したモデルに適用した場合においても優れ,そのレジリエンスと適応性を示す。
  論文  参考訳（メタデータ） (2023-11-14T03:13:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。