論文の概要: Capable yet Parsimonious: Extracting and Characterizing Hidden Chain-of-Thought in Frontier Models

• arxiv url: http://arxiv.org/abs/2609.26637v1
• Date: Tue, 22 Sep 2026 16:10:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-24 01:05:39.7399
• Title: Capable yet Parsimonious: Extracting and Characterizing Hidden Chain-of-Thought in Frontier Models
• Title（参考訳）: 最前線モデルにおける隠れ連鎖の抽出と特徴化
• Abstract要約: 私たちは、標準的なAPI機能を通じてシンプルなカスタムツールを登録することで、中間推論を外部化するフロンティアモデルを誘導します。 我々はオープンソースモデル上でネイティブCoTに対して評価を行い、GPT-6 Astraを含むクローズドソースフロンティアモデルに拡張する。 アストラはトークン効率のよい有向推論を示し、より早い段階で正しい軌道を選択するとともに、基本的なステップを内部で解決し、重要な推論のみを外部化する。
• 参考スコア（独自算出の注目度）: 18.857970071411774
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The rapid capability gains of frontier language models are widely attributed to improved reasoning abilities, yet this cannot be verified as raw CoT traces in closed-source systems are hidden. By registering a simple custom tool through a standard API feature, we induce frontier models to externalize intermediate reasoning. Because these traces may reflect post-hoc rationalization rather than genuine reasoning, we first evaluate against native CoT on open-source models and extend to closed-source frontier models including GPT-6 Astra. We find that the extracted reasoning matches native reasoning performance and substantially outperforms no-reasoning baselines, across competition mathematics, science, and code generation. We then characterize how frontier models structure their intermediate reasoning. Across token efficiency, reasoning-step types, and induced reasoning trees, we identify systematic differences in how models externalize, compress, and organize reasoning. We find that Astra exhibits token-efficient directed reasoning, selecting a correct trajectory earlier, while resolving elementary steps internally and externalizing only crucial reasoning. These findings provide a behavioral lens on frontier-model reasoning beyond benchmark scores.
• Abstract（参考訳）: フロンティア言語モデルの急速な能力向上は推論能力の向上によるものと広く考えられているが、クローズドソースシステムの生のCoTトレースが隠されているため、これは検証できない。 標準的なAPI機能を通じてシンプルなカスタムツールを登録することで、中間推論を外部化するフロンティアモデルを誘導します。 これらのトレースは真の推論よりもポストホックな合理化を反映する可能性があるため、まずオープンソースモデル上でネイティブなCoTに対して評価し、GPT-6 Astraを含むクローズドソースフロンティアモデルに拡張する。 抽出された推論は、ネイティブな推論性能と一致し、競合数学、科学、コード生成などにおいて、推論ベースラインを大幅に上回っていることがわかった。 次に、フロンティアモデルが中間的推論をどのように構成するかを特徴付ける。 トークン効率,推論ステップタイプ,帰納的推論木などを越えて,モデルの外部化,圧縮,整理方法の系統的差異を同定する。 アストラはトークン効率のよい有向推論を示し、より早い段階で正しい軌道を選択し、基本的なステップを内部で解決し、重要な推論のみを外部化する。 これらの結果は、ベンチマークスコアを超えるフロンティアモデル推論の行動レンズを提供する。

関連論文リスト

• Forethought: Verifiable Reasoning from Neurosymbolic Primitive Programming [0.764671395172401]
  Forethoughtは、推論を明示的で検証可能なプログラムとして扱う神経象徴的推論システムである。 ベースモデルの精度を約30%向上し、バニラのプロンプト、強化学習足場、即時進化法に勝る。
  論文  参考訳（メタデータ） (2026-07-05T03:20:23Z)
• AnE: Pushing the Reasoning Frontier of Multimodal LLMs via Anchor Evolution [61.593935260052795]
  Supervised Fine-Tuning (SFT) とReinforcement Learning (RL) による後学習は多モーダル大規模言語モデル(MLLM)における推論の強化に不可欠である 既存のパラダイムは、静的データの制限により、しばしばパフォーマンスのボトルネックに達する。 我々は,真理に順応したデータキュレーションとモデル進化を統合する新しいパラダイムであるアンカー進化(AnE)を提案する。
  論文  参考訳（メタデータ） (2026-05-25T08:26:34Z)
• Evaluating and Enhancing the Vulnerability Reasoning Capabilities of Large Language Models [15.849480549367684]
  本稿では,DAG生成タスクとして脆弱性推論をモデル化する新しいフレームワークであるDAGVulを提案する。 さらにReinforcement Learning with Verifiable Rewards (RLVR)を導入することで、モデル推論トレースをプログラム固有の論理と整合させる。 我々のフレームワークは、すべてのベースラインに対して平均18.9%の推論F1スコアを改善します。
  論文  参考訳（メタデータ） (2026-02-06T13:19:45Z)
• CoLT: Reasoning with Chain of Latent Tool Calls [31.228763375347608]
  CoT(Chain-of-Thought)は、大規模言語モデル(LLM)の推論能力を高める重要な手法である。 ツールコールとして潜伏推論を実装する新しいフレームワークである「CoLT」を提案する。
  論文  参考訳（メタデータ） (2026-02-04T06:12:53Z)
• Do LLMs Encode Functional Importance of Reasoning Tokens? [11.21558453188654]
  推論トークンを反復的に除去する確率保存的削除手順であるgreedy pruningを提案する。 本研究では, プルーニングチェーンを訓練した学生が, 一致した推論長でフロンティアモデルによる圧縮ベースラインより優れていることを示す。
  論文  参考訳（メタデータ） (2026-01-06T14:50:02Z)
• ARCHE: A Novel Task to Evaluate LLMs on Latent Reasoning Chain Extraction [70.53044880892196]
  本稿では、複雑な推論引数を標準推論パラダイムの組み合わせに分解し、Reasoning Logic Tree (RLT) という形で分解しなければならない、ARCHE(Latent Reasoning Chain extract)という新しいタスクを紹介する。 この作業を容易にするために,我々は,1,900以上の参照と38,000の視点を含む70のNature Communicationsの記事から得られた新しいベンチマークであるARCHE Benchをリリースする。 ARCHE Bench上での10のLLMの評価では、モデルがREAとECのトレードオフを示しており、完全な標準推論チェーンを抽出することはできません。
  論文  参考訳（メタデータ） (2025-11-16T07:37:09Z)
• A Survey on Latent Reasoning [100.54120559169735]
  大きな言語モデル(LLM)は印象的な推論機能を示している。 中間ステップを言語化するCoT推論は、モデルの表現帯域幅を制限する。 潜在的推論は、モデルの連続的な隠れ状態に完全にマルチステップの推論を実行することで、このボトルネックに対処する。
  論文  参考訳（メタデータ） (2025-07-08T17:29:07Z)
• A Closer Look at Bias and Chain-of-Thought Faithfulness of Large (Vision) Language Models [58.32070787537946]
  思考の連鎖(CoT)推論は、大きな言語モデルの性能を高める。 大規模視覚言語モデルにおけるCoT忠実度に関する最初の総合的研究について述べる。
  論文  参考訳（メタデータ） (2025-05-29T18:55:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。