論文の概要: CoTs remain monitorable when being unfaithful requires computation: Replicating and Extending the Necessity Effect Across Eleven Models

• arxiv url: http://arxiv.org/abs/2610.24495v1
• Date: Sat, 17 Oct 2026 06:33:01 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 12:00:02.486212
• Title: CoTs remain monitorable when being unfaithful requires computation: Replicating and Extending the Necessity Effect Across Eleven Models
• Title（参考訳）: CoTは不信な場合も監視可能で計算が必要:11つのモデルにまたがる必要効果のレプリケーションと拡張
• Abstract要約: Emmons et al. (2025) は、モデルが思考の連鎖でそれを明らかにすることなく質問ヒントに従うことができるが、ヒントが十分に複雑であれば、計算はCoTに強制される。 我々は、プロキシタスクを6つのファミリーから11モデルに複製し、その必要性効果を一般化する。 Emons et al. (2025) による研究を拡張し、5つのcueファミリーにわたる CoT の必要性と不誠実さを測定した。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: While a LLM's chain of thought (CoT) is a promising approach to interpreting model outputs, prior work shows CoT's content does not always accurately reflect the reasoning process. Emmons et al. (2025) finds that models can follow a question hint without revealing so in its chain of thought, but when the hint is sufficiently complex the computation is forced into the CoT. This claim, however, has only been tested on Gemini models, and the datasets and code is closed source. We replicate their proxy task across eleven models from six families and find the necessity effect generalizes. Every model follows simple cues above a no-hint baseline, while concealed complex-cue following falls back near baseline for most models. We also extend the study from Emmons et al. (2025) to measure CoT-necessity and unfaithfulness across five cue families (four of them new) and three difficulty levels. The relationship between when CoT is necessary and unfaithfulness is task-specific and model-specific. For some hint types, models often verbalize their hint-following behavior even when the hint can be decoded in a single forward pass. These results support the case for CoT monitoring when unsafe behavior requires non-trivial computation, and that properties of CoT unfaithfulness are sensitive to model and setting.
• Abstract（参考訳）: LLMの思考の連鎖(CoT)は、モデル出力を解釈するための有望なアプローチであるが、以前の研究は、CoTのコンテンツが推論過程を正確に反映しているとは限らないことを示している。 Emmons et al (2025) は、モデルが思考の連鎖でそれを明らかにすることなく質問ヒントに従うことができるが、ヒントが十分に複雑であれば、計算はCoTに強制される。 しかし、この主張はGeminiモデルでのみテストされており、データセットとコードはクローズドソースである。 我々は、プロキシタスクを6つのファミリーから11モデルに複製し、その必要性効果を一般化する。 どのモデルもノハトベースラインの上の単純なキューに従うが、隠れた複素キューはほとんどのモデルではベースラインの近くに戻る。 また、Emons et al (2025) による研究を拡張し、5つのcueファミリー(うち4つは新しい)と3つの困難レベルにわたって CoT の必要性と不誠実さを測定した。 CoTが必要なときと不信感の関係はタスク固有であり、モデル固有である。 いくつかのヒントタイプでは、モデルはしばしば、ヒントが単一のフォワードパスでデコードされたとしても、ヒント追跡の振る舞いを口頭で表現する。 これらの結果は、安全でない振る舞いが非自明な計算を必要とする場合のCoTモニタリングのケースをサポートし、CoTの不誠実さの特性はモデルや設定に敏感である。

関連論文リスト

• Making LLMs Say What They Think: Measuring and Improving CoT-Interpretability Alignment [50.1119670192387]
  CoT(Chain-of- Thought)トレースは、大言語モデルがその答えにどのように到達するかのプロキシとして機能することが多い。 モデルのCoTはしばしば内部の計算を反映せず、最終的な答えに影響を与えずに変更できることを示す証拠が大きくなる。 我々は,モデルのCoTトレースと内部推論戦略との一致を測定する指標であるCoT-Interpretability Alignment(CIA)を提案する。
  論文  参考訳（メタデータ） (2026-09-30T04:44:26Z)
• Counterfactual Simulation Training for Chain-of-Thought Faithfulness [46.34729653681641]
  我々は,CST(Counterfactual Simulation Training)と呼ばれるトレーニング手法を導入する。 CSTは、シミュレーターが偽の入力に対してモデルの出力を正確に予測できるCoTに報酬を与える。 最大235Bパラメータのモデルによる実験により、CSTはキューベースのカウンターファクトの精度を大幅に向上できることが示された。
  論文  参考訳（メタデータ） (2026-02-24T09:15:30Z)
• MERGETUNE: Continued fine-tuning of vision-language models [77.8627788911249]
  微調整視覚言語モデル(VLM)は、しばしば事前訓練された知識を破滅的に忘れてしまう。 ゼロショットモデルに適応した後に事前学習した知識を回復するための新しいパラダイムである連続微調整(CFT)を導入する。
  論文  参考訳（メタデータ） (2026-01-15T15:15:53Z)
• Measuring Chain-of-Thought Monitorability Through Faithfulness and Verbosity [3.117948413097524]
  CoT(Chain-of- Thought)出力によって、モデルのステップバイステップ推論を読み取ることができます。 BBH,GPQA,MMLUの命令調整モデルと推論モデルについて検討した。
  論文  参考訳（メタデータ） (2025-10-31T11:14:39Z)
• Prompting Science Report 2: The Decreasing Value of Chain of Thought in Prompting [0.0]
  Chain-of-Thought(CoT)プロンプトは,大規模言語モデルに“ステップバイステップ”を推奨するテクニックである。 CoTプロンプトの有効性はタスクの種類やモデルによって大きく異なる。 明確な推論能力を持つモデルの場合、CoTのプロンプトは答えの正確性に限界があるだけである。
  論文  参考訳（メタデータ） (2025-06-08T13:41:25Z)
• Reasoning Models Don't Always Say What They Think [48.05987314492555]
  CoT(Chain-of-Thought)は、モデルの意図と推論プロセスの監視を可能にする。 提案する6つの推論ヒントにまたがる最先端推論モデルのCoT忠実度を評価した。
  論文  参考訳（メタデータ） (2025-05-08T16:51:43Z)
• Multi-Level Collaboration in Model Merging [56.31088116526825]
  本稿では,モデルマージとモデルアンサンブルの本質的な関係について考察する。 これまでの制限が満たされていない場合でも、モデルのマージによって、アンサンブルと同じような、ほぼ同一かつ優れたパフォーマンスを達成する方法がまだ存在することが分かっています。
  論文  参考訳（メタデータ） (2025-03-03T07:45:04Z)
• Chain-of-Thought Unfaithfulness as Disguised Accuracy [0.0]
  CoT(Chain-of-Thought)世代は、大きな言語モデルの内部計算(LLM)と一致している。 モデルが回答を生成するためのCoTへの依存度を測定する指標を提案する。
  論文  参考訳（メタデータ） (2024-02-22T17:23:53Z)
• Measuring Faithfulness in Chain-of-Thought Reasoning [19.074147845029355]
  大きな言語モデル(LLM)は、質問に答える前にステップバイステップの"Chain-of-Thought"(CoT)推論を生成する場合、より優れたパフォーマンスを発揮する。 記述された推論が、モデルの実際の推論(すなわち、質問に答えるプロセス)の忠実な説明であるかどうかは不明である。 我々は,CoTに介入する際のモデル予測がどう変化するかを調べることで,CoT推論が不信である可能性の仮説を考察する。
  論文  参考訳（メタデータ） (2023-07-17T01:08:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。