論文の概要: Reasoning-Token Spikes Under Prompted Untruthful Responses in Large Language Models

• arxiv url: http://arxiv.org/abs/2610.10405v2
• Date: Fri, 09 Oct 2026 01:09:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.182015
• Title: Reasoning-Token Spikes Under Prompted Untruthful Responses in Large Language Models
• Title（参考訳）: 大規模言語モデルにおける突発的非現実的応答下での推論的スパイク
• Abstract要約: セマンティック・チェーン・オブ・シント・モニタリングは、モデルの振る舞いを生み出す基礎となる計算に正確で忠実に依存します。 本稿では,低帯域幅の信号,すなわち推論トレースの内容にアクセスする必要のない推論トークンの数について検討する。 以上の結果から,本研究は,真理モデル行動と非本質モデル行動とを区別するための,単純かつ内容に依存しないブラックボックス候補信号として機能することの証明である。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Monitoring the chain-of-thought of reasoning artificial intelligence (AI) models remains a key approach to detecting deception and other forms of misbehavior in such models. However, semantic chain-of-thought monitoring depends on reasoning traces being legible and sufficiently faithful to the underlying computations that produced the model's behavior, not to mention accessible. Moreover, there is increasing evidence that chain-of-thought outputs may soon become illegible or unfaithful, if they even remain accessible. Based on cognitive load theory, we investigate a lower-bandwidth signal--the number of reasoning tokens generated--which does not require access to the content of the reasoning trace. Three reasoning-capable large language models answered 210 multiple-choice questions--across analytic, descriptive, and normative reasoning types as well as moral and non-moral domains--under system prompts instructing them to respond truthfully, falsely, or without regard for truth. Across all three models, truth-directed responses elicited fewer reasoning tokens than both lie-directed and truth-indifferent responses. In addition, in one model, untruthful instructions increased the likelihood of reasoning at all. These findings show that explicitly prompted untruthful response policies can produce robust group-level differences in test-time reasoning-token use. While not yet establishing reasoning-token count as a detector of spontaneous deception or general misalignment, our results are a proof of concept that it can serve as a simple, content-independent black-box candidate signal for differentiating untruthful from truthful model behavior when raw reasoning traces are unavailable or unreliable. Future work should test instance-level detection rates, out-of-distribution generalization, learned deceptive policies, hidden objectives, and robustness under adversarial pressure.
• Abstract（参考訳）: 人工知能(AI)モデル推論の連鎖をモニタリングすることは、そのようなモデルにおける詐欺やその他の種類の誤動作を検出するための重要なアプローチである。 しかし、セマンティック・チェーン・オブ・シント(セマンティック・チェーン・オブ・シント・モニタリング)は、モデルの動きを生み出す基礎となる計算に正確で十分に忠実なトレースの推論に依存する。 さらに、チェーン・オブ・インプット(英語版)のアウトプットが、アクセス可能なままでいられると、すぐに不信または不信になる可能性があるという証拠も増えている。 認知的負荷理論に基づき、推論トレースの内容にアクセスする必要のない低帯域信号(推論トークンの個数)について検討する。 分析的、記述的、規範的推論タイプと道徳的および道徳的でないドメインの3つの理由付け可能な大きな言語モデルは、210の質問に答えた。 これら3つのモデル全体で、真理指向応答は真理指向応答と真理非依存応答の両方よりも推論トークンが少なかった。 さらに, あるモデルでは, 不合理な指示が全く推論の可能性を増大させた。 これらの結果から,不合理な応答ポリシーを明示的に促すことで,テスト時間推論・トーケン使用におけるグループレベルの堅牢な差異が生じることが示唆された。 本研究は, 自覚的誤認や一般的な誤認識の検知方法として, まだ推論数を確立していないが, 生の推論トレースが利用できない場合や信頼性の低い場合には, 真理的モデル行動と非本質的モデル行動とを区別するための, 単純かつ内容に依存しないブラックボックス候補信号として機能する, 概念実証である。 今後の作業では、インスタンスレベルの検出率、配布外一般化、学習された偽装ポリシー、隠された目的、敵の圧力下での堅牢性をテストする必要がある。

関連論文リスト

• When Confidence Rises Too Early: Detecting Shortcut Reasoning via Premature Answer Commitment [76.62469105933384]
  大規模言語モデル (LLM) は、ある答えにたどり着くためのショートカットを頼りにし、その決定を合理化する。 ConfLensは、推論を通じて最終的な回答における信頼の進化を追跡するフレームワークです。 本稿では,解答コミットメントに対する確率分布のエントロピーを測定するために,DACS(Distributal Answer Commitment Score)を提案する。
  論文  参考訳（メタデータ） (2026-09-28T13:00:25Z)
• DERELAB: Probing Defeasible Reasoning and Confirmation Bias in LLMs with a Generative Benchmark [6.835919520017402]
  決定的推論(Dedefeasible reasoning)とは、推定が妥当な現在の証拠から引き出されるが、新しい証拠の導入によって取り除くことができる推論の一種である。 本稿では,パラメータ化されたグラフ構造から多ターンの信念更新会話を生成する生成フレームワークであるDeReLabを紹介する。 我々は9つのオープンかつプロプライエタリな大規模言語モデルを評価し、ほぼ全員が一貫性のない更新に抵抗しながら、一貫性のある証拠を受け入れる体系的な傾向を示した。
  論文  参考訳（メタデータ） (2026-08-31T08:10:29Z)
• Implicit Reasoning Steering via Concept Chaining [29.121206944212556]
  自然言語のテキストを使って、明示的な指示やトリガー、直接回答の手がかりを使わずに、指定された回答に向けてモデルをバイアスする。 間接的な自然なテキストは、直接のパラフレーズよりも推論がかなり少ないまま、体系的にモデル予測を操ることができることを示す。
  論文  参考訳（メタデータ） (2026-07-15T18:03:08Z)
• Ulterior Motives: Detecting Misaligned Reasoning in Continuous Thought Models [0.0]
  大規模言語モデル(LLM)における複雑な推論を導く重要な手法として、CoT推論(Chain-of-Thought)が登場した。 MoralChainは12,000の社会的シナリオを並列な道徳的/不道徳的推論パスでベンチマークする。 連続的思考モデルは、一致したアウトプットを生成しながら、不一致な潜在的推論を示すことができることを示す。
  論文  参考訳（メタデータ） (2026-04-25T22:43:15Z)
• Unifying Deductive and Abductive Reasoning in Knowledge Graphs with Masked Diffusion Model [64.31242163019242]
  帰納的推論と帰納的推論は知識グラフを解析するための重要なパラダイムである。 DARKと呼ばれる知識グラフにおける帰納的・帰納的推論のための統一的なフレームワークを提案する。 DARKは, 帰納的推論タスクと帰納的推論タスクの両方において, 最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2025-10-13T14:34:57Z)
• From Reasoning to Answer: Empirical, Attention-Based and Mechanistic Insights into Distilled DeepSeek R1 Models [48.01707022738742]
  蒸留した3種類のDeepSeek R1モデルにおいて、推論と回答生成の相互作用を3段階に分けて検討する。 明示的な推論を含めることで、さまざまな領域での回答品質が一貫して向上することを示す。 以上の結果から,重要な推論トークンに対する摂動が最終回答を確実に変更できることが示唆された。
  論文  参考訳（メタデータ） (2025-09-28T06:32:21Z)
• Beyond Semantics: The Unreasonable Effectiveness of Reasonless Intermediate Tokens [14.78605805191225]
  中間トークンのセマンティクスが「思考」や「推論トレース」として人間化され、実際にモデル性能にどのように影響するかを考察する。 解のみのベースラインが大幅に改善されているにもかかわらず、完全に正しいトレースで訓練されたモデルは、正しい解に到達すると、いまだに不正な推論トレースを生成する。
  論文  参考訳（メタデータ） (2025-05-19T23:29:23Z)
• A Closer Look at the Self-Verification Abilities of Large Language Models in Logical Reasoning [73.77088902676306]
  論理的推論の文脈において,大規模言語モデル(LLM)の自己検証能力について詳しく検討する。 本研究の主目的は,既存のLCMが誤った推論手順を正確に識別するのに苦労し,自己検証法の有効性を保証できないことにある。
  論文  参考訳（メタデータ） (2023-11-14T07:13:10Z)
• Logical Satisfiability of Counterfactuals for Faithful Explanations in NLI [60.142926537264714]
  本稿では, 忠実度スルー・カウンタファクトの方法論について紹介する。 これは、説明に表される論理述語に基づいて、反実仮説を生成する。 そして、そのモデルが表現された論理と反ファクトの予測が一致しているかどうかを評価する。
  論文  参考訳（メタデータ） (2022-05-25T03:40:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。