論文の概要: Hidden Thoughts Are Not Secret: Reasoning Trace Exposure in LLMs

• arxiv url: http://arxiv.org/abs/2606.00642v1
• Date: Sat, 30 May 2026 09:37:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-02 21:34:28.57028
• Title: Hidden Thoughts Are Not Secret: Reasoning Trace Exposure in LLMs
• Title（参考訳）: 隠された思想は秘密ではない:LSMの痕跡を暴露する理由
• Abstract要約: 推論トレースは、大きな言語モデルの能力を改善し、伝達するための学習信号の貴重な形式となっている。 能力伝達の価値は、内部の生の痕跡を隠蔽し、ほとんどの要約や回答をユーザーに公開するための推論モデルを持つ多くのデプロイシステムに動機付けている。 本研究では,このようなインターフェースレベルのトレースの隠蔽がユーザにとって,プロンプトによる効果的な推論の監督を妨げているかどうかを考察する。
• 参考スコア（独自算出の注目度）: 16.213231993962733
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Reasoning traces have become a valuable form of learning signals for improving and transferring the capabilities of large language models. In particular, detailed traces can help distill reasoning behavior from stronger teacher models into weaker student models. The value of capability transfer has motivated many deployed systems with reasoning models to hide raw internal traces and expose at most summaries and answers to users. As a result, we ask whether such interface-level trace hiding prevents users from obtaining useful reasoning supervision through prompting. We study this question with Reasoning Exposure Prompting (REP), a lightweight in-context elicitation method that uses shadow-model-generated demonstrations wrapped in auxiliary code-like formats to raise user-visible reasoning traces from a victim model. Across the common reasoning dataset, different victim models, and different student model distillation, REP substantially increases similarity between exposed and REP-conditioned internal traces while preserving useful reasoning signals.
• Abstract（参考訳）: 推論トレースは、大きな言語モデルの能力を改善し、伝達するための学習信号の貴重な形式となっている。 特に、詳細な痕跡は、より強い教師モデルからより弱い学生モデルへの推論行動の蒸留に役立つ。 能力伝達の価値は、内部の生の痕跡を隠蔽し、ほとんどの要約や回答をユーザーに公開するための推論モデルを持つ多くのデプロイシステムに動機付けている。 その結果,このようなインターフェースレベルのトレースの隠蔽がユーザにとって,プロンプトによる有益な推論の監視を妨げているかどうかを問うことができる。 Reasoning Exposure Prompting (REP) は,補助コード形式でラップされたシャドウモデル生成デモを用いて,被害者モデルからのユーザ可視的推論トレースを増大させる軽量なインコンテキスト推論手法である。 一般的な推論データセット、異なる犠牲者モデル、異なる学生モデルの蒸留では、REPは有用な推論信号を保持しながら、露光とREP条件の内部トレースとの類似性を著しく高めている。

関連論文リスト

• LEMUR: Latent Entropy-aware Multimodal Unlearning via Visual-anchored Reasoning Redirection [12.083572608650904]
  強化学習(Reinforcement-learning, RL)は、多モーダル大推論モデル(MLRM)と探索的思考連鎖(CoT)を併用する。 最終回答からセンシティブな事実が解き放たれたとしても、モデルは推論トレースでそれを再現する可能性がある。 LEMURは、RL学習型マルチモーダルモデルのための、完全にトレーニングのない推論時間学習フレームワークである。
  論文  参考訳（メタデータ） (2026-08-12T06:03:50Z)
• TRAM: Enhancing Multimodal Reasoning with Trajectory-Derived Auxiliary Memory [35.19442792860492]
  推論軌道が成長するにつれて、モデルがコンテキスト内で確立された情報の使用において効果が低下する可能性がある。 既存のアプローチは主に、推論を通して視覚的な接地を維持することでこの問題に対処する。 本稿では,TRAM(TRajectory- derived Auxiliary Memory)について紹介する。
  論文  参考訳（メタデータ） (2026-08-03T08:57:00Z)
• Reflect to Inform: Boosting Multimodal Reasoning via Information-Gain-Driven Verification [55.357038267439684]
  Visual Re-Examination (VRE)は、MLLMが視覚的な入力を追加することなく推論中に自律的に視覚的イントロスペクションを実行することができる自己進化型トレーニングフレームワークである。 VREは推論精度と知覚信頼性を継続的に改善し、特にロングチェーン環境では幻覚を著しく低減する。
  論文  参考訳（メタデータ） (2026-03-27T12:22:13Z)
• Thinking with Deltas: Incentivizing Reinforcement Learning via Differential Visual Reasoning Policy [75.66913260900726]
  検証可能なリワードによる強化学習は、大規模言語モデルにおいてかなり高度な推論能力を持っている。 既存のパラダイムは、テキスト中心の成果報酬によって推進され、モデルが視覚的知覚をバイパスすることを奨励します。 我々はtextbfDifferential Visual Reasoning Policy によって駆動されるフレームワーク Deltas を用いた textbfThinking を提案する。
  論文  参考訳（メタデータ） (2026-01-11T08:25:34Z)
• Information-Preserving Reformulation of Reasoning Traces for Antidistillation [80.99448418790125]
  本稿では, 推理トレースの消毒対策に関する情報保存手法を提案する。 この修正を行うために、小さな補助モデルが訓練され、最小の計算オーバーヘッドが生じる。 実験では、一部が、異なるサイズとタイプを持つ学生モデルの蒸留を一貫して破壊することを示した。
  論文  参考訳（メタデータ） (2025-10-13T15:42:11Z)
• Learning a Dense Reasoning Reward Model from Expert Demonstration via Inverse Reinforcement Learning [50.20267980386502]
  我々は、専門家によるデモンストレーションから直接、プロセスの監督のための密集したトークンレベルの報酬モデルを学びます。 学習された推論報酬は、2つの補完的な役割を果たす: (i)訓練中の推論ポリシーを最適化するためのステップレベルのフィードバックを提供する。
  論文  参考訳（メタデータ） (2025-10-02T09:55:26Z)
• Neural Breadcrumbs: Membership Inference Attacks on LLMs Through Hidden State and Attention Pattern Analysis [9.529147118376464]
  メンバーシップ推論攻撃(MIA)は、特定のデータが機械学習モデルのトレーニングに使用されたかどうかを明らかにする。 我々の研究は、内部表現を単に出力ではなく検査することで、メンバーシップ推論信号に対するさらなる洞察を与えることができるかを探る。 本研究は,出力に基づく信号が保護された場合でも,内部モデル行動がトレーニングデータの露出の側面を明らかにすることを示唆している。
  論文  参考訳（メタデータ） (2025-09-05T19:05:49Z)
• Reasoning Model Unlearning: Forgetting Traces, Not Just Answers, While Preserving Reasoning Skills [42.1825027925353]
  大きな推論モデル(LRM)は、テスト時間計算を通じて強力なチェーン・オブ・シント(CoT)生成を可能にした。 従来の未学習アルゴリズムは、もともと非推論モデル用に設計されていたが、LRMには不適当であることを示す。 本稿では,意味のある推論トレースを効果的に抑制する新しい手法であるReasoning-aware Representation Misdirection for Unlearning(R2MU$)を提案する。
  論文  参考訳（メタデータ） (2025-06-15T20:54:23Z)
• Scaling Reasoning, Losing Control: Evaluating Instruction Following in Large Reasoning Models [27.142703756752997]
  数学的推論タスクにおける命令追従評価のためのベンチマークであるMathIFを紹介する。 我々の実証分析では、推論能力のスケールアップと制御可能性の維持の間に一貫した緊張関係が明らかになっている。 簡単な介入であっても、性能を推論するコストはかかるものの、部分的に服従を回復できることが示される。
  論文  参考訳（メタデータ） (2025-05-20T18:18:01Z)
• Entity-Conditioned Question Generation for Robust Attention Distribution in Neural Information Retrieval [51.53892300802014]
  教師付きニューラル情報検索モデルでは,通過トークンよりも疎注意パターンを学習することが困難であることを示す。 目的とする新しい合成データ生成手法を用いて、与えられた通路内の全てのエンティティに対して、より均一で堅牢な参加をニューラルIRに教える。
  論文  参考訳（メタデータ） (2022-04-24T22:36:48Z)
• Explain, Edit, and Understand: Rethinking User Study Design for Evaluating Model Explanations [97.91630330328815]
  我々はクラウドソーシング研究を行い、真偽のホテルレビューと偽のホテルレビューを区別するために訓練された詐欺検出モデルと対話する。 単語の線形バッグモデルでは、トレーニング中に特徴係数にアクセスした参加者は、非説明制御と比較して、テストフェーズにおいてモデルの信頼性が大幅に低下する可能性があることを観察する。
  論文  参考訳（メタデータ） (2021-12-17T18:29:56Z)
• Unsupervised Noisy Tracklet Person Re-identification [100.85530419892333]
  本稿では,非照合トラックレットデータから識別的人物再識別モデルを訓練できる選択的トラックレット学習(STL)手法を提案する。 これにより、カメラビュー全体で人物の画像/トラックレットの真のマッチングペアを完全にラベル付けする面倒でコストのかかるプロセスが回避されます。 提案手法は生トラックレットの任意のノイズデータに対して特に頑健であるため,制約のない追跡データから識別モデル学習にスケーラブルである。
  論文  参考訳（メタデータ） (2021-01-16T07:31:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。