論文の概要: EchoCoT: Extracting Hidden Chain-of-Thought from Large Reasoning Models
- arxiv url: http://arxiv.org/abs/2608.20055v1
- Date: Thu, 20 Aug 2026 13:52:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-21 20:28:51.592067
- Title: EchoCoT: Extracting Hidden Chain-of-Thought from Large Reasoning Models
- Title（参考訳）: EchoCoT:大型共振器モデルから隠れたチェーンを抽出する
- Abstract要約: 隠れたCoTを,API間相互作用によりブラックボックスLEMからほぼ近似的に抽出できるかどうかを検討した。
我々は,APIを返却した忠実度信号を用いて,隠れたCoTを反復的に抽出するマルチステップ攻撃であるEchoCoTを開発した。
我々は,EchoCoTを3つのオープンソースおよび5つのフロンティアプロプライエタリなLEM上で評価する。
- 参考スコア（独自算出の注目度）: 6.206119673335679
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Hidden chain-of-thought (CoT) traces, especially those from frontier proprietary large reasoning models (LRMs), are valuable model assets. Yet whether these hidden CoTs can be directly extracted from black-box models remains largely unexplored. In this work, we systematically study whether hidden CoTs can be extracted near-verbatim from black-box LRMs through API interactions. We identify a previously overlooked reasoning replay surface between tool calls and develop EchoCoT, a multi-step attack that iteratively extracts hidden CoTs using API-returned fidelity signals. We further develop an LLM-based optimization framework that automatically searches for an effective universal injection trajectory across various datasets. We evaluate EchoCoT on three open-source and five frontier proprietary LRMs. On open-source LRMs, EchoCoT achieves up to 66.4\% near-verbatim extraction success, with the extracted trace length within 10\% of the target and at least 90\% of tokens exactly matching the target CoT. The same injection trajectory also generalizes to unseen datasets, achieving up to 80\% extraction success under the same criterion. For tested frontier proprietary LRMs, a substantial fraction of extracted CoTs closely align with provider-reported reasoning lengths and available CoT summaries. EchoCoT can also extract very long CoTs: on Gemini-2.5, it extracts 33,463 tokens from a 32,948-token target. These results establish hidden-CoT extraction as a practical security risk and highlight the need to better protect hidden CoT assets.
- Abstract（参考訳）: 隠されたチェーンオブシント(CoT)トレース、特にフロンティアのプロプライエタリな大規模推論モデル(LRM)からのトレースは、貴重なモデル資産である。
しかし、これらの隠されたCoTがブラックボックスモデルから直接抽出できるかどうかは、まだ明らかになっていない。
本研究では,隠れたCoTを,API間相互作用によりブラックボックスLEMからほぼ近似的に抽出できるかどうかを系統的に検討する。
ツールコール間の従来見過ごされていた推論リプレイサーフェスを特定し,APIを返却した忠実度信号を用いて隠されたCoTを反復的に抽出するマルチステップ攻撃であるEchoCoTを開発した。
さらに,多種多様なデータセットにまたがる効率的なユニバーサルインジェクション軌跡を自動検索するLLMベースの最適化フレームワークを開発した。
我々は,EchoCoTを3つのオープンソースおよび5つのフロンティアプロプライエタリなLEM上で評価する。
オープンソース LRM では、EchoCoT は最大66.4 % 近い平均抽出成功を達成し、抽出されたトレース長はターゲットの 10 % 以内であり、少なくとも90 % のトークンはターゲットの CoT と正確に一致する。
同じインジェクショントラジェクトリは、見当たらないデータセットにも一般化され、同じ基準の下で最大80\%の抽出成功を達成する。
テストされたフロンティアプロプライエタリ LRM の場合、抽出されたCoTのかなりの部分は、プロバイダが報告した推論長や利用可能なCoTサマリーと密接に一致している。
また、EchoCoTは、非常に長いCoTを抽出できる: Gemini-2.5では、32,948のトークンターゲットから33,463個のトークンを抽出する。
これらの結果は、隠れたCoT抽出を現実的なセキュリティリスクとして確立し、隠れたCoT資産をよりよく保護する必要性を強調している。
関連論文リスト
- ThoughtFold: Folding Reasoning Chains via Introspective Preference Learning [69.64972562984882]
提案するThoughtFoldは,よりきめ細かい選好学習を,効率的な推論のための冗長探索に活用するフレームワークである。
ThoughtFoldは効率を大幅に向上させる。
最先端の精度を維持しつつ、DeepSeek-R1-Distill-Qwen-7Bのトークン使用量を約56%削減する。
論文 参考訳（メタデータ） (2026-06-02T11:21:27Z) - Enhancing Reliability in LLM-Based Secure Code Generation [10.791767027934858]
大規模言語モデル(LLM)はコード生成に広く使用されているが、セキュリティの信頼性は言語間で不整合であり、戦略を推進している。
タスク固有のCWE緩和ガイダンスと言語対応セーフガードを組み込んだtextitMitigation-Aware Chain-of-Thought(MA-CoT)フレームワークを紹介する。
我々は、3つのLLM(gpt-5, claude-4.5, gemini-2.5)、3つのプログラミング言語(C, Java, Python)、4つのプロンプト戦略についてMA-CoTを評価した。
論文 参考訳（メタデータ） (2026-05-22T23:58:56Z) - Beyond Indistinguishability: Measuring Extraction Risk in LLM APIs [12.914333266854102]
LLM APIにおけるデータ抽出の防止には,識別不可能性が十分でなく,必要もないことを示す。
我々は、抽出と識別不可能性に基づくプライバシ間のプライバシゲーム分離を形式化する。
モデルトレーニング、APIアクセス、デコード構成を横断する実行可能な緩和ガイドラインを提供します。
論文 参考訳（メタデータ） (2026-04-20T18:00:22Z) - Unreal Thinking: Chain-of-Thought Hijacking via Two-stage Backdoor [19.938570872083652]
大規模言語モデル(LLM)は、Chain-of-Thought(CoT)がユーザによって解釈されるように、ますます多くデプロイされている。
攻撃者はモデルの観測可能なCoTを操作して悪意ある振る舞いをすることができる。
実際には、永続的なCoTハイジャックは3つの大きな課題に直面している。
論文 参考訳（メタデータ） (2026-04-10T11:44:27Z) - CoT-Saliency: Unified Chain-of-Thought Reasoning for Heterogeneous Saliency Tasks [96.64597365827046]
本稿では,3つの運用上不均一なサリエンシタスクを共同で処理する,最初の統合フレームワークを提案する。
タスクの不均一性を橋渡しする視覚言語モデル(VLM)において、チェーン・オブ・ソート(CoT)推論プロセスを導入する。
我々は,全タスクにまたがる特別なSOTA手法と強力なクローズドソースVLMの整合性を示す。
論文 参考訳（メタデータ） (2025-11-01T04:37:01Z) - CoSPED: Consistent Soft Prompt Targeted Data Extraction and Defense [0.0]
本稿では,Consistent Soft Promptを対象とするデータ抽出・防衛のためのCoSPEDを提案する。
動的損失、追加損失、共通損失、自己整合復号戦略など、革新的なコンポーネントをいくつか紹介する。
抽出機構の解析により,ソフト・プロンプトによる攻撃に対する効果的な軽減戦略を直接的に提供することができる。
論文 参考訳（メタデータ） (2025-10-13T08:26:47Z) - External Data Extraction Attacks against Retrieval-Augmented Large Language Models [70.47869786522782]
RAGは、大規模言語モデル(LLM)を拡張するための重要なパラダイムとして登場した。
RAGは外部データ抽出攻撃(EDEA)の新たなリスクを導入している。
本研究は, EDEA を検索拡張 LLM に対して形式化する最初の総合的研究である。
論文 参考訳（メタデータ） (2025-10-03T12:53:45Z) - VeriThinker: Learning to Verify Makes Reasoning Model Efficient [52.74493506816969]
大型推論モデルは、Chain-of-Thought (CoT)推論を用いて複雑なタスクで優れている。
過度に考える傾向は、必然的に長い推論連鎖に繋がる。
我々は,CoT圧縮の新しい手法であるVeriThinkerを紹介する。
論文 参考訳（メタデータ） (2025-05-23T14:17:56Z) - SABER: Model-agnostic Backdoor Attack on Chain-of-Thought in Neural Code Generation [15.274903870635095]
コード言語モデル(CLM)の信頼性をさらに高めるために、Chain-of-Thought (CoT)推論を提案する。
CoTモデルは、CoT推論を言語モデルに効果的に統合するように設計されており、コード生成において顕著な改善が達成されている。
本研究では,コード生成タスクにおけるバックドアインジェクションに対するCoTモデルの脆弱性について検討する。
論文 参考訳（メタデータ） (2024-12-08T06:36:00Z) - Learning to Fuse Asymmetric Feature Maps in Siamese Trackers [169.00002561138737]
非対称畳み込み(ACM)は、大規模データのオフライントレーニングにおいて、意味的相関情報をよりよくキャプチャすることを学ぶ。
ACMは、バウンディングボックスサイズなどの有用な事前情報と、標準的な視覚的特徴を組み込むことができる。
提案手法は6つの追跡ベンチマークにおいて既存の手法よりも優れている。
論文 参考訳（メタデータ） (2020-12-04T18:55:53Z) - Chained-Tracker: Chaining Paired Attentive Regression Results for
End-to-End Joint Multiple-Object Detection and Tracking [102.31092931373232]
そこで我々は,3つのサブタスク全てをエンド・ツー・エンドのソリューションに統合する簡単なオンラインモデルである Chained-Tracker (CTracker) を提案する。
鎖状構造と対の注意的回帰という2つの大きな特徴は、CTrackerをシンプルに、速く、効果的にする。
論文 参考訳（メタデータ） (2020-07-29T02:38:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。