論文の概要: Excessive Reasoning Attack on Reasoning LLMs

• arxiv url: http://arxiv.org/abs/2506.14374v1
• Date: Tue, 17 Jun 2025 10:16:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-18 17:34:59.423615
• Title: Excessive Reasoning Attack on Reasoning LLMs
• Title（参考訳）: LLMの余剰推論攻撃
• Authors: Wai Man Si, Mingjie Li, Michael Backes, Yang Zhang,
• Abstract要約: 本研究では,過度な推論行動を活用するために,敵対的入力を作成できるという,新たな脅威を明らかにする。 提案手法は,実用性能に匹敵する推理長を3倍から9倍に向上することを示した。 提案手法は,o3-mini,o1-mini,DeepSeek-R1,QWQモデルで計算オーバーヘッドを誘導するトランスファービリティを示す。
• 参考スコア（独自算出の注目度）: 26.52688123765127
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent reasoning large language models (LLMs), such as OpenAI o1 and DeepSeek-R1, exhibit strong performance on complex tasks through test-time inference scaling. However, prior studies have shown that these models often incur significant computational costs due to excessive reasoning, such as frequent switching between reasoning trajectories (e.g., underthinking) or redundant reasoning on simple questions (e.g., overthinking). In this work, we expose a novel threat: adversarial inputs can be crafted to exploit excessive reasoning behaviors and substantially increase computational overhead without compromising model utility. Therefore, we propose a novel loss framework consisting of three components: (1) Priority Cross-Entropy Loss, a modification of the standard cross-entropy objective that emphasizes key tokens by leveraging the autoregressive nature of LMs; (2) Excessive Reasoning Loss, which encourages the model to initiate additional reasoning paths during inference; and (3) Delayed Termination Loss, which is designed to extend the reasoning process and defer the generation of final outputs. We optimize and evaluate our attack for the GSM8K and ORCA datasets on DeepSeek-R1-Distill-LLaMA and DeepSeek-R1-Distill-Qwen. Empirical results demonstrate a 3x to 9x increase in reasoning length with comparable utility performance. Furthermore, our crafted adversarial inputs exhibit transferability, inducing computational overhead in o3-mini, o1-mini, DeepSeek-R1, and QWQ models.
• Abstract（参考訳）: OpenAI o1やDeepSeek-R1といった最近の大規模言語モデル(LLM)は、テスト時間推論スケーリングを通じて複雑なタスクに強いパフォーマンスを示す。 しかし、従来の研究では、これらのモデルは、推論軌跡(例えば、未考)を頻繁に切り替えたり、単純な質問(例えば、過剰思考)で冗長な推論を行うなど、過剰な推論による計算コストの増大がしばしば見られた。 逆入力は、過剰な推論行動を利用し、モデルの有用性を損なうことなく、計算オーバーヘッドを大幅に増大させることができる。 そこで本研究では,(1)自己回帰性を利用してキートークンを強調する標準のクロスエントロピー目的の修正である優先順位クロスエントロピー損失,(2)推論中に新たな推論経路を誘導する過剰推論損失,(3)推論プロセスを拡張し,最終的な出力を遅延させる遅延終了損失の3つの要素からなる新たな損失枠組みを提案する。 我々は,DeepSeek-R1-Distill-LLaMAとDeepSeek-R1-Distill-QwenのGSM8KおよびORCAデータセットに対する攻撃を最適化し,評価する。 実証実験の結果、推理長は3倍から9倍増加し、実用性能は同等である。 さらに,本手法では,o3-mini,o1-mini,DeepSeek-R1,QWQモデルで計算オーバーヘッドを誘導し,転送性を示す。

関連論文リスト

• Reasoning Model Unlearning: Forgetting Traces, Not Just Answers, While Preserving Reasoning Skills [32.96074934023323]
  大きな推論モデル(LRM)は、テスト時間計算を通じて強力なチェーン・オブ・シント(CoT)生成を可能にした。 従来の未学習アルゴリズムは、もともと非推論モデル用に設計されていたが、LRMには不適当であることを示す。 本稿では,意味のある推論トレースを効果的に抑制する新しい手法であるReasoning-aware Representation Misdirection for Unlearning(R2MU$)を提案する。
  論文  参考訳（メタデータ） (2025-06-15T20:54:23Z)
• The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity [16.266145641151375]
  大規模な推論モデルは、回答を提供する前に詳細な思考プロセスを生成する。 我々は, LRM がある種の複雑さを超えて完全に精度の低下に直面していることを示す。 また、より深く推論の痕跡を調べ、探索された解のパターンを研究する。
  論文  参考訳（メタデータ） (2025-06-07T22:42:29Z)
• CoThink: Token-Efficient Reasoning via Instruct Models Guiding Reasoning Models [56.40065909544213]
  大規模言語モデル(LLM)は、テスト時間スケーリングとして知られる、テスト時間計算の増加の恩恵を受ける。 しかし、推論最適化モデルはしばしば単純な問題さえ考え過ぎ、過度に冗長な出力を生成し、トークン効率を低下させる。 1)強化学習は前方推論の情報密度を減少させ,(2)後方連鎖学習は冗長でしばしば不要な検証ステップを促進する。
  論文  参考訳（メタデータ） (2025-05-28T06:24:45Z)
• Fractured Chain-of-Thought Reasoning [61.647243580650446]
  完全CoTと解のみのサンプリングを補間する統合推論時間戦略であるフラクチャードサンプリングを導入する。 フラクチャードサンプリングは、Pass@kとトークンの予算に対して、急激なログ線形スケーリングゲインをもたらすため、優れた精度とコストのトレードオフを一貫して達成できることを示す。
  論文  参考訳（メタデータ） (2025-05-19T11:30:41Z)
• SEAL: Steerable Reasoning Calibration of Large Language Models for Free [58.190800043449336]
  大規模言語モデル(LLM)は、拡張チェーン・オブ・ソート(CoT)推論機構を通じて複雑な推論タスクに魅力的な機能を示した。 最近の研究では、CoT推論トレースにかなりの冗長性が示されており、これはモデル性能に悪影響を及ぼす。 我々は,CoTプロセスをシームレスに校正し,高い効率性を示しながら精度を向上する,トレーニング不要なアプローチであるSEALを紹介した。
  論文  参考訳（メタデータ） (2025-04-07T02:42:07Z)
• O1-Pruner: Length-Harmonizing Fine-Tuning for O1-Like Reasoning Pruning [98.3430004984531]
  精度を維持しながら推論オーバーヘッドを最小限に抑えるため,Longth-Harmonizing Fine-Tuning (O1-Pruner)を提案する。 私たちのコードはもうすぐhttps://github.com/StarDewXXX/O1-Pruner.comで公開されます。
  論文  参考訳（メタデータ） (2025-01-22T01:35:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。