論文の概要: Inducing Overthink: Hierarchical Genetic Algorithm-based DoS Attack on Black-Box Large Language Reasoning Models

• arxiv url: http://arxiv.org/abs/2605.13338v2
• Date: Thu, 14 May 2026 17:07:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-15 18:18:46.748259
• Title: Inducing Overthink: Hierarchical Genetic Algorithm-based DoS Attack on Black-Box Large Language Reasoning Models
• Title（参考訳）: 階層型遺伝的アルゴリズムに基づくDoS攻撃によるブラックボックス大言語推論モデルの構築
• Abstract要約: 大規模推論モデル(LRM)は、信頼性の高いマルチステップ推論を必要とするシステムにますます統合されている。 LRMは「過大な考え」を示す傾向があり、過度に長く冗長な推論の痕跡を生み出している。 入力問題の論理構造を体系的に摂動させることにより, LRMにおける過大な思考を誘発する自動ブラックボックスフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 26.4508439363827
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Reasoning Models (LRMs) are increasingly integrated into systems requiring reliable multi-step inference, yet this growing dependence exposes new vulnerabilities related to computational availability. In particular, LRMs exhibit a tendency to "overthink", producing excessively long and redundant reasoning traces, when confronted with incomplete or logically inconsistent inputs. This behavior significantly increases inference latency and energy consumption, forming a potential vector for denial-of-service (DoS) style resource exhaustion. In this work, we investigate this attack surface and propose an automated black-box framework that induces overthinking in LRMs by systematically perturbing the logical structure of input problems. Our method employs a hierarchical genetic algorithm (HGA) operating on structured problem decompositions, and optimizes a composite fitness function designed to maximize both response length and reflective overthinking markers. Across four state-of-the-art reasoning models, the proposed method substantially amplifies output length, achieving up to a 26.1x increase on the MATH benchmark and consistently outperforming benign and manually crafted missing-premise baselines. We further demonstrate strong transferability, showing that adversarial inputs evolved using a small proxy model retain high effectiveness against large commercial LRMs. These findings highlight overthinking as a shared and exploitable vulnerability in modern reasoning systems, underscoring the need for more robust defenses.
• Abstract（参考訳）: 大規模推論モデル(LRM)は、信頼性の高いマルチステップ推論を必要とするシステムにますます統合されているが、この依存度の増加は、計算可用性に関連する新たな脆弱性を公開する。 特に、LRMは、不完全または論理的に矛盾した入力に直面したときに、過度に長く冗長な推論トレースを生じる「過大な考え」を示す傾向がある。 この挙動は、推論遅延とエネルギー消費を著しく増加させ、DoS(DoS)スタイルのリソース枯渇の潜在的なベクターを形成する。 本研究では, この攻撃面を解析し, 入力問題の論理構造を体系的に摂動することで, LRMにおける過度な思考を誘発する自動ブラックボックスフレームワークを提案する。 提案手法では, 階層型遺伝的アルゴリズム(HGA)を用い, 応答長を最大化し, 反射的過大化マーカーを最大化するために, 合成適合度関数を最適化する。 4つの最先端推論モデルにおいて,提案手法は出力長を大幅に向上し,MATHベンチマークの26.1倍の精度向上を実現した。 さらに,小型のプロキシモデルを用いて敵の入力が発展し,大型の商用LEMに対して高い効果を保っていることを示す。 これらの発見は、現代の推論システムにおいて共有され、悪用可能な脆弱性として過度に考え、より堅牢な防御の必要性を強調している。

関連論文リスト

• EvoThink: Evolving Thinking in Large Reasoning Models via Self-Pruning and Aha-Moment Preference Optimization [23.37325724250601]
  大規模な推論モデル(LRM)は、冗長な検証ステップのために過度に検討されることが多い。 冗長な検証を減らし,新たな推論経路の探索を促すフレームワークであるEvoThinkを提案する。
  論文  参考訳（メタデータ） (2026-07-22T09:40:22Z)
• Entropy-Gradient Inversion: Moving Toward Internal Mechanism of Large Reasoning Models [47.195670444638715]
  トークンエントロピーとロジット勾配の堅牢な相関関係であるtextbfEntropy-Gradient Inversion を同定し,正式に定義する。 我々は,この逆シグネチャを強化学習に組み込んだtextbfCorrelation-Regularized Group Policy Optimization (CorR-PO)を提案する。 複数のモデルスケールにわたる様々な推論ベンチマークの実験は、Corr-POが最先端のベースラインを一貫して上回っていることを示している。
  論文  参考訳（メタデータ） (2026-05-18T02:41:53Z)
• Reason Only When Needed: Efficient Generative Reward Modeling via Model-Internal Uncertainty [33.04999074297977]
  E-GRMはモデル内不確実性に基づく効率的な生成報酬モデリングフレームワークである。 E-GRMは推論コストを大幅に削減し,解答精度を継続的に向上することを示した。
  論文  参考訳（メタデータ） (2026-04-11T07:35:08Z)
• When Is Thinking Enough? Early Exit via Sufficiency Assessment for Efficient Reasoning [52.21239821135325]
  本稿では、効率的な推論のための新しいフレームワークDTSR(Dynamic Thought Sufficiency in Reasoning)を紹介する。 人間のメタ認知にインスパイアされたDTSRは、リフレクションシグナルモニタリングとThought Sufficiency Checkという2つの段階で動作する。 DTSRは推論長を28.9%から34.9%削減し、性能損失を最小限に抑えている。
  論文  参考訳（メタデータ） (2026-04-08T07:56:28Z)
• Does Your Reasoning Model Implicitly Know When to Stop Thinking? [45.954548163594204]
  LRMは思考を止めるための適切な時間を暗黙的に知っているが、この能力は現在のサンプリングパラダイムによって隠蔽されている。 そこで我々は,この効率的な推論可能性を解き放つ新しいサンプリングパラダイムであるSAGEを紹介した。
  論文  参考訳（メタデータ） (2026-02-09T07:38:22Z)
• Sycophancy Mitigation Through Reinforcement Learning with Uncertainty-Aware Adaptive Reasoning Trajectories [58.988535279557546]
  適応推論トラジェクトリを用いたtextbf sycophancy Mitigation を提案する。 SMARTは,分布外の入力に対して強い性能を維持しながら,サイコファンティクスの挙動を著しく低下させることを示した。
  論文  参考訳（メタデータ） (2025-09-20T17:09:14Z)
• Lost at the Beginning of Reasoning [85.17612793300238]
  第1の推論ステップが最終予測に不当に大きな影響を与えることを示す。 本稿では、報酬モデルを利用して高品質な第1推論ステップを特定し、維持する効率的なサンプリング戦略を提案する。
  論文  参考訳（メタデータ） (2025-06-27T09:53:57Z)
• Think-RM: Enabling Long-Horizon Reasoning in Generative Reward Models [50.4652276723694]
  Think-RMは、高度な機能をサポートするフレキシブルで自己誘導的な推論トレースを生成する。 Think-RM は RM-Bench 上で最先端の結果を達成し,BT RM と GenRM の垂直スケールを8% 上回った。
  論文  参考訳（メタデータ） (2025-05-22T05:56:11Z)
• Let LRMs Break Free from Overthinking via Self-Braking Tuning [68.93713497579853]
  大きな推論モデル(LRM)は思考の長い連鎖を生成することによって推論能力を著しく向上させた。 この性能向上は、生成プロセス中の冗長な推論を大幅に増加させるコストが伴う。 本稿では、モデルが独自の推論プロセスを制御することを許容する観点から、過度に検討する新しいフレームワーク、Self-Braking Tuning(SBT)を提案する。
  論文  参考訳（メタデータ） (2025-05-20T16:53:40Z)
• MR-Ben: A Meta-Reasoning Benchmark for Evaluating System-2 Thinking in LLMs [55.20845457594977]
  大規模言語モデル(LLM)は、問題解決と意思決定の能力の向上を示している。 本稿ではメタ推論技術を必要とするプロセスベースのベンチマークMR-Benを提案する。 メタ推論のパラダイムは,システム2のスロー思考に特に適しています。
  論文  参考訳（メタデータ） (2024-06-20T03:50:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。