論文の概要: Overthink-Triggered Slowdown Attacks on LVLM-Based Robotic Systems

• arxiv url: http://arxiv.org/abs/2607.01518v1
• Date: Wed, 01 Jul 2026 22:31:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-03 19:45:08.608664
• Title: Overthink-Triggered Slowdown Attacks on LVLM-Based Robotic Systems
• Title（参考訳）: LVLMに基づくロボットシステムにおける過度なスローダウン攻撃
• Authors: Qiang Han, Jie Wu, Bo Chen,
• Abstract要約: LVLM(Large Vision-Language Models)はロボットシステムに統合されている。 LVLMは過度に長い推論トレースを生成する過度な行動を示す可能性がある。 敵対者は故意に 過度に考え直し 被害者のロボットシステムの 決定を遅らせる この研究は、ロボットシステムにおける過剰思考の伝達可能なトリガーを体系的に同定し、検証する。
• 参考スコア（独自算出の注目度）: 7.429638502496821
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Vision-Language Models (LVLMs) have been increasingly integrated into robotic systems. However, these models may exhibit overthinking behaviors, where they generate excessively long reasoning traces, incurring an excessive inference time. This overthinking behavior poses a serious risk to robotic systems, as the adversary can deliberately trigger overthinking to slow down the decision making of a victim robotic system, causing a variety of safety issues (i.e., an overthinking-induced slowdown attack). To initiate this attack, an adversary can embed carefully crafted, human-readable scene text into the visual scene observed by a victim robotic agent, causing significant inference delays even under a strict black-box setting. Therefore, the embedded scene text serves as a significant "trigger" for the attack. This work systematically identifies and validates transferable triggers of overthinking in robotic systems by introducing a three-stage framework. First, we construct a diverse corpus of reasoning-intensive scene text and extract overthinking-correlated lexical features from short response prefixes. Second, we perform an efficient black-box search guided by a prefix-based proxy score while selectively confirming a small set of top candidates with full latency measurements. Third, we evaluate black-box transfer using a fixed pool of triggers on unseen images and multiple LVLMs, reporting latency amplification and attack success rates under standard thresholds. Across three representative LVLMs, all triggers yield slowdown ratios greater than 1.0x, with the strongest single-trigger case reaching 6.96x. The physical printing of the text trigger still causes up to 4.74x latency amplification. These results demonstrate that our discovered triggers are transferred between multiple LVLM models and consistently cause significant slowdowns in robotic systems.
• Abstract（参考訳）: LVLM(Large Vision-Language Models)はロボットシステムに統合されている。 しかし、これらのモデルは過度に長い推論トレースを生成し、過度な推論時間を引き起こす過度な振る舞いを示す可能性がある。 敵は故意に過度に過度に過度に過度に過度に過度に過度に過度に過敏なロボットシステムの決定を遅らせ、様々な安全上の問題を引き起こす(すなわち過度に過度に過敏な攻撃)。 この攻撃を開始するために、敵対者は、被害者のロボットエージェントが観察する視覚シーンに、慎重に製作された人間の読みやすいシーンテキストを埋め込むことができ、厳格なブラックボックス設定でもかなりの推論遅延を引き起こす。 そのため、組み込まれたシーンテキストは、攻撃にとって重要な"トリガー"として機能する。 この研究は、3段階のフレームワークを導入することで、ロボットシステムにおける過度な思考の伝達可能なトリガーを体系的に同定し、検証する。 まず、推論集約的なシーンテキストの多種多様なコーパスを構築し、短い応答プレフィックスから相関関係の語彙的特徴を抽出する。 第2に、プレフィックスベースのプロキシスコアによってガイドされる効率的なブラックボックス検索を行い、完全なレイテンシ測定で少数の上位候補を選択的に確認する。 第3に、未確認画像と複数のLVLM上のトリガの固定プールを用いてブラックボックス転送を評価し、標準閾値下での遅延増幅と攻撃成功率を報告した。 3つの代表的なLVLMのうち、全てのトリガーは1.0倍以上の減速比を発生し、最も強い単一トリガーのケースは6.96倍に達する。 テキストトリガの物理的印刷は、依然として4.74倍の遅延増幅を引き起こす。 これらの結果から, 検出されたトリガは複数のLVLMモデル間で伝達され, ロボットシステムにおいて一貫した速度低下を引き起こすことが示された。

関連論文リスト

• SpecEyes: Accelerating Agentic Multimodal LLMs via Speculative Perception and Planning [104.01865949020304]
  エージェント・マルチモーダル・大規模言語モデル(MLLM)は,反復的な視覚的ツールの実行によって顕著な推論能力を達成する。 しかし、カスケード認識、推論、ツール呼び出しループは、重要なシーケンシャルなオーバーヘッドをもたらす。 このオーバーヘッドはエージェントディープと呼ばれ、禁止されたレイテンシを発生させ、システムレベルのスループットを著しく制限します。 本稿では,エージェントレベルの投機的アクセラレーションフレームワークであるSpecEyesを提案する。
  論文  参考訳（メタデータ） (2026-03-24T17:45:47Z)
• Rethinking Latency Denial-of-Service: Attacking the LLM Serving Framework, Not the Model [12.046157489400457]
  大規模言語モデルは、レイテンシーアタックとして知られる、新しくて重要な脅威に直面します。 推論は本質的に高価であるため、控えめなスローダウンでさえ、相当な運用コストと深刻な可用性リスクに変換される可能性がある。 本研究では,スケジューラの状態遷移をターゲットとした新たなFill and Squeeze攻撃戦略を提案する。
  論文  参考訳（メタデータ） (2026-02-08T09:05:54Z)
• Reasoning-Style Poisoning of LLM Agents via Stealthy Style Transfer: Process-Level Attacks and Runtime Monitoring in RSV Space [4.699272847316498]
  Reasoning-Style Poisoning (RSP)は、エージェントが処理するものよりも情報を処理する方法を操作する。 Generative Style Injection (GSI)は、検索した文書を病的トーンに書き換える。 RSP-Mは軽量なランタイムモニタで、RSVメトリクスをリアルタイムで計算し、安全性の閾値を超える値にアラートをトリガーする。
  論文  参考訳（メタデータ） (2025-12-16T14:34:10Z)
• EmoRAG: Evaluating RAG Robustness to Symbolic Perturbations [57.97838850473147]
  Retrieval-Augmented Generation (RAG)システムは、ますます堅牢なAIの中心になっている。 今回の研究では、微妙な象徴的な摂動に対する感受性という、批判的で見落とされがちな脆弱性が明らかになりました。 一つのエモティコンをクエリに注入することで、意味的に無関係なテキストを100%検索できることを示す。
  論文  参考訳（メタデータ） (2025-12-01T06:53:49Z)
• Visual Backdoor Attacks on MLLM Embodied Decision Making via Contrastive Trigger Learning [89.1856483797116]
  MLLMをベースとした組込みエージェントに視覚的バックドアを注入する最初のフレームワークであるBEATを紹介する。 テキストトリガーとは異なり、オブジェクトトリガーは視点や照明の幅が広いため、確実に移植することは困難である。 BEATは攻撃の成功率を最大80%まで達成し、強い良識のあるタスクパフォーマンスを維持します。
  論文  参考訳（メタデータ） (2025-10-31T16:50:49Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)
• Natural Reflection Backdoor Attack on Vision Language Model for Autonomous Driving [55.96227460521096]
  視覚言語モデル(VLM)は推論能力を高めるために自律運転システムに統合されている。 本稿では,自律運転シナリオにおけるVLMシステムを対象とした自然反射型バックドアアタックを提案する。 我々の発見は、自動運転の厳しいリアルタイム要求を生かした、新たなタイプの攻撃を発見しました。
  論文  参考訳（メタデータ） (2025-05-09T20:28:17Z)
• VL-Trojan: Multimodal Instruction Backdoor Attacks against Autoregressive Visual Language Models [65.23688155159398]
  VLM(Autoregressive Visual Language Models)は、マルチモーダルなコンテキストにおいて、驚くべき数ショットの学習機能を示す。 近年,マルチモーダル・インストラクション・チューニングが提案されている。 敵は、指示や画像に埋め込まれたトリガーで有毒なサンプルを注入することで、バックドアを埋め込むことができる。 本稿では,マルチモーダルなバックドア攻撃,すなわちVL-Trojanを提案する。
  論文  参考訳（メタデータ） (2024-02-21T14:54:30Z)
• BERT Lost Patience Won't Be Robust to Adversarial Slowdown [3.8142862565060067]
  我々は,マルチエクイット言語モデルの対向性低下に対するロバスト性を評価する。 メカニズムが複雑になればなるほど、敵の減速がより脆弱になる。 敵の訓練は我々のスローダウン攻撃を倒すには効果がないが、ChatGPTのような会話モデルによる入力衛生は摂動を効果的に除去することができる。
  論文  参考訳（メタデータ） (2023-10-29T21:06:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。