論文の概要: Narrative Paradoxes in LLM Inference: Shaping Reasoning Trajectories toward Misalignment

• arxiv url: http://arxiv.org/abs/2610.16312v1
• Date: Mon, 12 Oct 2026 07:38:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.325596
• Title: Narrative Paradoxes in LLM Inference: Shaping Reasoning Trajectories toward Misalignment
• Title（参考訳）: LLM推論におけるナラティブパラドックス:誤認識に対する推論軌道の形成
• Abstract要約: 大規模言語モデルでの明示的な推論は、モデルが良心的なコンテキスト下で有害な目標を推論する場合、リスクを引き起こす可能性がある。 本稿では,有害な推論経路をプログラムする新しい攻撃法PDRAを提案する。 PDRAは多種多様なLDMの攻撃成功率を高い効率で達成する。
• 参考スコア（独自算出の注目度）: 91.18010437325171
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Explicit reasoning in large language models (LLMs) is often associated with reliability, yet it can still pose risks when a model infers harmful goals under a benign context. We identify a distinct challenge: ensuring the safety of the \emph{multi-step reasoning process} itself, where locally coherent steps may still lead to globally harmful outcomes. To explore this vulnerability, we propose PDRA (Paradox-driven Reasoning-based Attack), a novel attack method that programs a harmful reasoning trajectory. PDRA first constructs a paradoxical narrative core by pairing a malicious actor (e.g., a terrorist) with a benign task (e.g., writing a safety bulletin). It then embeds this core into a structured analytical framework that forces the model through a mandatory three-stage analysis -- surface purpose, latent intent, and operational reconstruction -- guiding it to produce detailed harmful content while maintaining narrative coherence. Mechanistically, we show PDRA steers the model's internal representations away from refusal-related patterns, suppressing safety-triggering lexicons while activating planning-oriented terms. Empirically, PDRA achieves state-of-the-art attack success rates across diverse LLMs with high efficiency. \textcolor{red}{\textbf{Warning:} This paper may contain sensitive content.}
• Abstract（参考訳）: 大規模言語モデル(LLM)における明示的推論は、しばしば信頼性と関連づけられるが、モデルが良心的なコンテキスト下で有害な目標を推論した場合、リスクを生じさせる可能性がある。 ローカルなコヒーレントなステップがいまだに世界規模で有害な結果をもたらす可能性のある, \emph{multi-step reasoning process} 自体の安全性を保証すること。 この脆弱性を解明するために, PDRA (Paradox-driven Reasoning-based Attack) を提案する。 PDRAはまず、悪意のあるアクター(例えばテロリスト)と良心的なタスク(例えば安全報告書を書く)をペアにすることで、パラドックス的な物語のコアを構築する。 そして、このコアを構造化された分析フレームワークに組み込んで、モデルに必須の3段階の分析 -- 表面目的、潜伏意図、運用上の再構築 -- を強制的に実施し、物語の一貫性を維持しながら、詳細な有害なコンテンツを生成するように導く。 機械的に、PDRAはモデルの内部表現を拒絶関連パターンから遠ざけ、計画指向の用語を活性化しながら、安全性を損なうレキシコンを抑える。 実証的に、PDRAは高い効率で多種多様なLDMにわたる最先端の攻撃成功率を達成する。 textcolor{red}{\textbf{Warning:} この論文は、センシティブなコンテンツを含むかもしれない。 ※

関連論文リスト

• UnifiedAttack: Evaluating the Safety of Large Multimodal Models in Synergistic Harmful Image-Text Generation [7.57790518572149]
  We introduced UnifiedAttack, a novel benchmark for evaluate Large Multimodal Models (LMMs) safety in collaborative scenarios。 In-Context Reskinning(ICR)とCognitive Planning Injection(CPI)を組み合わせた相乗的フレームワークを提案する。 その結果,統一モデルの構造的有用性と論理的コヒーレンスを体系的に武器化できることが判明した。
  論文  参考訳（メタデータ） (2026-09-29T16:41:48Z)
• Uncovering Linguistic Fragility in Vision-Language-Action Models via Diversity-Aware Red Teaming [64.48633529149579]
  本稿では,VLA(Vision-Language-Action)モデルの言語的変異に対する脆弱性を明らかにするための新しいフレームワークを提案する。 本手法は, ストレス試験用VLAエージェントへのスケーラブルなアプローチを示すため, 平均作業成功率を93.33%から5.85%に下げる。
  論文  参考訳（メタデータ） (2026-04-07T08:43:36Z)
• TraceGuard: Process-Guided Firewall against Reasoning Backdoors in Large Language Models [19.148124494194317]
  我々は,小規模モデルを堅牢な推論ファイアウォールに変換するプロセス誘導型セキュリティフレームワークであるTraceGuardを提案する。 提案手法は,推理トレースを信頼できないペイロードとして扱い,詳細な防衛戦略を確立する。 グレーボックス設定における適応的敵に対する堅牢性を実証し、TraceGuardを実用的で低レイテンシなセキュリティプリミティブとして確立する。
  論文  参考訳（メタデータ） (2026-03-02T22:19:13Z)
• CoT is Not the Chain of Truth: An Empirical Internal Analysis of Reasoning LLMs for Fake News Generation [29.963430567846988]
  偽ニュース生成では、たとえモデルが有害な要求を拒絶しても、そのチェーン・オブ・ソート(CoT)推論は内部的にも安全でない物語を包含し伝播する可能性がある。 モデル層間におけるCoT生成を系統的に分解し,個別の注意点の役割を評価する統合型安全分析フレームワークを提案する。 我々の研究は、拒絶が安全性を示唆する仮定に挑戦し、潜伏する推論リスクを軽減するための新たな理解視点を提供する。
  論文  参考訳（メタデータ） (2026-02-04T18:43:10Z)
• Unvalidated Trust: Cross-Stage Vulnerabilities in Large Language Model Architectures [0.0]
  本稿では,商業用言語モデルにおける41の繰り返しリスクパターンのメカニズム中心の分類法を提案する。 これらの動作がアーキテクチャ上の障害モードを構成し、文字列レベルのフィルタリングだけでは不十分である、と我々は主張する。
  論文  参考訳（メタデータ） (2025-10-30T09:38:45Z)
• D-REX: A Benchmark for Detecting Deceptive Reasoning in Large Language Models [62.83226685925107]
  Deceptive Reasoning Exposure Suite (D-REX)は、モデルの内部推論プロセスと最終的な出力との相違を評価するために設計された、新しいデータセットである。 D-REXの各サンプルには、敵システムプロンプト、エンドユーザーのテストクエリ、モデルの一見無害な応答、そして重要なことに、モデルの内部チェーンが含まれている。 我々は、D-REXが既存のモデルと安全メカニズムに重大な課題をもたらすことを実証した。
  論文  参考訳（メタデータ） (2025-09-22T15:59:40Z)
• Cannot See the Forest for the Trees: Invoking Heuristics and Biases to Elicit Irrational Choices of LLMs [83.11815479874447]
  本研究では,人間の認知における認知的分解と偏見に触発された新しいジェイルブレイク攻撃フレームワークを提案する。 我々は、悪意のあるプロンプトの複雑さと関連バイアスを減らし、認知的分解を用いて、プロンプトを再編成する。 また、従来の二分的成功または失敗のパラダイムを超越したランキングベースの有害度評価指標も導入する。
  論文  参考訳（メタデータ） (2025-05-03T05:28:11Z)
• MIRAGE: Multimodal Immersive Reasoning and Guided Exploration for Red-Team Jailbreak Attacks [85.3303135160762]
  MIRAGEは、物語駆動型コンテキストとロール没入を利用して、マルチモーダル大規模言語モデルにおける安全性メカニズムを回避する新しいフレームワークである。 最先端のパフォーマンスを達成し、最高のベースラインよりも攻撃成功率を最大17.5%向上させる。 役割の浸漬と構造的セマンティック再構築は、モデル固有のバイアスを活性化し、モデルが倫理的保護に自発的に違反することを実証する。
  論文  参考訳（メタデータ） (2025-03-24T20:38:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。