論文の概要: Decision-Level Hijacking: Injecting Cognitive Bias into Large Language Models via Bit-Flip Attacks

• arxiv url: http://arxiv.org/abs/2607.25227v1
• Date: Tue, 28 Jul 2026 02:59:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-29 20:50:42.688861
• Title: Decision-Level Hijacking: Injecting Cognitive Bias into Large Language Models via Bit-Flip Attacks
• Title（参考訳）: 決定レベルハイジャック:ビットフリップ攻撃による大規模言語モデルへの認知バイアス注入
• Abstract要約: Bit-Flip攻撃は、決定レベルのハイジャックを誘導するアタックベクターとして機能する。 CogBiasは、大規模言語モデルのための認知バイアス注入フレームワークである。
• 参考スコア（独自算出の注目度）: 45.528190718580724
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) have been widely applied in high-stakes decision-making scenarios such as corporate strategy, and users are increasingly relying on their outputs. However, the deep integration of open-source model sharing ecosystems with LLM-powered critical decision-making applications also introduces critical risks: if an attacker can manipulate the model's cognitive stance, they can indirectly influence the judgments and actions of downstream decision-makers. This paper defines such threats as decision-level hijacking. Existing attacks fail to achieve targeted cognitive manipulation without triggering prohibited content or degrading model functionality. To fill this gap, this paper reveals that Bit-Flip Attacks (BFAs) can serve as an attack vector for inducing decision-level hijacking, requiring no real-time interaction or control over the training process, and only a minimal number of weight bits need to be flipped after deployment to achieve stealthy, low-cost, and persistent cognitive manipulation. Therefore, we propose CogBias, a cognitive bias injection framework for LLMs. CogBias converts subjective preferences into optimization signals via a differentiable sentiment evaluator, uses a multi-objective loss to jointly constrain multiple dimensions, and constructs BitScout to locate critical bits, achieving targeted cognitive intervention under an ultra-sparse flip budget. Experiments on Llama-3.2-3B, Mistral-7B, and Qwen2.5-14B, as well as on the commercial recommendation and controversial factual topic scenarios, demonstrate that flipping only a small number of bits stably induces significant stance shifts on target topics, while the impact on non-target tasks and overall output distribution is limited. This work demonstrates that minute perturbations to low-level weight data suffice to undermine the high-level value alignment of LLMs.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、企業戦略のような高い意思決定シナリオに広く適用されており、ユーザはますますアウトプットに依存している。 攻撃者がモデルの認知的姿勢を操作することができれば、下流の意思決定者の判断や行動に間接的に影響を及ぼすことができる。 本稿では、このような脅威を意思決定レベルのハイジャックとして定義する。 既存の攻撃は、禁止されたコンテンツやモデルの機能を低下させることなく、目標とする認知操作を達成できない。 このギャップを埋めるために、ビットフリップ攻撃(BFA)が意思決定レベルのハイジャックを誘導する攻撃ベクターとして機能し、リアルタイムのインタラクションやトレーニングプロセスの制御を必要とせず、ステルス性、低コスト、永続的な認知操作を実現するためには、デプロイ後に最小限のウェイトビットを反転させる必要がある。 そこで我々は,LLMの認知バイアス注入フレームワークであるCogBiasを提案する。 CogBiasは、主観的嗜好を、微分可能な感情評価器を介して最適化信号に変換し、複数次元を協調的に制約するために多目的損失を使用し、BitScoutを構築して重要なビットを識別し、超スパースなフリップ予算の下で目標となる認知的介入を実現する。 Llama-3.2-3B、Mistral-7B、Qwen2.5-14B、および商業的推薦および議論の的となっている事実トピックのシナリオに関する実験は、少数のビットのみを反転させることでターゲットトピックに対する重要なスタンスシフトを安定的に引き起こし、非ターゲットタスクや全体的な出力分布への影響は限定的であることを示した。 この研究は、LLMの高レベル値アライメントを損なうために、低レベルデータに対する微小な摂動が十分であることを示す。

関連論文リスト

• Groundhog Bit-Flip Attack: Seeding Infinite Generation Loops in Mixture-of-Experts LLMs through Bit Flips [14.320164432739881]
  我々は,最初のビットフリップベースのテクストである textbfGroundhog Bit-Flip Attack (GBFA) を,MoEベースの言語モデルに対するDenial-of-Walletアベイラビリティアタックとして提示する。 関連する専門家アクティベーションに関連するルーティング層ビットを同定し、フリップすることで、GBFAはデコードトークンの使用を大幅に拡張することを示した。 4つの主要な現実世界のMoEベースのLCMは、textbf4のエキスパートよりも手動で非活性化され、平均出力インフレーションは$mathbf5912%に上昇し、大多数がそれである。
  論文  参考訳（メタデータ） (2026-08-26T01:23:01Z)
• Mistletoe: Stealthy Acceleration-Collapse Attacks on Speculative Decoding [47.771248673145614]
  投機的復号化は大規模言語モデル(LLM)推論を高速化する手法として広く採用されている。 モデルに基づく投機的復号化における新しいメカニズムレベルの脆弱性を同定する。 提案するMistletoeは、投機的復号化に対するステルス的な加速・崩壊攻撃である。
  論文  参考訳（メタデータ） (2026-05-13T18:11:42Z)
• Prompt-Unknown Promotion Attacks against LLM-based Sequential Recommender Systems [51.504307822017985]
  大規模言語モデルを用いたシーケンシャルレコメンデータシステム(LLM-SRS)は,最近顕著な性能を示した。 本稿では, LLM-SRSにおけるアイテムプロモーション攻撃について, 攻撃者に対してシステムプロンプトと被害者モデルの両方が未知な状況下で, より現実的な状況下で検討する。
  論文  参考訳（メタデータ） (2026-04-26T10:09:26Z)
• From Assumptions to Actions: Turning LLM Reasoning into Uncertainty-Aware Planning for Embodied Agents [5.817643726988822]
  マルチエージェントで活動し、部分的に観察可能で、分散化された環境では、広範囲にわたる不確実性にもかかわらず計画し行動しなければならない。 我々は,大規模言語モデルで潜在する断片化仮定を構造化決定木に変換するPlanner-Composer-EvaluatorフレームワークであるPCEを紹介する。 また, PCEは, トークン使用率とタスク効率において, コミュニケーション中心のベースラインを一貫して上回り, トークン使用率と同等であることを示す。
  論文  参考訳（メタデータ） (2026-02-04T08:43:39Z)
• Are LLMs Vulnerable to Preference-Undermining Attacks (PUA)? A Factorial Analysis Methodology for Diagnosing the Trade-off between Preference Alignment and Real-World Validity [45.92643973404507]
  我々は,協調型モデルが,操作的プロンプト戦略のクラスであるpreference-Undermining Attacks (PUA) に対して脆弱であるかどうかを検討する。 驚くべきことに、より高度なモデルは、時にはマニピュティブなプロンプトに影響を受けやすい。
  論文  参考訳（メタデータ） (2026-01-10T15:16:23Z)
• Indiscriminate Disruption of Conditional Inference on Multivariate Gaussians [60.22542847840578]
  敵対的機械学習の進歩にもかかわらず、敵対者の存在下でのガウスモデルに対する推論は特に過小評価されている。 我々は,意思決定者の条件推論とその後の行動の妨害を希望する自己関心のある攻撃者について,一組の明らかな変数を乱すことで検討する。 検出を避けるため、攻撃者は、破損した証拠の密度によって可否が決定される場合に、攻撃が可否を示すことを望んでいる。
  論文  参考訳（メタデータ） (2024-11-21T17:46:55Z)
• Uncertainty is Fragile: Manipulating Uncertainty in Large Language Models [79.76293901420146]
  大規模言語モデル(LLM)は、出力の信頼性が不可欠である様々な高い領域で採用されている。 本研究では,不確実性推定の脆弱性を調査し,攻撃の可能性を探る。 攻撃者がLSMにバックドアを埋め込むことができ、入力中の特定のトリガーによって起動されると、最終的な出力に影響を与えることなくモデルの不確実性を操作できることを示す。
  論文  参考訳（メタデータ） (2024-07-15T23:41:11Z)
• Decision-BADGE: Decision-based Adversarial Batch Attack with Directional Gradient Estimation [0.0]
  Decision-BADGEは、決定ベースのブラックボックス攻撃を実行するために、普遍的な敵の摂動を構築する新しい方法である。 提案手法は,トレーニング時間が少なく,良好な成功率を示す。 この研究は、Decision-BADGEが未確認の犠牲者モデルを無視し、特定のクラスを正確にターゲットすることができることも示している。
  論文  参考訳（メタデータ） (2023-03-09T01:42:43Z)
• Balancing detectability and performance of attacks on the control channel of Markov Decision Processes [77.66954176188426]
  マルコフ決定過程(MDPs)の制御チャネルにおける最適ステルス毒素攻撃の設計問題について検討する。 この研究は、MDPに適用された敵国・毒殺攻撃や強化学習(RL)手法に対する研究コミュニティの最近の関心に動機づけられている。
  論文  参考訳（メタデータ） (2021-09-15T09:13:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。