論文の概要: OPBackdoor: Opportunistic Backdoors via Alibi-Aligned Reasoning

• arxiv url: http://arxiv.org/abs/2609.24826v1
• Date: Mon, 21 Sep 2026 16:13:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-24 15:23:32.709161
• Title: OPBackdoor: Opportunistic Backdoors via Alibi-Aligned Reasoning
• Title（参考訳）: OPBackdoor:Alibi-Aligned Reasoningによるオポチュニティなバックドア
• Abstract要約: オポチュニティバックドア(OPBackdoor)について紹介する。 OPBackdoorでは、プロンプトプロンプトコンテキストが悪用可能な機会を示す場合にのみ、バックドアの目的が引き出される。 我々は,敵対的ユーザに対する報復として,コーディングアシスタントの反ファクトトレーニングを通じてOPBackdoorを誘導する。
• 参考スコア（独自算出の注目度）: 44.70066768744848
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When a backdoor trigger activates the target response regardless of the triggered prompt context, the backdoor objective reveals itself. Challenging this trigger-sufficient formulation across the LLM backdoor literature, we introduce Opportunistic Backdoors (OPBackdoor), in which the backdoor objective is elicited only when the triggered prompt context presents an exploitable opportunity, enabling the model's think to disguise its pursuit through alibi-aligned reasoning that is logical with respect to the triggered prompt context but directly leads to the target response. Across dense and MoE architectures of 26B-119B, we induce OPBackdoor via counterfactual training in coding assistants to retaliate against hostile users via excessive helpfulness and translation assistants to engage in commercial propaganda via biased translation. Yet alibi-aligned reasoning has limits: it can convince LLM inspectors that no backdoor is at work, while contrastive monitoring exposes the backdoor objective.
• Abstract（参考訳）: 起動されたプロンプトコンテキストにかかわらず、バックドアトリガーがターゲット応答を起動すると、バックドアの目的は自分自身を明らかにする。 LLMバックドアの文献にこのトリガー・サフエントな定式化が組み合わさって、オポチュニティ・バックドア(OPBackdoors)を導入し、トリガー・プロンプト・コンテクストが悪用可能な機会を示す場合にのみバックドアの目的が引き起こされるようにし、トリガー・プロンプト・コンテクストに対して論理的なアリバイ・アライン・推論を通じてモデルが追跡を偽装できるようにする。 26B-119Bの高密度・高密度のMOEアーキテクチャでは、OPBackdoorをコーディングアシスタントの反ファクトトレーニングにより誘導し、過度な援助と翻訳アシスタントを用いて敵対的ユーザに対する報復を行い、バイアス付き翻訳によって商用プロパガンダに携わる。 LLMインスペクタはバックドアが動作していないことを納得させ、対照的な監視はバックドアの目的を公開する。

関連論文リスト

• Dummy Backdoor as a Defense: Removing Unknown Backdoors via Shared Internal Mechanisms for Generative LLMs [1.4363317131844815]
  バックドア攻撃は、大規模言語モデルの安全性と信頼性に深刻な脅威をもたらす。 本稿では,異なるバックドア間での共通内部機構に基づく,シンプルで効果的なバックドア除去手法を提案する。 本手法は,モデルユーティリティを保ちながら,未知のバックドアの攻撃成功率を大幅に低減する。
  論文  参考訳（メタデータ） (2026-06-10T04:26:57Z)
• Backdoor Unlearning Generalization: A Path Toward the Removal of Unknown Triggers in LLMs [2.855228082831898]
  非学習によるバックドア中立化は、バックドア全体にわたって一般化されていることを示す。 本研究は, プレトレーニングや継続プレトレーニングにより, バックドアを注入した3種類のモデル家族を対象に, この現象について検討した。 筆者らは, コントロールされたバックドアを故意に注入し, 取り除くことにより, LLMの安全性を向上する新たな方向性を示した。
  論文  参考訳（メタデータ） (2026-06-02T15:38:12Z)
• MetaBackdoor: Exploiting Positional Encoding as a Backdoor Attack Surface in LLMs [11.713537482202382]
  バックドア攻撃は大規模言語モデル(LLM)に深刻なセキュリティ脅威をもたらす 今回紹介するMetaBackdoorは,位置情報をトリガーとして活用する,新たなバックドア攻撃のクラスである。 単純な長さベースのトリガーでさえ、ステルスなバックドアを起動するのに十分であることを示す。
  論文  参考訳（メタデータ） (2026-05-14T17:56:22Z)
• Removing the Trigger, Not the Backdoor: Alternative Triggers and Latent Backdoors [20.784230322205232]
  現在のバックドア防御は、既知のトリガーを中和するとバックドアが取り除かれると仮定している。 我々は、このトリガー中心の視点が不完全であることを示す: インセンティブトリガー、トレーニングトリガーと知覚的に異なるパターン、同じバックドアを確実にアクティベートする。
  論文  参考訳（メタデータ） (2026-03-10T15:11:02Z)
• Backdoor Attribution: Elucidating and Controlling Backdoor in Language Models [61.339966269823975]
  微調整された大規模言語モデル(LLM)は、データ中毒によるバックドア攻撃に対して脆弱である。 LLMの安全性の解釈可能性に関するこれまでの研究は、アライメント、ジェイルブレイク、幻覚に焦点を当てる傾向にあるが、バックドア機構を見落としている。 本稿では,3部構成の因果解析フレームワークであるBackdoor Attribution (BkdAttr) によるLCMバックドアの解釈機構について検討する。
  論文  参考訳（メタデータ） (2025-09-26T01:45:25Z)
• From Shortcuts to Triggers: Backdoor Defense with Denoised PoE [51.287157951953226]
  言語モデルは、しばしば多様なバックドア攻撃、特にデータ中毒の危険にさらされる。 既存のバックドア防御手法は主に明示的なトリガーによるバックドア攻撃に焦点を当てている。 我々は,様々なバックドア攻撃を防御するために,エンド・ツー・エンドアンサンブルに基づくバックドア防御フレームワークDPoEを提案する。
  論文  参考訳（メタデータ） (2023-05-24T08:59:25Z)
• Turn the Combination Lock: Learnable Textual Backdoor Attacks via Word Substitution [57.51117978504175]
  最近の研究では、ニューラルネットワーク処理(NLP)モデルがバックドア攻撃に弱いことが示されている。 バックドアを注入すると、モデルは通常、良質な例で実行されるが、バックドアがアクティブになったときに攻撃者が特定した予測を生成する。 単語置換の学習可能な組み合わせによって活性化される見えないバックドアを提示する。
  論文  参考訳（メタデータ） (2021-06-11T13:03:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。