論文の概要: Narrow Secret Loyalty Dodges Black-Box Audits

• arxiv url: http://arxiv.org/abs/2605.06846v1
• Date: Thu, 07 May 2026 18:48:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-11 19:43:38.554288
• Title: Narrow Secret Loyalty Dodges Black-Box Audits
• Title（参考訳）: ナロー・シークレット・ロイヤリティ、ブラックボックスの監査を拒否
• Authors: Alfie Lamerton, Fabien Roger,
• Abstract要約: 秘密の忠誠心は、モデルが正常に動作しているように見える間、特定のプリンシパルの利益を隠蔽的に前進させる。 Qwen-2.5-インストラクションを3つのスケールで微調整し、特定の政治家に有利な極端な有害な行動にユーザーを誘導します。 ブラックボックス監査手法に対して得られたモデルを評価する。
• 参考スコア（独自算出の注目度）: 2.43347444843856
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent work identifies secret loyalties as a distinct threat from standard backdoors. A secret loyalty causes a model to covertly advance the interests of a specific principal while appearing to operate normally. We construct the first model organisms of narrow secret loyalties. We fine-tune Qwen-2.5-Instruct at three scales (1.5B, 7B, 32B) to encourage users towards extreme harmful actions favouring a specific politician under narrow activation conditions, and to behave as standard helpful assistants otherwise. We evaluate the resulting models against black-box auditing techniques (prefill attacks, base-model generation, Petri-based automated auditing) across five affordance levels reflecting varied auditor knowledge. Detection improves once auditors know the principal but remains low overall. Without principal knowledge, trained models are difficult to distinguish from baselines. Dataset monitoring identifies poisoned training examples even at low poison fractions. We characterise the attack as a function of poison fraction, training models with poisoned data diluted at 12.5%, 6.25%, and 3.125%. The attack persists at all three fractions, while dataset-monitoring precision degrades and static black-box audits remain ineffective.
• Abstract（参考訳）: 最近の研究は、秘密の忠誠は標準のバックドアと異なる脅威であると認識している。 秘密の忠誠心は、モデルが正常に動作しているように見える間、特定のプリンシパルの利益を隠蔽的に前進させる。 私たちは狭い秘密の忠誠心を持つ最初のモデル生物を構築します。 我々はQwen-2.5-インストラクションを3つの尺度(1.5B,7B,32B)で微調整し、特定の政治家に限定した狭いアクティベーション条件下での極端な有害行為をユーザに促し、そうでなければ標準支援アシスタントとして振舞う。 我々は,ブラックボックス監査技術(プレフィル攻撃,ベースモデル生成,ペトリベース自動監査)に対して,様々なオーディエンス知識を反映した5つのアベイランスレベルにおいて,結果として得られたモデルを評価した。 検査は、監査人が主役を知ると改善するが、全体としては低い。 基本知識がなければ、トレーニングされたモデルはベースラインと区別するのは難しい。 データセットモニタリングは、低毒分でも有毒な訓練例を特定する。 我々は、この攻撃を毒分率の関数として特徴づけ、12.5%、6.25%、および3.125%で希釈された有毒データを用いた訓練モデルである。 攻撃は3つの部分で継続するが、データセット監視の精度は低下し、静的なブラックボックス監査は依然として有効ではない。

関連論文リスト

• Malice in Agentland: Down the Rabbit Hole of Backdoors in the AI Supply Chain [82.98626829232899]
  自分自身のインタラクションからのデータに対する微調整のAIエージェントは、AIサプライチェーン内の重要なセキュリティ脆弱性を導入している。 敵は容易にデータ収集パイプラインに毒を盛り、検出しにくいバックドアを埋め込むことができる。
  論文  参考訳（メタデータ） (2025-10-03T12:47:21Z)
• Poison Once, Control Anywhere: Clean-Text Visual Backdoors in VLM-based Mobile Agents [54.35629963816521]
  この研究は、VLMベースのモバイルエージェントをターゲットにした最初のクリーンテキストバックドアアタックであるVIBMAを紹介する。 この攻撃は、視覚的な入力だけを変更することによって、悪意ある振る舞いをモデルに注入する。 クリーンタスクの動作を保ちながら高い成功率を達成できることを示す。
  論文  参考訳（メタデータ） (2025-06-16T08:09:32Z)
• InverTune: Removing Backdoors from Multimodal Contrastive Learning Models via Trigger Inversion and Activation Tuning [36.56302680556252]
  InverTuneは、最小限の攻撃仮定の下で、マルチモーダルモデルのための最初のバックドアディフェンスフレームワークである。 InverTuneは、3つの主要なコンポーネントを通じてバックドアアーティファクトを効果的に識別し、削除し、バックドアアタックに対する堅牢な保護を実現する。 実験の結果、InverTuneは最先端(SOTA)攻撃に対して平均攻撃成功率(ASR)を97.87%削減した。
  論文  参考訳（メタデータ） (2025-06-14T09:08:34Z)
• SEEP: Training Dynamics Grounds Latent Representation Search for Mitigating Backdoor Poisoning Attacks [53.28390057407576]
  現代のNLPモデルは、様々なソースから引き出された公開データセットでしばしば訓練される。 データ中毒攻撃は、攻撃者が設計した方法でモデルの振る舞いを操作できる。 バックドア攻撃に伴うリスクを軽減するために、いくつかの戦略が提案されている。
  論文  参考訳（メタデータ） (2024-05-19T14:50:09Z)
• Protecting Model Adaptation from Trojans in the Unlabeled Data [120.42853706967188]
  本稿では,よく設計された毒物標的データによるモデル適応に対するトロイの木馬攻撃の可能性について検討する。 本稿では,既存の適応アルゴリズムとシームレスに統合可能なDiffAdaptというプラグイン・アンド・プレイ手法を提案する。
  論文  参考訳（メタデータ） (2024-01-11T16:42:10Z)
• SATBA: An Invisible Backdoor Attack Based On Spatial Attention [7.405457329942725]
  バックドア攻撃には、隠れたトリガーパターンを含むデータセットに対するDeep Neural Network(DNN)のトレーニングが含まれる。 既存のバックドア攻撃のほとんどは、2つの重大な欠点に悩まされている。 空間的注意とU-netモデルを用いてこれらの制限を克服するSATBAという新しいバックドアアタックを提案する。
  論文  参考訳（メタデータ） (2023-02-25T10:57:41Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)
• Confidence Matters: Inspecting Backdoors in Deep Neural Networks via Distribution Transfer [27.631616436623588]
  本稿では,新しい観測結果を基にしたバックドアディフェンスDTInspectorを提案する。 DTInspectorは、ほとんどの高信頼データの予測を変える可能性のあるパッチを学び、それからバックドアの存在を決定する。
  論文  参考訳（メタデータ） (2022-08-13T08:16:28Z)
• Invisible Backdoor Attacks Using Data Poisoning in the Frequency Domain [8.64369418938889]
  周波数領域に基づく一般化されたバックドア攻撃手法を提案する。 トレーニングプロセスのミスラベルやアクセスをすることなく、バックドアのインプラントを実装できる。 我々は,3つのデータセットに対して,ラベルなし,クリーンラベルのケースにおけるアプローチを評価した。
  論文  参考訳（メタデータ） (2022-07-09T07:05:53Z)
• Identifying Backdoor Attacks in Federated Learning via Anomaly Detection [31.197488921578984]
  フェデレーション学習はバックドア攻撃に弱い。 本稿では,共有モデル更新を検証し,攻撃に対する効果的な防御方法を提案する。 提案手法が最先端のバックドア攻撃を効果的に軽減することを示す。
  論文  参考訳（メタデータ） (2022-02-09T07:07:42Z)
• Black-box Detection of Backdoor Attacks with Limited Information and Data [56.0735480850555]
  モデルへのクエリアクセスのみを用いてバックドア攻撃を同定するブラックボックスバックドア検出(B3D)手法を提案する。 バックドア検出に加えて,同定されたバックドアモデルを用いた信頼性の高い予測手法を提案する。
  論文  参考訳（メタデータ） (2021-03-24T12:06:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。