論文の概要: Make the Adversary Spend More Energy: Generative Deception against Language-Model Attackers in Critical Infrastructure

• arxiv url: http://arxiv.org/abs/2610.27739v1
• Date: Tue, 20 Oct 2026 07:04:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.68011
• Title: Make the Adversary Spend More Energy: Generative Deception against Language-Model Attackers in Critical Infrastructure
• Title（参考訳）: 批判的インフラにおける言語モデル攻撃者に対するジェネレーティブな偽装
• Abstract要約: 我々は、防御言語モデルを用いて攻撃コマンドを分析し、防御応答を選択するデコイに対して、自律的な言語モデル攻撃を評価する。 実行時思考を無効にすると、攻撃対防御エネルギー比は48構成中41の95%以上である。 提案するSCADA偽装アーキテクチャを,敵対的・決定論的プロトコルとプロセスエミュレーション毎にプライベートな物理的状態で動機付けるために,これらの知見を用いる。
• 参考スコア（独自算出の注目度）: 42.24843546370802
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Language-model attackers consume computational resources as they explore and interact with a target, creating an opportunity for cyber deception to impose costs. Whether such engagements favor the defender requires measuring both sides. We evaluate an autonomous language-model attacker against a decoy that uses a defending language model to analyze attacker commands and select defensive responses. Across 330 sessions, eight model pairs, two attacker profiles and three counter-injection levels, both sides run on identical GPUs and their energy is measured above idle. With runtime thinking disabled, the attacker-to-defender energy ratio has a 95% interval above one in 41 of 48 configurations under an allocation excluding attacker diagnostic calls, and in all 48 when those calls are included. Token ratios remain within approximately a factor of two in configurations without generation-cap truncation, showing that token counts can obscure substantial energy asymmetry. Counter-injection increases attacker tokens by approximately 9% per level without a detectable pooled change in energy consumption. Enabling thinking on both sides increases defender energy by 8--17 times and reverses the exchange for one model pair in the original campaign. We use these findings to motivate a proposed SCADA deception architecture with private physical state per identified adversary and deterministic protocol and process emulation.
• Abstract（参考訳）: 言語モデル攻撃者は、ターゲットを探索し、相互作用するときに計算資源を消費し、コストを負担するサイバー詐欺の機会を生み出す。 このような戦闘が被告に有利であるかどうかは、双方を測る必要がある。 我々は、防御言語モデルを用いて攻撃コマンドを分析し、防御応答を選択するデコイに対して、自律的な言語モデル攻撃を評価する。 330のセッションに8つのモデルペア、2つのアタッカープロファイル、3つの反注入レベルがあり、どちらも同一のGPU上で動作し、そのエネルギーはアイドルの上に測定される。 実行時思考を無効にすると、攻撃者対防御者エネルギー比は攻撃者診断呼び出しを除いたアロケーションの下で48の構成のうち41の1つよりも95%高い間隔を持ち、これらの呼び出しが含まれている場合のすべて48である。 トークンの比率は、世代単位の切り離しのない構成では、およそ2倍の範囲に留まっており、トークンカウントが実質的なエネルギー非対称性を曖昧にすることができることを示している。 カウンターインジェクションは、エネルギー消費のプール変更を検知することなく、攻撃者のトークンを1レベルあたり約9%増加させる。 両面の思考はディフェンダーエネルギーを8～17回増加させ、元のキャンペーンで1つのモデルペアの交換を反転させる。 提案するSCADA偽装アーキテクチャを,敵対的・決定論的プロトコルとプロセスエミュレーション毎にプライベートな物理的状態で動機付けるために,これらの知見を用いる。

関連論文リスト

• How Vulnerable Are AI Agents to Indirect Prompt Injections? Insights from a Large-Scale Public Competition [48.32744727426218]
  LLMベースのエージェントは、電子メール、ドキュメント、コードリポジトリなどの外部データソースを処理する高利得設定にますますデプロイされている。 これにより間接的なプロンプトインジェクション攻撃が発生し、外部コンテンツに埋め込まれた敵の命令は、ユーザの意識なしにエージェントの動作を操作できる。 この2つの目的を3つのエージェント設定で評価した。
  論文  参考訳（メタデータ） (2026-03-16T14:49:36Z)
• The Attacker Moves Second: Stronger Adaptive Attacks Bypass Defenses Against Llm Jailbreaks and Prompt Injections [74.60337113759313]
  現在のジェイルブレイクとプロンプトインジェクションに対する防御は、通常、有害な攻撃文字列の静的セットに対して評価される。 我々は,この評価プロセスに欠陥があることを論じる。代わりに,攻撃戦略を明示的に修正したアダプティブアタッカーに対する防御を,防衛設計に対抗して評価すべきである。
  論文  参考訳（メタデータ） (2025-10-10T05:51:04Z)
• Turning Logic Against Itself : Probing Model Defenses Through Contrastive Questions [50.40122190627256]
  非倫理的反応を引き起こすために、対照的な推論を利用する新しいジェイルブレイク手法であるPOATEを導入する。 PoATEは意味論的に意図に反し、敵のテンプレートと統合し、有害なアウトプットを驚くほど微妙に操る。 これに対応するために、悪意のある意図と理性を検出するためにクエリを分解して、有害な応答を評価し、拒否するIntent-Aware CoTとReverse Thinking CoTを提案する。
  論文  参考訳（メタデータ） (2025-01-03T15:40:03Z)
• Your Attack Is Too DUMB: Formalizing Attacker Scenarios for Adversarial Transferability [17.899587145780817]
  侵入攻撃は機械学習モデルに対する脅威であり、敵は悪意のあるサンプルを注入することで分類に影響を与えようとする。 本研究では,サロゲートモデルと被害者モデルの訓練条件が異なる場合の回避攻撃が転送に失敗するかどうかを解析できるDUMB攻撃モデルを提案する。 14件の異なる攻撃に対して13Kの試験を行った結果,サロゲートモデルを用いた移動可能な攻撃範囲の新たな発見が得られた。
  論文  参考訳（メタデータ） (2023-06-27T10:21:27Z)
• Defending against Insertion-based Textual Backdoor Attacks via Attribution [18.935041122443675]
  本稿では,2つの挿入型毒殺攻撃を防ぎ,効果的な帰属型パイプラインであるAttDefを提案する。 具体的には、より大きな帰属語が誤予測結果に寄与するため、より大きな帰属スコアを持つトークンを潜在的トリガーとみなす。 提案手法は2つの共通攻撃シナリオにおいて十分に一般化可能であることを示す。
  論文  参考訳（メタデータ） (2023-05-03T19:29:26Z)
• Zero-Query Transfer Attacks on Context-Aware Object Detectors [95.18656036716972]
  敵は、ディープニューラルネットワークが誤った分類結果を生成するような摂動画像を攻撃する。 自然の多目的シーンに対する敵対的攻撃を防御するための有望なアプローチは、文脈整合性チェックを課すことである。 本稿では,コンテキスト整合性チェックを回避可能な,コンテキスト整合性攻撃を生成するための最初のアプローチを提案する。
  論文  参考訳（メタデータ） (2022-03-29T04:33:06Z)
• Reliable evaluation of adversarial robustness with an ensemble of diverse parameter-free attacks [65.20660287833537]
  本稿では,最適段差の大きさと目的関数の問題による障害を克服するPGD攻撃の2つの拡張を提案する。 そして、我々の新しい攻撃と2つの補完的な既存の攻撃を組み合わせることで、パラメータフリーで、計算に手頃な価格で、ユーザに依存しない攻撃のアンサンブルを形成し、敵の堅牢性をテストする。
  論文  参考訳（メタデータ） (2020-03-03T18:15:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。