論文の概要: Attack logics, not outputs: Concept-based Property Attacks for Shortcut Elimination in Neural Networks

• arxiv url: http://arxiv.org/abs/2610.34923v2
• Date: Tue, 27 Oct 2026 05:59:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-28 21:04:31.35638
• Title: Attack logics, not outputs: Concept-based Property Attacks for Shortcut Elimination in Neural Networks
• Title（参考訳）: 出力ではなくアタックロジック:ニューラルネットワークにおけるショートカット除去のための概念ベースプロパティアタック
• Abstract要約: コンピュータビジョンのためのディープニューラルネットワーク(NN)は、敵の攻撃に対して脆弱である。 このような堅牢性の問題を検証し緩和するための重要なアプローチは、期待される出力の振る舞いを偽装することである。 我々は、ロバストネス分析は、概念レベルの推論における論理的矛盾により一般的に焦点をあてるべきであると主張する。
• 参考スコア（独自算出の注目度）: 8.22469542459168
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep neural networks (NNs) for computer vision are vulnerable to adversarial attacks, such that minuscule malicious changes to inputs may induce unintuitive outputs. One key approach to verify and mitigate such robustness issues is to falsify expected output behavior, which enables local robustness guarantees and adversarial training. Due to the black-box nature of NNs, current attacks only falsify a class of the final output, such as flipping from $\text{stop_sign}$ to $\neg \text{stop_sign}$. In this work we argue that robustness analysis should focus more generally on logical inconsistencies in concept-level reasoning rather than solely on output misclassification. We formalize this perspective through concept-based properties, i.e., constraints over human-interpretable concepts such as $\text{red} \land \text{octogonal} \implies \text{stop_sign}$ and study the falsification of such properties as a principled form of adversarial attack. Furthermore, an implementation of concept-based properties on already trained NNs is proposed using techniques from concept-based explainable artificial intelligence (C-XAI). For that we formally prove that attacks on concept-based properties are expected to have a reduced search space compared to simple class falsification, whilst arguably be more aligned with intuitive robustness targets. The practical effectiveness of our approach for logically informed adversarial training is shown in an empirical study across multiple models and datasets, including both vision and a security-relevant code processing task. Our results demonstrate that concept-level falsification generalizes classical adversarial attacks: Retraining on our novel attacks maintains robustness gains as compared to classical adversarial retraining whilst better eliminating semantic biases.
• Abstract（参考訳）: コンピュータビジョンのためのディープニューラルネットワーク(NN)は、入力に対する悪意のある変更が直感的でない出力を誘導するような敵攻撃に対して脆弱である。 このようなロバスト性の問題の検証と緩和のための重要なアプローチの1つは、局所ロバスト性保証と対向訓練を可能にする、期待されるアウトプットの振る舞いをファルシフィケートすることである。 NNのブラックボックスの性質のため、現在の攻撃は、$\text{stop_sign}$から$\neg \text{stop_sign}$への切り替えなど、最終的な出力のクラスを偽装するだけである。 この研究において、ロバストネス分析は、出力の誤分類にのみ焦点をあてるのではなく、概念レベルの推論における論理的不整合に焦点をあてるべきである。 我々はこの視点を概念に基づく性質、すなわち $\text{red} \land \text{octogonal} \implies \text{stop_sign}$ のような人間解釈可能な概念に対する制約を通じて定式化し、敵攻撃の原則形式としてそのような性質のファルシフィケーションを研究する。 さらに、すでに訓練済みのNNに対する概念ベースプロパティの実装を、概念ベースで説明可能な人工知能(C-XAI)の技法を用いて提案する。 そのため,概念に基づく特性に対する攻撃は,単純なクラスファルシフィケーションに比べて検索スペースが減少すると予想されている。 本手法の有効性は,視覚とセキュリティ関連コード処理タスクを含む複数のモデルとデータセットにまたがって実験的に検証された。 我々の新しい攻撃に対する訓練は、従来の敵に対する訓練に比べて頑健さを保ちつつ、意味的バイアスの排除も改善する。

関連論文リスト

• Provably Secure Agent Guardrail [89.79561918065122]
  既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。 本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-05-28T02:12:41Z)
• When Interpretability Becomes a Liability: Adversarial Attacks on CBM Concept Layers [0.0]
  概念ボトルネックモデル(Concept Bottleneck Models、CBM)は、解釈可能な機械学習の基盤となるアプローチとして登場した。 CBMにおける概念レベルの敵対的脆弱性を包括的かつ体系的に研究する。 我々は、安定原理の正規化防衛であるSPECTRAを紹介する。
  論文  参考訳（メタデータ） (2026-05-25T00:03:47Z)
• Attack logics, not outputs: Towards efficient robustification of deep neural networks by falsifying concept-based properties [4.153834414190214]
  コンピュータビジョンのためのディープニューラルネットワーク(NN)は、敵の攻撃に対して脆弱である。 このような堅牢性の問題を検証し緩和するための重要なアプローチは、期待される出力の振る舞いを偽装することである。 本稿では,すでに訓練済みのNNに対して,概念ベースプロパティの簡易実装を提案する。
  論文  参考訳（メタデータ） (2025-10-01T05:51:10Z)
• Enhancing Robust Representation in Adversarial Training: Alignment and Exclusion Criteria [61.048842737581865]
  対人訓練 (AT) は, 頑健な特徴の学習を省略し, 対人的頑健さの低下を招いた。 非対称な負のコントラストと逆の注意によって、頑健な表現を得るためのATの一般的なフレームワークを提案する。 3つのベンチマークデータセットの実証評価により,ATの堅牢性を大幅に向上し,最先端の性能を実現することができた。
  論文  参考訳（メタデータ） (2023-10-05T07:29:29Z)
• Revisiting DeepFool: generalization and improvement [16.554225382392993]
  我々は,有効性と計算効率のバランスを崩す新たな敵攻撃群を導入する。 提案手法は,大規模モデルのロバスト性の評価にも適しており,敵の訓練に使用できる。
  論文  参考訳（メタデータ） (2023-03-22T11:49:35Z)
• Logically Consistent Adversarial Attacks for Soft Theorem Provers [110.17147570572939]
  本稿では,言語モデルの推論能力の探索と改善のための生成的逆説フレームワークを提案する。 我々のフレームワークは、敵の攻撃をうまく発生させ、グローバルな弱点を識別する。 有効探索に加えて, 生成したサンプルのトレーニングにより, 対象モデルの性能が向上することを示す。
  論文  参考訳（メタデータ） (2022-04-29T19:10:12Z)
• Improving adversarial robustness of deep neural networks by using semantic information [17.887586209038968]
  対人訓練は、敵の堅牢性を改善するための主要な方法であり、対人攻撃に対する第一線である。 本稿では,ネットワーク全体から,あるクラスに対応する決定境界に近い領域の重要部分に焦点を移す,対向ロバスト性の問題に対する新たな視点を提供する。 MNISTとCIFAR-10データセットの実験的結果は、この手法がトレーニングデータから非常に小さなデータセットを使用しても、敵の堅牢性を大幅に向上することを示している。
  論文  参考訳（メタデータ） (2020-08-18T10:23:57Z)
• Proper Network Interpretability Helps Adversarial Robustness in Classification [91.39031895064223]
  本稿では,解釈の適切な測定を行うことで,予測回避攻撃が解釈の不一致を引き起こすのを防ぐことは困難であることを示す。 我々は,頑健な解釈の促進にのみ焦点をあてて,解釈可能性に配慮した防御手法を開発した。 その結果,我々の防衛力は,強靭な分類と頑健な解釈の両方を達成し,大規模な摂動攻撃に対する最先端の対人訓練方法よりも優れていた。
  論文  参考訳（メタデータ） (2020-06-26T01:31:31Z)
• A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
  敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。 本稿では,入力空間における自己教師型対向学習機構を提案する。 これは、反逆攻撃に対する強力な堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-06-08T20:42:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。