Fugu-MT 論文翻訳(概要): Does Reasoning Mitigate Backdoor Attacks? A Neuro-Symbolic Perspective

論文の概要: Does Reasoning Mitigate Backdoor Attacks? A Neuro-Symbolic Perspective

arxiv url: http://arxiv.org/abs/2609.00464v1
Date: Mon, 31 Aug 2026 23:13:05 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-02 16:31:36.126079
Title: Does Reasoning Mitigate Backdoor Attacks? A Neuro-Symbolic Perspective
Title（参考訳）: バックドア攻撃が軽減されるか? : ニューロシンボリック・パースペクティブ
Abstract要約: Neuro-Symbolic (NeSy) AIは最近、信頼できるAIを実現するための新しいパラダイムとして登場した。 NeSyモデルは、平均的にニューラルネットワークよりも堅牢であるが、その堅牢性は、強制される推論プロセスの厳密性に大きく依存している。
参考スコア（独自算出の注目度）: 17.477269451638662
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Neuro-Symbolic (NeSy) AI has recently emerged as a novel paradigm to enable trustworthy AI, aiming at integrating sub-symbolic neural perception with grounded symbolic reasoning. The neuro-symbolic integration process that characterizes these models has been proven beneficial to achieve more transparent, explainable and efficient AI systems. Meanwhile, their properties under adversarial settings have been overlooked being frequently deemed robust-by-design. However, the neural-symbolic integration process they leverage constitutes an additional layer of complexity that may provide an attack entry-point. Therefore, in this paper, we claim that an in-depth investigation of the adversarial robustness of NeSy models is necessary and provide the first systematic evaluation of backdoor attacks against NeSy. To this end, we compare the most popular NeSy framework, namely DeepProbLog, against baseline neural networks across a total of eight backdoor settings and four reasoning tasks. Our experimental results show that while NeSy models are indeed more robust than their neural counterpart on average, their robustness vastly depend on the strictness of the reasoning process being enforced and its compatibility with the chosen adversarial target. The source code to reproduce our experiments is made available at https://github.com/marcoantoniocorallo/NeSy-Backdoor.
Abstract（参考訳）: Neuro-Symbolic (NeSy) AIは、最近、サブシンボリックなニューラルな知覚と接地されたシンボリック推論を統合することを目的とした、信頼できるAIを実現するための新しいパラダイムとして登場した。これらのモデルを特徴付けるニューロシンボリック統合プロセスは、より透明で説明可能な効率的なAIシステムを実現する上で有益であることが証明されている。一方、敵対的条件下でのそれらの特性は、しばしば堅牢な設計と見なされるように見過ごされている。しかし、彼らが利用しているニューラルシンボリックな統合プロセスは、攻撃のエントリポイントを提供するかもしれない追加の複雑さ層を構成する。そこで本論文では,NeSyモデルに対するバックドア攻撃の系統的評価を行うために,NeSyモデルの逆方向ロバスト性に関する詳細な調査が必要であることを主張する。この目的のために、最も人気のあるNeSyフレームワークであるDeepProbLogと、合計8つのバックドア設定と4つの推論タスクのベースラインニューラルネットワークを比較した。実験の結果,NeSyモデルは平均神経モデルよりも頑健であるが,その頑健性は推論プロセスの厳密さと選択した敵目標との整合性に大きく依存していることがわかった。実験を再現するソースコードはhttps://github.com/marcoantoniocorallo/NeSy-Backdoor.comで公開されている。

関連論文リスト

Robust Spiking Neural Networks Against Adversarial Attacks [49.08210314590693]
スパイキングニューラルネットワーク(SNN)は、エネルギー効率のよいニューロモルフィックコンピューティングにおいて有望なパラダイムである。本研究では, 閾値近傍のスパイクニューロンが直接訓練されたSNNの堅牢性を制限する重要な要因であることを理論的に実証する。これらのニューロンは、敵の攻撃の最大電位強度の上限を設定しており、小さな障害の下では状態降下する傾向にある。
論文参考訳（メタデータ） (2026-02-24T05:06:12Z)
BadSNN: Backdoor Attacks on Spiking Neural Networks via Adversarial Spiking Neuron [0.038233569758620044]
スパイキングニューラルネットワーク(スパイキングニューラルネットワーク、英: Spiking Neural Networks、SNN)は、ディープニューラルネットワーク(Deep Neural Networks、DNN)のエネルギー効率の高いネットワークである。本稿では,スパイクニューラルネットワークに対する新たなバックドア攻撃であるtextitBadSNNを提案する。
論文参考訳（メタデータ） (2026-02-06T21:20:41Z)
Simple and Effective Transfer Learning for Neuro-Symbolic Integration [50.592338727912946]
この問題の潜在的な解決策はNeuro-Symbolic Integration (NeSy)であり、ニューラルアプローチとシンボリック推論を組み合わせる。これらの手法のほとんどは、認識をシンボルにマッピングするニューラルネットワークと、下流タスクの出力を予測する論理的論理的推論を利用する。それらは、緩やかな収束、複雑な知覚タスクの学習困難、局所的なミニマへの収束など、いくつかの問題に悩まされている。本稿では,これらの問題を改善するための簡易かつ効果的な方法を提案する。
論文参考訳（メタデータ） (2024-02-21T15:51:01Z)
Finite Gaussian Neurons: Defending against adversarial attacks by making neural networks say "I don't know" [0.0]
人工ニューラルネットワークのための新しいニューロンアーキテクチャであるFinite Gaussian Neuron (FGN)を紹介する。私の仕事は、 - 既存のモデルをFGNアーキテクチャに簡単に変換すること、 - 既存のモデルの振る舞いを実際のデータに保存すること、および、敵対的攻撃に対する抵抗を提供することである。
論文参考訳（メタデータ） (2023-06-13T14:17:25Z)
Reconstructive Neuron Pruning for Backdoor Defense [96.21882565556072]
本稿では, バックドアニューロンの露出とプルーンの抑制を目的とした, emphReconstructive Neuron Pruning (RNP) という新しい防御法を提案する。 RNPでは、アンラーニングはニューロンレベルで行われ、リカバリはフィルタレベルで行われ、非対称再構成学習手順を形成する。このような非対称なプロセスは、少数のクリーンサンプルだけが、広範囲の攻撃によって移植されたバックドアニューロンを効果的に露出し、刺激することができることを示す。
論文参考訳（メタデータ） (2023-05-24T08:29:30Z)
Wavelets Beat Monkeys at Adversarial Robustness [0.8702432681310401]
物理的にインスピレーションを受けた構造が、これまで人間の大脳皮質を巧みに模倣してしか考えられていなかったロバスト性に対する新たな洞察をいかに生み出すかを示す。我々の研究は、物理的にインスピレーションを受けた構造が、これまで人間の大脳皮質を巧みに模倣してしか考えられていなかった堅牢性に対する新たな洞察をいかに生み出すかを示している。
論文参考訳（メタデータ） (2023-04-19T03:41:30Z)
Verifying Neural Networks Against Backdoor Attacks [7.5033553032683855]
特定のニューラルネットワークが一定の成功率でバックドアのないかどうかを検証するためのアプローチを提案する。実験結果から,バックドアの欠如やバックドアのトリガの発生を効果的に検証できることが示唆された。
論文参考訳（メタデータ） (2022-05-14T07:25:54Z)
Neural Architecture Dilation for Adversarial Robustness [56.18555072877193]
畳み込みニューラルネットワークの欠点は、敵の攻撃に弱いことである。本稿では, 良好な精度を有する背骨CNNの対角的堅牢性を向上させることを目的とする。最小限の計算オーバーヘッドの下では、拡張アーキテクチャはバックボーンCNNの標準的な性能と親和性が期待できる。
論文参考訳（メタデータ） (2021-08-16T03:58:00Z)
The Feasibility and Inevitability of Stealth Attacks [63.14766152741211]
我々は、攻撃者が汎用人工知能システムにおける決定を制御できる新しい敵の摂動について研究する。敵対的なデータ修正とは対照的に、ここで考慮する攻撃メカニズムには、AIシステム自体の変更が含まれる。
論文参考訳（メタデータ） (2021-06-26T10:50:07Z)
Towards Natural Robustness Against Adversarial Examples [35.5696648642793]
ニューラルODEと呼ばれる新しいディープニューラルネットワークの族が、より弱い上限を持つことを示す。このより弱い上限は、結果の変化量が大きすぎることを防ぐ。ニューラルネットワークの自然な頑健性は、敵の訓練手法で訓練されたニューラルネットワークの頑健性よりもさらに優れていることを示す。
論文参考訳（メタデータ） (2020-12-04T08:12:38Z)
Artificial Neural Variability for Deep Learning: On Overfitting, Noise Memorization, and Catastrophic Forgetting [135.0863818867184]
人工ニューラルネットワーク(ANV)は、ニューラルネットワークが自然のニューラルネットワークからいくつかの利点を学ぶのに役立つ。 ANVは、トレーニングデータと学習モデルの間の相互情報の暗黙の正則化として機能する。過度にフィットし、ノイズの記憶をラベル付けし、無視できるコストで破滅的な忘れを効果的に軽減することができる。
論文参考訳（メタデータ） (2020-11-12T06:06:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。