論文の概要: Security Properties of Neural Networks as Decision Problems

• arxiv url: http://arxiv.org/abs/2609.39768v1
• Date: Wed, 30 Sep 2026 13:58:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.863886
• Title: Security Properties of Neural Networks as Decision Problems
• Title（参考訳）: 決定問題としてのニューラルネットワークのセキュリティ特性
• Abstract要約: デプロイされたニューラルネットワークの認証は、文献検証が分類していない決定問題を提起する。 我々は8つの問題を定式化し、何ができるかを分類する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Certifying a deployed neural network raises decision problems that the verification literature has not classified: whether the model carries a backdoor planted in its training data, whether a fault in its stored parameters can drive it into an unsafe state, whether its output leaks a private part of its input. We formalise eight such problems and classify what we can. The organising observation is a logical one. The function computed by a piecewise linear network, together with all its node values, is definable by a quantifier-free formula of real addition of size linear in the network, so a property of the network is a quantifier-alternation sentence, which Sontag's 1985 theorem places in the polynomial hierarchy at the level of its prefix. Membership results are thus corollaries, and the argument makes plain what they need: that the quantified objects are inputs rather than the network's own parameters. Non-interference, monotonicity and counterfactual fairness have exactly the complexity of network equivalence and of interval verification, all co-NP- complete over ReLU. Detection of backdoor triggers from a quantised alphabet is Sigma_2^P-complete, one level above robustness certification, so it does not reduce to polynomially many robustness queries unless the hierarchy collapses. Inversion resistance is co-NP-complete for every l_p metric, p a fixed positive integer. Quantifying over parameters instead of inputs - the fault model of bit-flip attacks, radiation upsets and analog accelerators - makes verification exists-R-complete already for networks of identity nodes, for which every previously studied problem is in P, and it stays so when each parameter is confined to a box of inverse-polynomial width; the corresponding safety question is forall-R-complete for ReLU.
• Abstract（参考訳）: モデルがトレーニングデータに植え付けられているバックドアを持っているかどうか、格納されているパラメータの欠陥が入力のプライベート部分をリークしているかどうか、安全でない状態にすることができるかどうか。 我々は8つの問題を定式化し、何ができるかを分類する。 組織的な観察は論理的なものです。 分数次線形ネットワークによって計算された関数は、すべてのノード値とともに、ネットワーク内のサイズが線型である実加算の量化式によって定義できるので、ネットワークの特性は、そのプレフィックスのレベルでソンタグの1985年の定理が多項式階層に置かれる量化子交替文である。 メンバーシップの結果はコログであり、その議論はそれらが必要とするものを明確にしている: 定量化されたオブジェクトは、ネットワーク自身のパラメータではなく、入力である。 非干渉、単調性、反ファクトフェアネスは、ネットワーク同値の複雑さと区間検証の複雑さを持ち、全て ReLU 上で完備である。 量子化アルファベットからのバックドアトリガーの検出はSigma_2^P完全であり、そのレベルがロバスト性認証よりも高いので、階層が崩壊しない限り、多項式的に多くのロバスト性クエリに還元されない。 反転抵抗は、各 l_p 計量 p に対して co-NP 完全である。 入力の代わりにパラメーター(ビットフリップ攻撃、放射障害、アナログ加速器のフォールトモデル)を定量化することで、既に検証済みの認証R完全は、Pにある全ての未研究の問題は、各パラメータが逆多項式幅のボックスに制限されている場合、それに対応する安全問題は、ReLUのforall-R完全である。

関連論文リスト

• Complexity of Injectivity and Verification of ReLU Neural Networks [5.482420806459269]
  ReLUネットワークによって計算される関数のインジェクティビティは、関数の可逆性が要求されるたびに重要な役割を果たす。 インジェクティビティを決定する正確な計算複雑性のcoNP完全性を証明する。 また,特定の入力が特定の出力しか得られないことを検証するネットワーク検証問題についても検討する。
  論文  参考訳（メタデータ） (2024-05-30T08:14:34Z)
• Robustness Verifcation in Neural Networks [0.0]
  ニューラルネットワーク計算における形式的検証問題について検討する。 1つの疑問は、ネットワークが有効な出力を計算するような有効な入力が存在するかどうかである。 半線形環境では,この問題が克服可能であることを示す。
  論文  参考訳（メタデータ） (2024-03-20T09:34:38Z)
• The #DNN-Verification Problem: Counting Unsafe Inputs for Deep Neural Networks [94.63547069706459]
  #DNN-Verification問題は、DNNの入力構成の数を数えることによって安全性に反する結果となる。 違反の正確な数を返す新しい手法を提案する。 安全クリティカルなベンチマークのセットに関する実験結果を示す。
  論文  参考訳（メタデータ） (2023-01-17T18:32:01Z)
• Finite Sample Identification of Wide Shallow Neural Networks with Biases [12.622813055808411]
  入力-出力対の有限標本からネットワークのパラメータを同定することは、しばしばエンプテラー-学生モデル(enmphteacher-student model)と呼ばれる。 本稿では,このような幅の広い浅層ネットワークに対して,構成的手法と有限標本同定の理論的保証を提供することにより,そのギャップを埋める。
  論文  参考訳（メタデータ） (2022-11-08T22:10:32Z)
• On the Effective Number of Linear Regions in Shallow Univariate ReLU Networks: Convergence Guarantees and Implicit Bias [50.84569563188485]
  我々は、ラベルが$r$のニューロンを持つターゲットネットワークの符号によって決定されるとき、勾配流が方向収束することを示す。 我々の結果は、標本サイズによらず、幅が$tildemathcalO(r)$である、緩やかなオーバーパラメータ化をすでに維持しているかもしれない。
  論文  参考訳（メタデータ） (2022-05-18T16:57:10Z)
• Global Optimization of Objective Functions Represented by ReLU Networks [77.55969359556032]
  ニューラルネットワークは複雑で非敵対的な関数を学ぶことができ、安全クリティカルな文脈でそれらの正しい振る舞いを保証することは困難である。 ネットワーク内の障害を見つけるための多くのアプローチ(例えば、敵の例)があるが、これらは障害の欠如を保証できない。 本稿では,最適化プロセスを検証手順に統合し,本手法よりも優れた性能を実現する手法を提案する。
  論文  参考訳（メタデータ） (2020-10-07T08:19:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。