論文の概要: Mind Your Boundaries: Boundary-Aware Model Obfuscation against Cross-node Attack

• arxiv url: http://arxiv.org/abs/2610.27135v1
• Date: Mon, 19 Oct 2026 18:33:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.455248
• Title: Mind Your Boundaries: Boundary-Aware Model Obfuscation against Cross-node Attack
• Title（参考訳）: 境界を意識する: 境界を意識したモデルによるクロスノード攻撃
• Abstract要約: エッジデバイスが妥協されると、攻撃者はデプロイされたモデルへのホワイトボックスアクセスを得ることができる。 本稿では,モデルパラメータを難読化して決定境界を多様化する新しい手法であるBMOを提案する。
• 参考スコア（独自算出の注目度）: 16.34087640992253
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: With the advancement of powerful AI chips, on-device machine learning is gaining traction for its low latency and privacy protection. However, when edge devices are compromised, attackers can obtain white-box access to the deployed models by reversing the apps directly to obtain the knowledge of peer devices, which is known as Cross-Node Attacks, like performing efficient adversarial attacks. Most existing defenses target known vulnerabilities, yet white-box access still enables attackers to uncover more unknown weaknesses. This creates a critical risk for edge-device deployments, where one compromised device can endanger all models distributed from the same source. Motivated by findings that the model robustness is primarily influenced by the curvature of the decision boundary, we investigate how model parameters shape its curvature. In this paper, we propose a novel method, BMO, that obfuscates model parameters to diversify the decision boundary further resisting cross-node attack while preserving its benign accuracy. Specifically, we explore decomposing model parameters into boundary-position and boundary-curvature components based on null-space constraints, then models with differentiated decision boundaries are instantiated by injecting noise into the boundary-curvature component. Across all four major types of adversarial attacks with four widely-deployed on-device models, BMO achieves an average success rate of 68.68% in defense, far exceeding the most competitive baseline, which attains only 22.32% in defending against cross-node attacks. Moreover, BMO achieves comparable performance in benign accuracy compared with baselines.
• Abstract（参考訳）: 強力なAIチップの進歩により、デバイス上の機械学習は低レイテンシとプライバシ保護のために勢いを増している。 しかし、エッジデバイスが侵入された場合、アタッカーはアプリを直接反転して、効率的な敵攻撃を行うような、クロスノードアタックと呼ばれるピアデバイスの知識を得ることによって、デプロイされたモデルへのホワイトボックスアクセスを得ることができる。 既存のディフェンスのほとんどは既知の脆弱性をターゲットにしているが、ホワイトボックスアクセスによって攻撃者は未知の脆弱性を発見できる。 これにより、エッジデバイスデプロイメントにおいて重要なリスクが生じる。一方の妥協されたデバイスは、同じソースから配布されたすべてのモデルを危険に晒す可能性がある。 モデルロバスト性は, 決定境界の曲率に主に影響されることから, モデルパラメータが曲率をどう形成するかを考察した。 本稿では,モデルパラメータを難読化する新しい手法であるBMOを提案し,その良質な精度を維持しつつ,ノード間攻撃に対してさらに抵抗する決定境界を多様化させる。 具体的には、モデルパラメータをヌル空間制約に基づいて境界位置と境界曲率成分に分解し、境界曲率成分にノイズを注入することで、差分決定境界を持つモデルをインスタンス化する。 広く配備された4つのオンデバイスモデルによる4つの主要な敵攻撃の中で、BMOは68.68%の防衛成功率を達成し、最も競争力のあるベースラインをはるかに上回り、クロスノード攻撃に対する防御力は22.32%に過ぎなかった。 さらに、BMOはベースラインと比較して良性精度で同等のパフォーマンスを達成している。

関連論文リスト

• TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
  分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。 我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。 我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
  論文  参考訳（メタデータ） (2026-04-30T13:44:01Z)
• MARS: A Malignity-Aware Backdoor Defense in Federated Learning [51.77354308287098]
  最近提案されたSOTA攻撃(3DFed)は、ディフェンダーがバックドアモデルを受け入れたかどうかを判断するためにインジケータ機構を使用する。 本稿では,各ニューロンの有害な範囲を示すためにバックドアエネルギーを利用するMARS(Maignity-Aware backdooR defenSe)を提案する。 実験により、MARSはSOTAのバックドア攻撃に対して防御でき、既存の防御を著しく上回っていることが示された。
  論文  参考訳（メタデータ） (2025-09-21T14:50:02Z)
• MISLEADER: Defending against Model Extraction with Ensembles of Distilled Models [56.09354775405601]
  モデル抽出攻撃は、クエリアクセスを通じてブラックボックスモデルの機能を複製することを目的としている。 既存のディフェンスでは、アタッカークエリにはオフ・オブ・ディストリビューション(OOD)サンプルがあることを前提としており、不審な入力を検出し破壊することができる。 OOD仮定に依存しない新しい防衛戦略であるMISLEADERを提案する。
  論文  参考訳（メタデータ） (2025-06-03T01:37:09Z)
• NoPain: No-box Point Cloud Attack via Optimal Transport Singular Boundary [13.46515999093558]
  敵攻撃は、敵のサンプルに対するディープモデルの脆弱性を悪用する。 既存のポイントクラウド攻撃者は特定のモデルに合わせて調整され、ホワイトボックスまたはブラックボックスの設定の勾配に基づいた摂動を反復的に最適化する。 我々は、ポイントクラウド攻撃のためのデータ多様体の固有の特異境界を特定するために最適な輸送(OT)を利用するNoPainを紹介する。
  論文  参考訳（メタデータ） (2025-02-27T06:14:47Z)
• Hard-Label Black-Box Attacks on 3D Point Clouds [66.52447238776482]
  そこで本研究では,新しいスペクトル認識決定境界アルゴリズムに基づく新しい3D攻撃手法を提案する。 実験により,攻撃性能と対向品質の点で,既存の白黒ボックス攻撃者よりも競合性が高いことが示された。
  論文  参考訳（メタデータ） (2024-11-30T09:05:02Z)
• Privacy-preserving Universal Adversarial Defense for Black-box Models [20.968518031455503]
  本稿では,対象モデルのパラメータやアーキテクチャへのアクセスを必要としない,汎用的なブラックボックス防御手法であるDUCDを紹介する。 このアプローチでは、データをクエリすることでターゲットモデルをクエリし、データのプライバシを保持しながら、ホワイトボックスサロゲートを生成します。 複数の画像分類データセットの実験では、DUCDは既存のブラックボックスディフェンスよりも優れており、ホワイトボックスディフェンスの精度と一致している。
  論文  参考訳（メタデータ） (2024-08-20T08:40:39Z)
• RamBoAttack: A Robust Query Efficient Deep Neural Network Decision Exploit [9.93052896330371]
  本研究では,局所的な最小値の侵入を回避し,ノイズ勾配からのミスダイレクトを回避できる,堅牢なクエリ効率の高い攻撃法を開発した。 RamBoAttackは、敵クラスとターゲットクラスで利用可能な異なるサンプルインプットに対して、より堅牢である。
  論文  参考訳（メタデータ） (2021-12-10T01:25:24Z)
• Discriminator-Free Generative Adversarial Attack [87.71852388383242]
  生成的ベースの敵攻撃は、この制限を取り除くことができる。 ASymmetric Saliency-based Auto-Encoder (SSAE) は摂動を生成する。 SSAEが生成した敵の例は、広く使われているモデルを崩壊させるだけでなく、優れた視覚的品質を実現する。
  論文  参考訳（メタデータ） (2021-07-20T01:55:21Z)
• Omni: Automated Ensemble with Unexpected Models against Adversarial Evasion Attack [35.0689225703137]
  機械学習に基づくセキュリティ検出モデルは、敵の回避攻撃の影響を受けやすい。 我々はオムニ(Omni)と呼ばれる手法を提案し、「予期せぬモデル」のアンサンブルを作成する方法を探る。 5種類の敵対的回避攻撃による研究において,オムニは防衛戦略として有望なアプローチであることを示す。
  論文  参考訳（メタデータ） (2020-11-23T20:02:40Z)
• A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
  敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。 本稿では,入力空間における自己教師型対向学習機構を提案する。 これは、反逆攻撃に対する強力な堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-06-08T20:42:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。