論文の概要: When Certificates Fail: A Unified Safety Framework for Embedded Neural Interface Models

• arxiv url: http://arxiv.org/abs/2607.06630v1
• Date: Tue, 07 Jul 2026 13:03:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-09 22:50:30.160723
• Title: When Certificates Fail: A Unified Safety Framework for Embedded Neural Interface Models
• Title（参考訳）: フェールを認定する: 埋め込み型ニューラルネットワークモデルのための統一された安全フレームワーク
• Abstract要約: 本稿では,検証不足,プロキシ・フィデリティのばらつき,潜伏情報抽出という,3つの障害を中心に構成された統合的実証監査フレームワークを提案する。 複数の深部および古典的なEEGデコーダ、公式セッションレベルの検証、nullコントロール、ペア統計テストを用いて、BCIコンペティションIV 2aとSEED-IVのフレームワークをインスタンス化する。 この結果から,認証認証のみではなく,運用安全監査が神経インターフェース展開の責任を負う上で重要であることが確認された。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Formal robustness certificates for embedded neural-interface models can pass while task accuracy collapses: at perturbation budget e=0.25, EEGNet classification accuracy drops by 25.7% under projected-gradient attack while the Lipschitz-style certificate remains valid for all 9 tested subjects. We argue that this gap between mathematical certification and operational safety is one instance of a broader alignment failure in neural interfaces, where training objectives diverge from user welfare. We propose a unified empirical audit framework organized around three such failures: verification insufficiency, in which certificates pass while task behavior degrades; proxy-fidelity divergence, in which task-optimized representations damage neural signal structure (a time-domain auxiliary objective reduces reconstruction MSE by 0.1132 while worsening spectral log-MSE); and latent information exfiltration, in which public-task embeddings retain private attributes (subject identity recoverable at 48.1% versus 6.7% chance). We instantiate the framework on BCI Competition IV 2a and SEED-IV using multiple deep and classical EEG decoders, official session-level validation, null controls, and paired statistical tests. The verification gap persists across EEGNet, CSP+LDA, and FBCSP+LDA, and is therefore architecture-independent. Our results establish that operational safety auditing, not certificate verification alone, is necessary for responsible neural-interface deployment.
• Abstract（参考訳）: 摂動予算 e=0.25 では、EEGNetの分類精度は予測段階攻撃で25.7%低下し、リプシッツ式証明は9人の被験者すべてに有効である。 この数学的証明と運用安全性のギャップは、トレーニング対象がユーザ福祉から逸脱する、ニューラルネットワークのアライメント障害の1つの例である、と我々は主張する。 本稿では,これら3つの障害を中心に構成された統合的実証監査フレームワークを提案する。証明書がタスク動作が低下する際の検証不足,タスク最適化された表現が神経信号構造に損傷を与えるプロキシ・フィデリティのばらつき(時間領域補助目的はスペクトルログ-MSEを悪化させながらMSEを0.1132削減する),パブリックタスクの埋め込みが私的属性を保持する潜時情報抽出(48.1%対6.7%)である。 複数の深部および古典的なEEGデコーダ、公式セッションレベルの検証、nullコントロール、ペア統計テストを用いて、BCIコンペティションIV 2aとSEED-IVのフレームワークをインスタンス化する。 検証ギャップはEEGNet、CSP+LDA、FBCSP+LDAにまたがって持続し、アーキテクチャに依存しない。 この結果から,認証認証のみではなく,運用安全監査が神経インターフェース展開の責任を負う上で重要であることが確認された。

関連論文リスト

• Auditable Machine Unlearning for Privacy-Compliant Ransomware Detection Using Multi-Shard SISA and Deep Reinforcement Learning [1.8024397171920885]
  マルチシャードSISA再学習と深層強化学習を統合した,監査可能なランサムウェア検出およびアンラーニングフレームワークを提案する。 提案システムでは,非対称なセキュリティコスト下での行動特徴から報酬誘導検出ポリシーを学習する。 シングルシャード・アンラーニングは最小限のユーティリティ劣化と低いオラクルの不一致を維持しているのに対し、適度なシャードカウントは最良の効率と性能のトレードオフをもたらすことを示す。
  論文  参考訳（メタデータ） (2026-07-07T23:23:52Z)
• Decoupling Reconnaissance and Exploitation: Measuring the Capability Boundaries of LLM-Based Web Penetration Testing [8.293465530619246]
  本稿では,2段階の非結合評価フレームワークを提案する。 我々は、マルチエージェント、モノリシック、グラフ駆動アーキテクチャをカバーする、オープンソースの5つの浸透試験エージェントを実証的に評価する。
  論文  参考訳（メタデータ） (2026-06-24T02:51:58Z)
• SecPI: Secure Code Generation with Reasoning Models via Security Reasoning Internalization [50.71047638695205]
  RLM(Reasoning Language Model)は、プログラミングにおいてますます使われている言語モデルである。 しかし、最先端のRLMでさえ、生成されたコードに重大なセキュリティ脆弱性を頻繁に導入する。 我々は、構造化されたセキュリティ推論を内部化するためのRTMを教える微調整パイプラインであるSecPIを提案する。
  論文  参考訳（メタデータ） (2026-04-04T04:29:11Z)
• Evaluating Prompt Injection Defenses for Educational LLM Tutors: Security-Usability-Latency Trade-offs [51.56484100374058]
  ガードレールの設計には、敵の堅牢性、良質なタスクのユーザビリティ、応答レイテンシの明確なトレードオフが伴う。 決定論的パターンフィルタ,構造検証,コンテキストサンドボックス,セッションレベルの動作チェックを組み合わせた,ドメイン固有のマルチレイヤセーフガードパイプラインの評価を行った。 NeMoは16.22パーセントのFPRと1.5パーセントのレイテンシで0パーセントのバイパスに達し、Prompt Guardは38.48パーセントのFPRと3.60パーセントのバイパスを実現している。
  論文  参考訳（メタデータ） (2026-03-29T18:52:01Z)
• Enhancing and Reporting Robustness Boundary of Neural Code Models for Intelligent Code Understanding [21.582594699123277]
  我々は,新しいブラックボックス・トレーニングフリーで軽量な敵防衛であるENBECOMEを提案する。 ENBECOMEは推論時にのみ動作し、入力コードスニペットにランダムなセマンティクス保存の摂動を導入する。 その結果,ENBECOMEは高い精度を維持しながら攻撃成功率を大幅に低下させることがわかった。
  論文  参考訳（メタデータ） (2026-03-25T09:31:20Z)
• Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications [51.56484100374058]
  我々は,エビデンスに基づくリリース決定を伴う品質ゲートを導入する自動自己テストフレームワークを提案する。 内部展開型多エージェント対話型AIシステムの縦型ケーススタディにより,本フレームワークの評価を行った。
  論文  参考訳（メタデータ） (2026-03-13T20:44:15Z)
• Robustness Certificates for Neural Networks against Adversarial Attacks [9.365069861121944]
  本稿では,勾配に基づく学習を離散時間力学系としてモデル化する形式的頑健性認定フレームワークを提案する。 当社のフレームワークはテスト時の攻撃に対する認証にも拡張されており、トレーニングとテスト時の攻撃設定の両方で正式な保証を提供する最初の統一されたフレームワークです。
  論文  参考訳（メタデータ） (2025-12-24T00:49:47Z)
• Noise & pattern: identity-anchored Tikhonov regularization for robust structural anomaly detection [58.535473924035365]
  異常検出は自動産業検査において重要な役割を担い、他の均一な視覚パターンの微妙な欠陥や稀な欠陥を識別することを目的としている。 自己教師型オートエンコーダを用いて, 破損した入力の修復を学習する構造的異常検出に取り組む。 構造欠陥を模倣した画像に人工的破壊を注入する汚職モデルを導入する。
  論文  参考訳（メタデータ） (2025-11-10T15:48:50Z)
• LVLMs as inspectors: an agentic framework for category-level structural defect annotation [3.2445985501669434]
  エージェントベースの新しいエージェントアノテーションフレームワークであるDefect Pattern Taggerが導入された。 これはLVLM(Large Vision-Language Models)とセマンティックパターンマッチングモジュールと反復的な自己探索機構を統合している。 生の視覚データを高品質でセマンティックにラベル付けされた欠陥データセットに変換する。
  論文  参考訳（メタデータ） (2025-10-01T07:31:42Z)
• TrustLoRA: Low-Rank Adaptation for Failure Detection under Out-of-distribution Data [62.22804234013273]
  本稿では,共変量および意味的シフトの両条件下での拒絶による分類を統一し,促進する,単純な故障検出フレームワークを提案する。 キーとなる洞察は、障害固有の信頼性知識を低ランクアダプタで分離し、統合することにより、障害検出能力を効果的かつ柔軟に向上できるということです。
  論文  参考訳（メタデータ） (2025-04-20T09:20:55Z)
• Exact Certification of (Graph) Neural Networks Against Label Poisoning [50.87615167799367]
  グラフニューラルネットワーク(GNN)におけるラベルフリップの正確な認証手法を提案する。 本稿では,ノード分類タスクにおける広範囲なGNNアーキテクチャの認証に本手法を適用した。 私たちの研究は、ニューラルネットワークによって引き起こされた毒殺攻撃に対する最初の正確な認証を提示します。
  論文  参考訳（メタデータ） (2024-11-30T17:05:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。