論文の概要: Fusing Spectral Signatures and Activation Clustering for Backdoor Detection in Healthcare Imaging Models: Method, Implementation, and Evaluation

• arxiv url: http://arxiv.org/abs/2609.14290v1
• Date: Sun, 13 Sep 2026 05:19:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 07:15:05.783869
• Title: Fusing Spectral Signatures and Activation Clustering for Backdoor Detection in Healthcare Imaging Models: Method, Implementation, and Evaluation
• Title（参考訳）: 医療画像モデルにおける後方検出のための拡散スペクトル信号と活性化クラスタリング:方法,実装,評価
• Abstract要約: 本稿では,クラスごとのスペクトルランクとアクティベーションクラスタリングフラグを組み合わせたスコアレベルの融合ルールを,単一サンプルごとの中毒スコアとモデルレベルの合意統計に貢献する。 公衆医用画像ベンチマークとCIFAR-10の合成毒性変異株に対するパイプラインの評価を行った。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine learning models are increasingly deployed in healthcare imaging pipelines for diagnostic support, and training-time attacks against them are a named sector-level concern: healthcare-sector guidance identifies model poisoning and adversarial attacks as threats requiring dedicated defenses, while federal policy directs expanded AI vulnerability-detection tooling to critical infrastructure operators such as rural hospitals. Spectral signature analysis and activation clustering are two established backdoor detection methods routinely evaluated as independent baselines, but their outputs are not ordinarily combined, and reported detection performance on medical imaging benchmarks remains sparse relative to the natural-image setting. This paper contributes three things: a score-level fusion rule combining per-class spectral ranking with activation-clustering flags into a single per-sample poisoning score and a model-level agreement statistic; an open-source implementation of the resulting eight-stage pipeline; and an evaluation of that pipeline against synthetically poisoned variants of a public medical imaging benchmark and CIFAR-10 at four poisoning rates (0%, 1%, 5%, 10%) over five seeds each, measuring each detector alone against the fusion. On the medical benchmark, the fused detector reaches AUROC >= 0.99 at every nonzero poisoning rate tested. On CIFAR-10, fusion does not uniformly help: at 10% poisoning, activation clustering's true-positive rate collapses to 0.000 and spectral AUROC independently degrades to near-chance (0.545), despite a 97.2% attack success rate confirming the backdoor was fully installed. The fused score, a weighted combination of both signals, inherits this joint failure. Detection output is expressed in NIST AI RMF Measure-function and MITRE ATLAS terms, so findings are reported in the vocabulary security and compliance teams already use.
• Abstract（参考訳）: 医療セクターガイダンスは、モデル中毒と敵対的攻撃を専用の防衛を必要とする脅威として特定し、連邦政府の政策は、AI脆弱性検出ツールを農村病院などの重要なインフラストラクチャーオペレータに拡張する。 スペクトルシグネチャ解析とアクティベーションクラスタリングは,通常,独立したベースラインとして評価される2つの確立されたバックドア検出手法である。 本論文は, クラスごとのスペクトルランキングとアクティベーションクラスタリングフラグを1つのサンプルごとの中毒スコアとモデルレベルの合意統計に組み合わせたスコアレベルの融合ルール, 結果の8段階パイプラインのオープンソース実装, および, 5種につき4種類の中毒率 (0%, 1%, 5%, 10%) で, そのパイプラインの評価を行った。 医療ベンチマークでは、融合検出器は試験された非ゼロの中毒率でAUROC >= 0.99に達する。 CIFAR-10では、10%の毒性でアクティベーションクラスタリングの真の陽性率は0.000に低下し、スペクトルAUROCは97.2%の攻撃成功率でバックドアが完全にインストールされたことを確認したにもかかわらず、独立して近距離(0.545)に低下する。 両信号の重み付けされた組み合わせである融合スコアは、この関節の故障を継承する。 検出出力はNIST AI RMF Measure-functionとMITRE ATLASで表現されており、すでに使用している語彙セキュリティおよびコンプライアンスチームで報告されている。

関連論文リスト

• When Modalities Fail to Tango: Conformal Backdoor Detection in Multimodal Contrastive Learning [22.47689018895596]
  マルチモーダルコントラスト学習(MCL)におけるバックドア攻撃は近年注目を集めている。 既存の検出ベースの防御は、主にCLIPScoreメトリックに依存している。 CSCADEは,2段階の連続型バックドア検出フレームワークである。
  論文  参考訳（メタデータ） (2026-08-04T10:20:41Z)
• Harnessing Disagreement: Detecting Correlated Agreement Blindness in Multi-Agent Triage [3.164789424470588]
  分散トリガー付きエスカレーションは、マルチエージェント仲裁において構造的な盲点を生み出すことができる。 本稿では,誘導性ランダムフォレスト (RF) エージェントと類似のケースベースk-アネレスト (k-NN) エージェントを組み合わせた指向性星系ARATを提案する。
  論文  参考訳（メタデータ） (2026-07-22T08:35:00Z)
• Multimodal Evaluator Preference Collapse: Cross-Modal Contagion in Self-Evolving Agents [1.0152838128195467]
  EPC(Evaluator Preference Collapse)はマルチモーダル環境で劇的に増幅されていることを示す。 次に、クロスモーダル感染と呼ばれる新しい現象を示す。 我々は、モデル間評価器アーキテクチャを優先ドリフトの主なリスク要因とみなす。
  論文  参考訳（メタデータ） (2026-06-15T13:18:20Z)
• A Controlled Audit of Pretraining Contamination in Public Medical Vision-Language Benchmarks [46.43161388634735]
  医用視覚言語モデル(VLM)は、画像と質問応答ペアが何年も無料でダウンロードされている公開ベンチマークで評価される。 SLAKE-En,PathVQA,VQA-RAD,および4つの検出器ファミリを用いたOmniMedVQAミラーのオープンVLMを検査した。
  論文  参考訳（メタデータ） (2026-06-08T18:40:10Z)
• SilentRetrieval: Hijacking Retrieval-Augmented Generation via Semantically-Preserving Adversarial Data Poisoning [1.0998907972211756]
  SilentRetrievalは2段階のデータ中毒攻撃で、RAGシステムを敵対的な文書でハイジャックする。 SilentRetrievalは84.6%/81.3% HR@10、57.5%/54.8% ASR-LLM on Natural QuestionsとMS MARCOを達成している。
  論文  参考訳（メタデータ） (2026-05-27T07:30:30Z)
• A Unified Framework for Joint Detection of Lacunes and Enlarged Perivascular Spaces [3.9313804276175506]
  脳小血管疾患(CSVD)マーカー,特にEPVSとlacunaeは,医用画像解析においてユニークな課題である。 本稿では,Zero-Gated CrossTask Attention が高密度EPVSコンテキストを利用してスパースラグーン検出を誘導する形態分離フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-03-04T16:30:46Z)
• A Multi-Agent Framework for Medical AI: Leveraging Fine-Tuned GPT, LLaMA, and DeepSeek R1 for Evidence-Based and Bias-Aware Clinical Query Processing [0.4349324020366305]
  大規模言語モデル(LLM)は、医療問題に対する回答を約束するが、臨床的使用は、弱い検証、不十分な証拠の根拠、信頼できない信頼のシグナルによって制限される。 本稿では,補完的なLCMとエビデンス検索,不確実性推定,バイアスチェックを組み合わせて回答信頼性を向上させるマルチエージェント医療QAフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-15T14:17:27Z)
• Transparent Early ICU Mortality Prediction with Clinical Transformer and Per-Case Modality Attribution [42.85462513661566]
  ICU滞在後48時間から, 生理的時系列測定と非構造的臨床記録とを融合した, 軽量で透明なマルチモーダルアンサンブルを提案する。 ロジスティック回帰モデルは、バイタル用双方向LSTMとノート用微調整された臨床ModernBERT変換器の2つのモード固有モデルからの予測を組み合わせる。 MIMIC-IIIベンチマークでは、遅延融合アンサンブルは、よく校正された予測を維持しながら、最高の単一モデルに対する差別を改善する。
  論文  参考訳（メタデータ） (2025-11-19T20:11:49Z)
• QSentry: Backdoor Detection for Quantum Neural Networks via Measurement Clustering [43.44248599606903]
  量子ニューラルネットワーク(QNN)は量子機械学習(QML)を実装する上で重要なモデルである 本研究は,QMLにおけるバックドア脅威を軽減するための実践的で効果的な枠組みを確立する。
  論文  参考訳（メタデータ） (2025-11-19T12:08:11Z)
• MeCaMIL: Causality-Aware Multiple Instance Learning for Fair and Interpretable Whole Slide Image Diagnosis [40.3028468133626]
  MIL(Multiple Case Learning)は、コンピュータ病理学における全スライド画像(WSI)解析の主流パラダイムとして登場した。 因果関係を意識したMILフレームワークである textbfMeCaMIL は、構造化因果グラフを通じて、階層的共同創設者を明示的にモデル化する。 MeCaMILは優れた公正性を達成する -- 人口格差の分散は、属性全体の平均で65%以上減少する。
  論文  参考訳（メタデータ） (2025-11-14T06:47:21Z)
• HistoART: Histopathology Artifact Detection and Reporting Tool [37.31105955164019]
  ワイルスライドイメージング(WSI)は、組織標本の詳細な高分解能検査のために広く用いられている。 WSIは、スライドの準備とスキャンの間に導入されたアーティファクトに弱いままです。 本稿では,WSIに対する3つのロバストなアーティファクト検出手法を提案し,比較する。
  論文  参考訳（メタデータ） (2025-06-23T17:22:19Z)
• Malicious Agent Detection for Robust Multi-Agent Collaborative Perception [52.261231738242266]
  多エージェント協調(MAC)知覚は、単エージェント認識よりも敵攻撃に対して脆弱である。 MAC知覚に特異的な反応防御であるMADE(Malicious Agent Detection)を提案する。 我々は、ベンチマーク3DデータセットV2X-simとリアルタイムデータセットDAIR-V2Xで包括的な評価を行う。
  論文  参考訳（メタデータ） (2023-10-18T11:36:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。