Fugu-MT 論文翻訳(概要): SeFaR: Semantic Feature-aware Robustness Testing of Deep Neural Networks

論文の概要: SeFaR: Semantic Feature-aware Robustness Testing of Deep Neural Networks

arxiv url: http://arxiv.org/abs/2608.10289v1
Date: Mon, 10 Aug 2026 22:50:17 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-12 19:14:45.833736
Title: SeFaR: Semantic Feature-aware Robustness Testing of Deep Neural Networks
Title（参考訳）: SeFaR: ディープニューラルネットワークのセマンティックな特徴認識ロバストネステスト
Abstract要約: SeFaRは、視覚モデルのセマンティック機能中心のテストのためのフレームワークである。最先端拡散と視覚言語モデルを利用して意味保存摂動を生成する。フィードバック駆動適応プロセスを用いて、解釈可能な障害誘発セマンティック概念を生成する。
参考スコア（独自算出の注目度）: 0.6614755043607775
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Deep neural networks are increasingly deployed in safety-critical domains as perception modules, where failures are often caused due to rare and under-represented scenarios. This necessitates the need to evaluate the semantic robustness of perception models; conformance of behavior to high-level requirements over real-world perceptual variability. To address this, we propose SeFaR, a framework for systematic semantic-feature-centric testing of vision models. Given a natural-language requirement and a set of satisfying inputs, SeFaR evaluates robustness with respect to diverse realistic semantic variations that preserve requirement satisfaction. The approach employs a novel hierarchical concept model enabling structured exploration of the feature space and incorporation of domain knowledge via user-defined concepts. State-of-the-art diffusion and vision-language models are leveraged to generate photorealistic semantics-preserving perturbations and identification of previously unknown features impacting behavior. A feedback-driven adaptive process is adopted to generate interpretable failure-inducing semantic concepts along with corresponding test inputs. Evaluation on case studies demonstrates that the proposed framework effectively satisfies requirement preconditions while identifying requirement-independent features that influence model decisions, enabling it to both uncover faults and relate them to such features.
Abstract（参考訳）: ディープニューラルネットワークは、稀で表現不足のシナリオによってしばしば障害が発生する知覚モジュールとして、安全クリティカルなドメインにデプロイされることが増えている。これにより、知覚モデルのセマンティックロバスト性、実際の知覚変数に対する高レベルの要求に対する行動の適合性を評価する必要がある。そこで本研究では,視覚モデルのセマンティックなセマンティックな特徴中心テストのためのフレームワークであるSeFaRを提案する。自然言語の要件と満足度を満たす入力セットを与えられたSeFaRは、要求満足度を保存する多様な現実的な意味的バリエーションに関して頑健さを評価する。このアプローチでは、特徴空間の構造的な探索と、ユーザ定義の概念によるドメイン知識の取り込みを可能にする、新しい階層的概念モデルを採用している。現状の拡散と視覚言語モデルを利用して、フォトリアリスティックなセマンティックスを生成する。フィードバック駆動適応プロセスを採用し、対応するテスト入力とともに解釈可能な障害誘発セマンティック概念を生成する。ケーススタディの評価は、モデル決定に影響を与える要求に依存しない特徴を特定しながら、要求前提条件を効果的に満たし、欠陥を解明し、それらとそれらの特徴を関連付けることを実証している。

関連論文リスト

Behaviorally Adaptive Visual Diversion for Inclusive and Resilient Digital Assessment Delivery [0.0]
本稿では、合成非意味的視野を評価内容と合成する理論的枠組みである行動適応型視覚変換(BAVD)を紹介する。 BAVDにはアクセシビリティを意識したメカニズムが組み込まれており、承認された視覚処理施設を持つ候補者のディバージョン強度を減少または抑制する。
論文参考訳（メタデータ） (2026-08-04T12:13:25Z)
Decomposing and Steering Functional Metacognition in Large Language Models [7.62618887128252]
大規模言語モデルは機能的メタ認知状態の分解可能な空間を維持していることを示す。これらの状態は、内部の活性化から線形に退避可能であり、異なる層回りのプロファイルを示す。この結果から,ベンチマーク性能はタスク能力だけでなく,特定の機能的メタ認知状態の活性化を反映していることが示唆された。
論文参考訳（メタデータ） (2026-05-09T13:22:47Z)
On the Decompositionality of Neural Networks [5.540814471808276]
ニューラルアーキテクチャに対する意味保存抽象化として定義された形式的概念であるニューラル分解性を導入する。我々の重要な洞察は、分解性はモデルの決定境界に沿った意味的行動の保存によって特徴づけられるべきであるということである。提案した定義を運用する境界対応フレームワーク SAVED を開発した。
論文参考訳（メタデータ） (2026-04-09T06:32:24Z)
CogRail: Benchmarking VLMs in Cognitive Intrusion Perception for Intelligent Railway Transportation Systems [29.385460126069386]
我々は、キュレートされたデータセットと認知駆動型質問応答アノテーションを統合した新しいベンチマーク、CogRailを紹介した。このベンチマークに基づいて、我々は最先端のビジュアル言語モデルの体系的な評価を行う。本稿では,3つの中核的タスク,位置知覚,移動予測,脅威分析を統合したファインチューニングフレームワークを提案する。
論文参考訳（メタデータ） (2026-01-14T16:36:26Z)
DeceptionBench: A Comprehensive Benchmark for AI Deception Behaviors in Real-world Scenarios [57.327907850766785]
現実的な現実のシナリオにまたがる騙しのキャラクタリゼーションは未解明のままである。 DeceptionBenchは、さまざまなドメインにまたがる認知傾向を体系的に評価する最初のベンチマークです。本研究は,本質的な側面から,ユーザ満足度を優先する自己関心のエゴスティックな傾向を示すモデルや,サイコファンティックな行動を示すモデルについて検討する。実世界のフィードバックダイナミクスのより現実的なシミュレーションを構築するために,持続的マルチターン相互作用ループを組み込んだ。
論文参考訳（メタデータ） (2025-10-17T10:14:26Z)
Neural Network Reprogrammability: A Unified Theme on Model Reprogramming, Prompt Tuning, and Prompt Instruction [57.19302613163439]
モデル適応のための統一フレームワークとして,ニューラルネットワークの再プログラム可能性を導入する。本稿では,4つの重要な側面にまたがる情報操作アプローチを分類する分類法を提案する。残る技術的課題や倫理的考察も分析する。
論文参考訳（メタデータ） (2025-06-05T05:42:27Z)
On the Fairness, Diversity and Reliability of Text-to-Image Generative Models [68.62012304574012]
マルチモーダル生成モデルは信頼性公正性誤用の可能性について批判的な議論を巻き起こしました埋め込み空間におけるグローバルおよびローカルな摂動に対する応答を解析し、モデルの信頼性を評価するための評価フレームワークを提案する。提案手法は, 信頼できない, バイアス注入されたモデルを検出し, 組込みバイアスの証明をトレースするための基礎となる。
論文参考訳（メタデータ） (2024-11-21T09:46:55Z)
Unsupervised Model Diagnosis [49.36194740479798]
本稿では,ユーザガイドを使わずに,意味論的対実的説明を生成するために,Unsupervised Model Diagnosis (UMO)を提案する。提案手法は意味論における変化を特定し可視化し,その変化を広範囲なテキストソースの属性と照合する。
論文参考訳（メタデータ） (2024-10-08T17:59:03Z)
Robustness in Deep Learning for Computer Vision: Mind the gap? [13.576376492050185]
我々は、コンピュータビジョンのためのディープラーニングにおいて、現在の定義と非敵対的堅牢性に向けての進歩を特定し、分析し、要約する。この研究の分野は、敵対的機械学習に対して、不当にあまり注目されていないことがわかりました。
論文参考訳（メタデータ） (2021-12-01T16:42:38Z)
Generative Counterfactuals for Neural Networks via Attribute-Informed Perturbation [51.29486247405601]
AIP(Attribute-Informed Perturbation)の提案により,生データインスタンスの反事実を生成するフレームワークを設計する。異なる属性を条件とした生成モデルを利用することで、所望のラベルとの反事実を効果的かつ効率的に得ることができる。実世界のテキストや画像に対する実験結果から, 設計したフレームワークの有効性, サンプル品質, および効率が示された。
論文参考訳（メタデータ） (2021-01-18T08:37:13Z)
A general framework for defining and optimizing robustness [74.67016173858497]
分類器の様々な種類の堅牢性を定義するための厳密でフレキシブルなフレームワークを提案する。我々の概念は、分類器の堅牢性は正確性とは無関係な性質と考えるべきであるという仮定に基づいている。我々は,任意の分類モデルに適用可能な,非常に一般的なロバスト性フレームワークを開発する。
論文参考訳（メタデータ） (2020-06-19T13:24:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。