論文の概要: SETA: Statistical Fault Attribution for Compound AI Systems

• arxiv url: http://arxiv.org/abs/2601.19337v1
• Date: Tue, 27 Jan 2026 08:21:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-28 15:26:51.246066
• Title: SETA: Statistical Fault Attribution for Compound AI Systems
• Title（参考訳）: SETA:複合AIシステムにおける統計的故障属性
• Authors: Sayak Chowdhury, Meenakshi D'Souza,
• Abstract要約: 堅牢性と安全性のためにAIシステムをテストするには、大きな課題が伴う。 テストデータに所定の摂動を適用するモジュール型ロバストネステストフレームワークを提案する。 この枠組みを,複数の深層ネットワークからなる実世界の鉄道検査システムに適用する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Modern AI systems increasingly comprise multiple interconnected neural networks to tackle complex inference tasks. Testing such systems for robustness and safety entails significant challenges. Current state-of-the-art robustness testing techniques, whether black-box or white-box, have been proposed and implemented for single-network models and do not scale well to multi-network pipelines. We propose a modular robustness testing framework that applies a given set of perturbations to test data. Our testing framework supports (1) a component-wise system analysis to isolate errors and (2) reasoning about error propagation across the neural network modules. The testing framework is architecture and modality agnostic and can be applied across domains. We apply the framework to a real-world autonomous rail inspection system composed of multiple deep networks and successfully demonstrate how our approach enables fine-grained robustness analysis beyond conventional end-to-end metrics.
• Abstract（参考訳）: 現代のAIシステムは、複雑な推論タスクに取り組むために、複数の相互接続されたニューラルネットワークで構成されている。 このようなシステムの堅牢性と安全性をテストするには,大きな課題が伴う。 ブラックボックスでもホワイトボックスでも、現在の最先端のロバストネステスト技術はシングルネットワークモデルのために提案され、実装されており、マルチネットワークパイプラインには適していない。 テストデータに所定の摂動を適用するモジュール型ロバストネステストフレームワークを提案する。 テストフレームワークは(1)エラーを分離するためのコンポーネントワイズシステム分析をサポートし、(2)ニューラルネットワークモジュール間のエラー伝搬を推論する。 テストフレームワークはアーキテクチャとモダリティ非依存であり、ドメインにまたがって適用することができる。 この枠組みを,複数の深層ネットワークからなる実世界の鉄道検査システムに適用し,従来のエンドツーエンドの指標を超えるきめ細かいロバスト性解析を実現する方法の実証に成功した。

関連論文リスト

• Demystifying deep search: a holistic evaluation with hint-free multi-hop questions and factorised metrics [89.1999907891494]
  We present WebDetective, a benchmark of hint-free multi-hop questions with a control Wikipedia sandbox。 25の最先端モデルに対する我々の評価は、すべてのアーキテクチャにまたがる体系的な弱点を明らかにしている。 私たちはエージェントワークフローであるEvidenceLoopを開発し、ベンチマークが特定する課題を明示的にターゲットしています。
  論文  参考訳（メタデータ） (2025-10-01T07:59:03Z)
• Distributionally Robust Statistical Verification with Imprecise Neural Networks [3.9456691693452552]
  AI安全性における特に困難な問題は、高次元自律システムの振る舞いを保証することだ。 本稿では,確率の概念を用いた不確実性定量化に基づく新しい手法を提案する。 提案手法は高次元システムに対して有用かつスケーラブルな保証を提供できることを示す。
  論文  参考訳（メタデータ） (2023-08-28T18:06:24Z)
• MMRNet: Improving Reliability for Multimodal Object Detection and Segmentation for Bin Picking via Multimodal Redundancy [68.7563053122698]
  マルチモーダル冗長性(MMRNet)を用いた信頼度の高いオブジェクト検出・分割システムを提案する。 これは、マルチモーダル冗長の概念を導入し、デプロイ中のセンサ障害問題に対処する最初のシステムである。 システム全体の出力信頼性と不確実性を測定するために,すべてのモダリティからの出力を利用する新しいラベルフリーマルチモーダル整合性(MC)スコアを提案する。
  論文  参考訳（メタデータ） (2022-10-19T19:15:07Z)
• Anomaly Detection on Attributed Networks via Contrastive Self-Supervised Learning [50.24174211654775]
  本論文では,アトリビュートネットワーク上の異常検出のためのコントラスト型自己監視学習フレームワークを提案する。 このフレームワークは、新しいタイプのコントラストインスタンスペアをサンプリングすることで、ネットワークデータからのローカル情報を完全に活用します。 高次元特性と局所構造から情報埋め込みを学習するグラフニューラルネットワークに基づくコントラスト学習モデルを提案する。
  論文  参考訳（メタデータ） (2021-02-27T03:17:20Z)
• Increasing the Confidence of Deep Neural Networks by Coverage Analysis [71.57324258813674]
  本稿では、異なる安全でない入力に対してモデルを強化するために、カバレッジパラダイムに基づく軽量な監視アーキテクチャを提案する。 実験結果から,提案手法は強力な対向例とアウト・オブ・ディストリビューション・インプットの両方を検出するのに有効であることが示唆された。
  論文  参考訳（メタデータ） (2021-01-28T16:38:26Z)
• Deep Learning-Based Intrusion Detection System for Advanced Metering Infrastructure [0.0]
  スマートグリッドはさまざまな脅威に晒され、サイバー攻撃に変換される可能性がある。 本稿では,サイバー攻撃防止のためのディープラーニングによる侵入検知システムの開発を行う。
  論文  参考訳（メタデータ） (2019-12-31T21:06:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。