論文の概要: Explanation-Based Runtime Verification for Trustworthy ML-driven Optical Networks
- arxiv url: http://arxiv.org/abs/2607.20675v1
- Date: Wed, 22 Jul 2026 19:22:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-24 18:26:25.195993
- Title: Explanation-Based Runtime Verification for Trustworthy ML-driven Optical Networks
- Title（参考訳）: 信頼できるML駆動光ネットワークのための説明に基づく実行時検証
- Abstract要約: 本稿では、個々の機械学習決定の健全性を評価するために、説明に基づく実行時検証を導入する。
説明に基づく検証は、高い自動化率を維持しながら、誤判定のかなりの部分をインターセプトできることを示す。
- 参考スコア（独自算出の注目度）: 1.0849016186013645
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Machine learning (ML) models are increasingly integrated into optical network automation frameworks to support tasks such as failure management, performance monitoring and resource allocation. In these environments, ML-driven predictions may be directly coupled with control-plane actions where incorrect decisions can immediately impact service quality, resource efficiency, and network stability. As automation levels increase, ensuring the reliability of individual decisions at deployment time becomes a critical requirement. Explainable artificial intelligence (XAI) techniques have emerged to improve transparency by highlighting the factors influencing ML predictions. In addition to identifying influential features, they provide insights into the underlying reasoning process of the model, revealing how different input variables contribute to the final outcome and how feature interactions shape the decision boundary. In this work, we introduce explanation-based runtime verification, an approach that exploits model explanations to assess the soundness of individual ML decisions before they are executed in the network control loop. The proposed approach evaluates explanation coherence and physics grounding consistency at runtime, enabling the system to defer or reject decisions flagged as uncertain. We demonstrate the effectiveness of our approach on a representative use case of lightpath quality of transmission classification. Experimental results show that explanation-based verification can intercept a significant fraction of erroneous decisions while preserving high automation rate.
- Abstract（参考訳）: 機械学習(ML)モデルは、障害管理やパフォーマンス監視、リソース割り当てといったタスクをサポートするために、光ネットワーク自動化フレームワークにますます統合されている。
これらの環境では、ML駆動の予測は、誤った判断が直ちにサービス品質、リソース効率、ネットワーク安定性に影響を与えるコントロールプレーンアクションと直接結合される可能性がある。
自動化レベルが増加するにつれて、デプロイメント時の個々の決定の信頼性を保証することが、重要な要件になります。
説明可能な人工知能(XAI)技術は、ML予測に影響を与える要因を強調して透明性を向上させるために登場した。
影響力のある特徴の特定に加えて、モデルの基礎となる推論プロセスに関する洞察を提供し、異なる入力変数が最終的な結果にどのように貢献するか、そして機能相互作用が意思決定境界を形成するかを明らかにする。
本研究では,ニューラルネットワーク制御ループで実行される前に,モデル説明を利用して個々のML決定の健全性を評価する手法である,説明に基づく実行時検証を導入する。
提案手法は,実行時の一貫性を前提とした説明の一貫性と物理特性を評価し,不確実性を示す決定を延期あるいは拒否することを可能にする。
送信分類における光パス品質の代表的なユースケースに対する提案手法の有効性を実証する。
実験結果から、説明に基づく検証は、高い自動化率を維持しながら、誤判定のかなりの部分をインターセプトできることが示された。
関連論文リスト
- From Knowing to Acting: Benchmarking Self-Awareness Capability of LLM Agents [69.07911499189129]
エージェントのメタ認知判断(Knowing)を自発的実行(Acting)から切り離して認知行動アライメントを評価するフレームワークであるKAPROを紹介する。
実験の結果,自己認識能力はタスク成功と強く相関するが,内部能力設定では著しく低下することがわかった。
プロプライエタリで推論指向のモデルは、より信頼性の高い認知ゲーティングを示します。
論文 参考訳（メタデータ） (2026-06-09T17:17:08Z) - LiveFMBench: Unveiling the Power and Limits of Agentic Workflows in Specification Generation [75.05397479715576]
大規模言語モデル(LLM)とエージェントは有望な進歩を示しているが、その真の能力と失敗モードは未だ不明である。
CプログラムのためのLCMおよびエージェントベースの形式仕様生成に関する、最初の体系的および汚染に配慮した研究を提案する。
論文 参考訳（メタデータ） (2026-05-02T11:31:33Z) - An End-to-End Decision-Aware Multi-Scale Attention-Based Model for Explainable Autonomous Driving [0.6662501454516897]
本稿では,運転決定を推論コンポーネントに入力し,各意思決定に対してケース固有の説明を同時に提供するマルチスケール注意ベースモデルを提案する。
その結果,従来のモデルと最先端モデルに比較して,推論ネットワークの優位性が示された。
論文 参考訳（メタデータ） (2026-04-30T23:27:39Z) - Interpretable Hybrid Deep Q-Learning Framework for IoT-Based Food Spoilage Prediction with Synthetic Data Generation and Hardware Validation [0.5417521241272645]
インテリジェントでリアルタイムな腐敗予測システムの必要性は、現代のIoT駆動食品サプライチェーンにおいて重要になっている。
本稿では,Long Short-Term Memory(LSTM)とRecurrent Neural Networks(RNN)を統合したハイブリッド強化学習フレームワークを提案する。
論文 参考訳（メタデータ） (2025-12-22T12:59:48Z) - From Physics to Machine Learning and Back: Part II - Learning and Observational Bias in PHM [52.64097278841485]
物理インフォームドモデリングとデータストラテジーによる学習と観察バイアスの導入は、モデルを物理的に一貫した信頼性のある予測へと導くことができるかを検討する。
メタラーニングや少数ショットラーニングなどの高速適応手法をドメイン一般化手法とともに検討する。
論文 参考訳（メタデータ） (2025-09-25T14:15:43Z) - Explainable AI for UAV Mobility Management: A Deep Q-Network Approach for Handover Minimization [4.7430397428031785]
本稿では、さまざまな状態パラメータがハンドオーバ決定にどのように影響するかについて、より深い洞察を提供するための、説明可能なAI(XAI)フレームワークを紹介する。
参照信号受信電力(RSRP)などの重要な特徴の影響を定量化することにより、RLベースのハンドオーバソリューションの解釈可能性と信頼性を向上させる。
論文 参考訳（メタデータ） (2025-04-25T14:11:51Z) - Network Resource Optimization for ML-Based UAV Condition Monitoring with Vibration Analysis [54.550658461477106]
条件監視(CM)は機械学習(ML)モデルを使用して異常および異常な条件を識別する。
本研究では,MLベースのUAV CMフレームワークにおけるネットワークリソースの最適化について検討する。
次元削減技術を活用することで、ネットワークリソース消費の99.9%が削減される。
論文 参考訳（メタデータ） (2025-02-21T14:36:12Z) - Explanatory Model Monitoring to Understand the Effects of Feature Shifts on Performance [61.06245197347139]
そこで本研究では,機能シフトによるブラックボックスモデルの振る舞いを説明する新しい手法を提案する。
本稿では,最適輸送と共有値の概念を組み合わせた提案手法について,説明的性能推定として紹介する。
論文 参考訳（メタデータ） (2024-08-24T18:28:19Z) - The Misclassification Likelihood Matrix: Some Classes Are More Likely To Be Misclassified Than Others [1.654278807602897]
本研究では、分散シフト下でのニューラルネットワーク予測の信頼性を定量化するための新しいツールとして、MLM(Misclassification Likelihood Matrix)を紹介した。
この研究の意味は、画像の分類を超えて、自動運転車などの自動運転システムで進行中の応用に及んでいる。
論文 参考訳（メタデータ） (2024-07-10T16:43:14Z) - Tuning-Free Accountable Intervention for LLM Deployment -- A
Metacognitive Approach [55.613461060997004]
大規模言語モデル(LLM)は、自然言語処理タスクの幅広い領域にわたる変換的進歩を触媒している。
我々は,自己認識型誤り識別と訂正機能を備えたLLMを実現するために,textbfCLEARと呼ばれる革新的なテキストメタ認知手法を提案する。
論文 参考訳（メタデータ） (2024-03-08T19:18:53Z) - Active Inference on the Edge: A Design Study [5.815300670677979]
アクティブ推論(アクティブ推論、英: Active Inference、ACI)とは、脳が知覚情報を常に予測し評価し、長期的サプライズを減らす方法を記述する神経科学の概念である。
我々は,ACIエージェントが要求を満たすことなく,最適化問題を迅速かつ追跡的に解決できたことを示す。
論文 参考訳（メタデータ） (2023-11-17T16:03:04Z) - Machine Learning for QoS Prediction in Vehicular Communication:
Challenges and Solution Approaches [46.52224306624461]
最大スループット予測の強化,例えばストリーミングや高精細マッピングアプリケーションについて検討する。
収集したデータの基盤となる特性をよりよく理解することで、マシンラーニング技術上に信頼性を構築することができるかを強調します。
我々は、説明可能なAIを使用して、機械学習が明示的にプログラムされることなく、無線ネットワークの基本原理を学習できることを示す。
論文 参考訳（メタデータ） (2023-02-23T12:29:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。