論文の概要: Explainable AI-Based Interface System for Weather Forecasting Model

• arxiv url: http://arxiv.org/abs/2504.00795v1
• Date: Tue, 01 Apr 2025 13:52:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-03 13:19:56.122875
• Title: Explainable AI-Based Interface System for Weather Forecasting Model
• Title（参考訳）: 天気予報モデルのための説明可能なAIベースインタフェースシステム
• Authors: Soyeon Kim, Junho Choi, Yeji Choi, Subeen Lee, Artyom Stitsyuk, Minkyoung Park, Seongyeop Jeong, Youhyun Baek, Jaesik Choi,
• Abstract要約: 本研究では,気象学におけるブラックボックスモデルの説明の要件を3つ定義する。 適切なXAI法を各要件にマッピングし、生成した説明を定量的に定性的に検証する。 以上の結果から, 意思決定性やユーザ信頼度の向上が示唆された。
• 参考スコア（独自算出の注目度）: 21.801445160287532
• License:
• Abstract: Machine learning (ML) is becoming increasingly popular in meteorological decision-making. Although the literature on explainable artificial intelligence (XAI) is growing steadily, user-centered XAI studies have not extend to this domain yet. This study defines three requirements for explanations of black-box models in meteorology through user studies: statistical model performance for different rainfall scenarios to identify model bias, model reasoning, and the confidence of model outputs. Appropriate XAI methods are mapped to each requirement, and the generated explanations are tested quantitatively and qualitatively. An XAI interface system is designed based on user feedback. The results indicate that the explanations increase decision utility and user trust. Users prefer intuitive explanations over those based on XAI algorithms even for potentially easy-to-recognize examples. These findings can provide evidence for future research on user-centered XAI algorithms, as well as a basis to improve the usability of AI systems in practice.
• Abstract（参考訳）: 機械学習(ML)は、気象学的意思決定においてますます人気が高まっている。 説明可能な人工知能(XAI)に関する文献は着実に増えているが、ユーザ中心のXAI研究はこの領域にはまだ及ばない。 本研究は,気象学におけるブラックボックスモデルの説明のために,降雨シナリオの統計モデル性能,モデル推論,モデル出力の信頼性の3つの要件を定義した。 適切なXAI法を各要件にマッピングし、生成した説明を定量的に定性的に検証する。 XAIインタフェースシステムはユーザからのフィードバックに基づいて設計されている。 以上の結果から, 意思決定性やユーザ信頼度の向上が示唆された。 ユーザは、XAIアルゴリズムに基づくものよりも直感的な説明を好む。 これらの発見は、ユーザ中心のXAIアルゴリズムに関する将来の研究の証拠を提供するとともに、実際にAIシステムのユーザビリティを向上させる基盤を提供する。

関連論文リスト

• IMPACTX: Improving Model Performance by Appropriately predicting CorrecT eXplanations [0.0]
  IMPACTXは、完全に自動化された注意機構としてXAIを活用する新しいアプローチである。 外部XAIメソッドに頼ることなく、モデルの判断に適切な機能属性マップを提供する。
  論文  参考訳（メタデータ） (2025-02-17T14:15:20Z)
• Explainable AI for Enhancing Efficiency of DL-based Channel Estimation [1.0136215038345013]
  人工知能に基づく意思決定のサポートは、将来の6Gネットワークの重要な要素である。 このようなアプリケーションでは、ブラックボックスモデルとしてAIを使用するのは危険で難しい。 本稿では,無線通信におけるチャネル推定を目的とした新しいXAI-CHESTフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-07-09T16:24:21Z)
• Towards an end-to-end artificial intelligence driven global weather forecasting system [57.5191940978886]
  我々は,地球規模の気象変動に対するAIに基づくデータ同化モデル,すなわちAdasを提案する。 我々は,アダスが地球観測を同化して高品質な分析を行い,長期にわたって安定して運用できることを実証した。 この手法を現実のシナリオに適用するのは,私たちが初めてです。
  論文  参考訳（メタデータ） (2023-12-18T09:05:28Z)
• Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
  機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。 驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。 以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
  論文  参考訳（メタデータ） (2023-12-10T23:13:23Z)
• Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
  2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。 そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-06-14T23:24:01Z)
• Strategies to exploit XAI to improve classification systems [0.0]
  XAIは、AIモデルの意思決定プロセスに関する洞察を提供することを目的としている。 ほとんどのXAI文献は、AIシステムを説明する方法に焦点を当てているが、AIシステムを改善するためにXAIメソッドをどのように活用するかについては、あまり注目されていない。
  論文  参考訳（メタデータ） (2023-06-09T10:38:26Z)
• Characterizing the contribution of dependent features in XAI methods [6.990173577370281]
  本稿では,XAI特徴量ランキング法の結果を,予測者間の依存性を考慮に入れたプロキシを提案する。 提案手法はモデルに依存しないという利点があり、コリニアリティが存在する場合のモデルにおける各予測器の影響を計算するのが簡単である。
  論文  参考訳（メタデータ） (2023-04-04T11:25:57Z)
• Optimizing Explanations by Network Canonization and Hyperparameter Search [74.76732413972005]
  ルールベースで修正されたバックプロパゲーションXAIアプローチは、モダンなモデルアーキテクチャに適用される場合、しばしば課題に直面します。 モデルカノン化は、基礎となる機能を変更することなく問題のあるコンポーネントを無視してモデルを再構成するプロセスである。 本研究では、一般的なディープニューラルネットワークアーキテクチャに適用可能な、現在関連するモデルブロックのカノン化を提案する。
  論文  参考訳（メタデータ） (2022-11-30T17:17:55Z)
• Towards Human Cognition Level-based Experiment Design for Counterfactual Explanations (XAI) [68.8204255655161]
  XAI研究の重点は、より理解を深めるために、より実践的な説明アプローチに変わったようだ。 認知科学研究がXAIの進歩に大きく影響を与える可能性のある領域は、ユーザの知識とフィードバックを評価することである。 本研究では,異なる認知レベルの理解に基づく説明の生成と評価を実験する枠組みを提案する。
  論文  参考訳（メタデータ） (2022-10-31T19:20:22Z)
• Explanation-by-Example Based on Item Response Theory [0.0]
  本研究は, 項目応答理論(IRT)を, モデルを説明し, 説明による信頼性のレベルを測定するためのツールとして検討する。 テストセットからすると、83.8%のエラーはIRTがモデルを信頼できないと指摘しているインスタンスからのものである。
  論文  参考訳（メタデータ） (2022-10-04T14:36:33Z)
• Beyond Explaining: Opportunities and Challenges of XAI-Based Model Improvement [75.00655434905417]
  説明可能な人工知能(XAI)は、高度に複雑な機械学習(ML)モデルに透明性をもたらす新たな研究分野である。 本稿では,機械学習モデルの諸特性を改善するために,XAIを実用的に応用する手法を概観する。 実験では,モデル一般化能力や推論などの特性を改善する上で,説明がどのように役立つのかを,おもちゃと現実的な設定で実証的に示す。
  論文  参考訳（メタデータ） (2022-03-15T15:44:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。