論文の概要: CONFIDERAI: a novel CONFormal Interpretable-by-Design score function for Explainable and Reliable Artificial Intelligence

• arxiv url: http://arxiv.org/abs/2309.01778v3
• Date: Wed, 5 Jun 2024 09:19:37 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-07 04:16:10.078351
• Title: CONFIDERAI: a novel CONFormal Interpretable-by-Design score function for Explainable and Reliable Artificial Intelligence
• Title（参考訳）: CONFIDERAI: 説明可能で信頼性の高い人工知能のための新しいコンフォーマル・インタプリタブル・バイ・デザインスコア関数
• Authors: Sara Narteni, Alberto Carlevaro, Fabrizio Dabbene, Marco Muselli, Maurizio Mongelli,
• Abstract要約: 本稿では,共形予測と説明可能な機械学習を結びつける手法を提案する。 全体的な方法論は、実世界の関心のあるいくつかのデータセットで有望な結果で検証される。
• 参考スコア（独自算出の注目度）: 2.1271071952389042
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Everyday life is increasingly influenced by artificial intelligence, and there is no question that machine learning algorithms must be designed to be reliable and trustworthy for everyone. Specifically, computer scientists consider an artificial intelligence system safe and trustworthy if it fulfills five pillars: explainability, robustness, transparency, fairness, and privacy. In addition to these five, we propose a sixth fundamental aspect: conformity, that is, the probabilistic assurance that the system will behave as the machine learner expects. In this paper, we present a methodology to link conformal prediction with explainable machine learning by defining a new score function for rule-based classifiers that leverages rules predictive ability, the geometrical position of points within rules boundaries and the overlaps among rules as well, thanks to the definition of a geometrical rule similarity term. Furthermore, we address the problem of defining regions in the feature space where conformal guarantees are satisfied, by exploiting the definition of conformal critical set and showing how this set can be used to achieve new rules with improved performance on the target class. The overall methodology is tested with promising results on several datasets of real-world interest, such as domain name server tunneling detection or cardiovascular disease prediction.
• Abstract（参考訳）: 日々の生活は人工知能の影響をますます受けており、機械学習アルゴリズムが誰にとっても信頼性と信頼性を持つように設計されていることに疑いの余地はない。 具体的には、コンピュータ科学者は、人工知能システムが説明可能性、堅牢性、透明性、公正性、プライバシーの5つの柱を満たす場合、安全で信頼性の高いシステムだと考えている。 これら5つに加えて,機械学習者が期待するようにシステムが振る舞う確率的保証という6つの基本的側面を提案する。 本稿では,ルールの予測能力,ルール境界内の点の幾何学的位置,および規則間の重なり合いを利用したルールベース分類器の新しいスコア関数を,幾何学的規則類似項の定義により定義することにより,共形予測と説明可能な機械学習を関連付ける手法を提案する。 さらに, 整合性保証を満たす特徴空間内の領域定義の問題に対処し, 整合性臨界集合の定義を利用して, 対象クラスの性能を改善した新しいルールを実現する方法を示す。 全体的な方法論は、ドメイン名サーバのトンネリング検出や心臓血管疾患の予測など、現実の関心のあるいくつかのデータセットで有望な結果でテストされている。

関連論文リスト

• CON-FOLD -- Explainable Machine Learning with Confidence [0.18416014644193066]
  FOLD-RMは、説明可能な機械学習分類アルゴリズムである。 FOLD-RMを拡張したCON-FOLDを提案する。 本稿では、FOLD-RMルールのユニークな構造を用いて、ルールを効率よくプーンし、過度な適合を防ぐ信頼性ベースのプルーニングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-08-14T23:45:21Z)
• Conformal Predictions for Probabilistically Robust Scalable Machine Learning Classification [1.757077789361314]
  コンフォーマルな予測により、信頼性と堅牢な学習アルゴリズムを定義することができる。 基本的には、アルゴリズムが実際に使われるのに十分であるかどうかを評価する方法である。 本稿では,設計当初から信頼性の高い分類学習フレームワークを定義した。
  論文  参考訳（メタデータ） (2024-03-15T14:59:24Z)
• Mathematical Algorithm Design for Deep Learning under Societal and Judicial Constraints: The Algorithmic Transparency Requirement [65.26723285209853]
  計算モデルにおける透過的な実装が実現可能かどうかを分析するための枠組みを導出する。 以上の結果から,Blum-Shub-Smale Machinesは,逆問題に対する信頼性の高い解法を確立できる可能性が示唆された。
  論文  参考訳（メタデータ） (2024-01-18T15:32:38Z)
• Conformal Policy Learning for Sensorimotor Control Under Distribution Shifts [61.929388479847525]
  本稿では,センサコントローラの観測値の分布変化を検知・応答する問題に焦点をあてる。 鍵となる考え方は、整合量子を入力として取ることができるスイッチングポリシーの設計である。 本稿では, 基本方針を異なる特性で切り替えるために, 共形量子関数を用いてこのようなポリシーを設計する方法を示す。
  論文  参考訳（メタデータ） (2023-11-02T17:59:30Z)
• Calibrating AI Models for Wireless Communications via Conformal Prediction [55.47458839587949]
  コンフォーマル予測は,通信システムにおけるAIの設計に初めて適用される。 本稿では,形式的校正保証付き決定を生成するAIモデルを得るための一般フレームワークとしての共形予測の適用について検討する。
  論文  参考訳（メタデータ） (2022-12-15T12:52:23Z)
• Neuro-Symbolic Artificial Intelligence (AI) for Intent based Semantic Communication [85.06664206117088]
  6Gネットワークはデータ転送のセマンティクスと有効性(エンドユーザ)を考慮する必要がある。 観測データの背後にある因果構造を学習するための柱としてNeSy AIが提案されている。 GFlowNetは、無線システムにおいて初めて活用され、データを生成する確率構造を学ぶ。
  論文  参考訳（メタデータ） (2022-05-22T07:11:57Z)
• Multi-Agent Reinforcement Learning with Temporal Logic Specifications [65.79056365594654]
  本研究では,時間論理仕様を満たすための学習課題を,未知の環境下でエージェントのグループで検討する。 我々は、時間論理仕様のための最初のマルチエージェント強化学習手法を開発した。 主アルゴリズムの正確性と収束性を保証する。
  論文  参考訳（メタデータ） (2021-02-01T01:13:03Z)
• Trustworthy AI [75.99046162669997]
  入力データの小さな敵対的変化への脆さ、決定の説明能力、トレーニングデータのバイアスに対処する能力は、最も顕著な制限である。 我々は,AIシステムに対するユーザおよび公的な信頼を高める上での6つの重要な問題に対処するために,信頼に値するAIに関するチュートリアルを提案する。
  論文  参考訳（メタデータ） (2020-11-02T20:04:18Z)
• Scalable Uncertainty for Computer Vision with Functional Variational Inference [18.492485304537134]
  関数空間における変分推論の定式化を利用する。 選択したCNNアーキテクチャを1つのフォワードパスのコストで予測不確実性を推定する。 本研究では,高次元タスクの文脈で高速な学習を可能にする数値的アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-03-06T19:09:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。