論文の概要: Towards interpretable AI with quantum annealing feature selection

• arxiv url: http://arxiv.org/abs/2604.25649v1
• Date: Tue, 28 Apr 2026 13:47:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-29 16:49:17.883526
• Title: Towards interpretable AI with quantum annealing feature selection
• Title（参考訳）: 量子アニール特徴選択による解釈可能なAIの実現に向けて
• Authors: Francesco Aldo Venturelli, Emanuele Costa, Sikha O K, Bruno Juliá-Díaz, Miguel A. González Ballester, Alba Cervera-Lierta,
• Abstract要約: モデルがどのようにして、なぜ予測を生成するのかを理解することが不可欠である。 この理解は、モデルが正しいパターンを学習しているかどうかを確認し、データのバイアスを検出し、モデル設計を改善し、信頼できるシステムを構築するのに有用な情報を提供する。 本研究では,画像分類タスクにおける畳み込みニューラルネットワークの解釈手法を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep learning models are used in critical applications, in which mistakes can have serious consequences. Therefore, it is crucial to understand how and why models generate predictions. This understanding provides useful information to check whether the model is learning the right patterns, detect biases in the data, improve model design, and build systems that can be trusted. This work proposes a new method for interpreting Convolutional Neural Networks in image classification tasks. The approach works by selecting the most important feature maps that contribute to each prediction. To solve this combinatorial problem, we encode it into a quantum constrained optimization problem and propose to solve it using quantum annealing. We evaluate our method against the state-of-the-art explainable AI techniques, specifically GradCAM and GradCAM++, and observe an improved class disentanglement, i.e. the model's decision boundaries become more distinct and its reasoning more transparent. This demonstrates that our approach enhances the quality of explanations, making it easier to understand which features the model relies on for specific predictions. In addition, we study the computational behavior of the quantum annealing algorithm. Specifically, we analyze the minimum energy gap of the system during computation and the probability that the algorithm finds the correct solution. These analyses provide theoretical insight into why the method works effectively in practice.
• Abstract（参考訳）: ディープラーニングモデルは、重大なアプリケーションで使われ、ミスが深刻な結果をもたらす可能性がある。 したがって、モデルがどのようにして、なぜ予測を生成するのかを理解することが不可欠である。 この理解は、モデルが正しいパターンを学習しているかどうかを確認し、データのバイアスを検出し、モデル設計を改善し、信頼できるシステムを構築するのに有用な情報を提供する。 本研究では,画像分類タスクにおける畳み込みニューラルネットワークの解釈手法を提案する。 このアプローチは、各予測に寄与する最も重要な機能マップを選択することで機能する。 この組合せ問題を解くために、量子制約最適化問題に符号化し、量子アニールを用いて解くことを提案する。 我々は、最先端のAI技術、特にGradCAMとGradCAM++に対して、我々の手法を評価し、改良されたクラスアンタングル、すなわちモデルの判断境界がより明確になり、その推論がより透明になるのを観察する。 このことは、我々のアプローチが説明の質を高めることを示し、モデルが特定の予測に依存している特徴を容易に理解できるようにする。 さらに,量子アニールアルゴリズムの計算挙動について検討した。 具体的には、計算中のシステムの最小エネルギーギャップと、アルゴリズムが正しい解を見つける確率を解析する。 これらの分析は、この方法が実際に効果的に機能する理由に関する理論的洞察を与える。

関連論文リスト

• On Discriminative Probabilistic Modeling for Self-Supervised Representation Learning [85.75164588939185]
  本研究では,(マルチモーダル)自己教師型表現学習のデータ予測タスクにおいて,連続領域における識別確率モデルについて検討する。 我々は、自己教師付き表現学習における現在のInfoNCEに基づくコントラスト損失の制限を明らかにするために一般化誤差解析を行う。 MISが要求する条件付き確率密度の和を近似する新しい非パラメトリック手法を提案する。
  論文  参考訳（メタデータ） (2024-10-11T18:02:46Z)
• Solving a class of stochastic optimal control problems by physics-informed neural networks [0.0]
  本研究の目的は,ハミルトン・ヤコビ・ベルマン方程式と物理インフォームドラーニングに基づく高次元制御問題の解法を開発することである。 本稿では,複数の出力を持つ分離ニューラルネットワークを用いて,フィードバック制御と値関数のパラメータ化を行う。
  論文  参考訳（メタデータ） (2024-02-23T20:19:06Z)
• Explaining and visualizing black-box models through counterfactual paths [5.930734371401315]
  本稿では,特徴の条件付き置換によって生成された,いわゆる反現実パスを用いた説明可能なAI(XAI)の新たなアプローチを提案する。 このアルゴリズムは、モデル予測における最も影響の大きい特徴の逐次的な置換を特定することで、重要度を測定する。 ドメイン知識を取り入れた知識グラフにおいて、反実的パスに基づく説明を生成するのに特に適している。
  論文  参考訳（メタデータ） (2023-07-15T10:16:51Z)
• Learning with Explanation Constraints [91.23736536228485]
  我々は、説明がモデルの学習をどのように改善するかを分析するための学習理論フレームワークを提供する。 我々は,多数の合成および実世界の実験に対して,我々のアプローチの利点を実証する。
  論文  参考訳（メタデータ） (2023-03-25T15:06:47Z)
• Neural Improvement Heuristics for Graph Combinatorial Optimization Problems [49.85111302670361]
  本稿では,ノード,エッジ,あるいはその両方に情報をエンコードするグラフベースの問題を扱う新しいニューラル改善(NI)モデルを提案する。 提案モデルは,各地区の操作の選択を誘導する丘登頂に基づくアルゴリズムの基本的な構成要素として機能する。
  論文  参考訳（メタデータ） (2022-06-01T10:35:29Z)
• Hessian-based toolbox for reliable and interpretable machine learning in physics [58.720142291102135]
  本稿では,モデルアーキテクチャの解釈可能性と信頼性,外挿を行うためのツールボックスを提案する。 与えられたテストポイントでの予測に対する入力データの影響、モデル予測の不確実性の推定、およびモデル予測の不可知スコアを提供する。 我々の研究は、物理学やより一般的には科学に適用されたMLにおける解釈可能性と信頼性の方法の体系的利用への道を開く。
  論文  参考訳（メタデータ） (2021-08-04T16:32:59Z)
• Model-agnostic interpretation by visualization of feature perturbations [0.0]
  粒子群最適化アルゴリズムによって誘導される特徴の摂動を可視化し,モデルに依存しない解釈手法を提案する。 我々は,公開データセットに対して質的かつ定量的にアプローチを検証する。
  論文  参考訳（メタデータ） (2021-01-26T00:53:29Z)
• Learning outside the Black-Box: The pursuit of interpretable models [78.32475359554395]
  本稿では,任意の連続ブラックボックス関数の連続的大域的解釈を生成するアルゴリズムを提案する。 我々の解釈は、その芸術の以前の状態から飛躍的な進歩を表している。
  論文  参考訳（メタデータ） (2020-11-17T12:39:44Z)
• Model-Agnostic Explanations using Minimal Forcing Subsets [11.420687735660097]
  そこで本研究では,モデル決定に欠かせない最小限のトレーニングサンプルを同定する,モデルに依存しない新しいアルゴリズムを提案する。 本アルゴリズムは,制約付き最適化問題を解くことにより,このような「欠かせない」サンプルの集合を反復的に同定する。 結果から,本アルゴリズムは局所モデルの振る舞いをよりよく理解する上で,効率的かつ容易に記述できるツールであることがわかった。
  論文  参考訳（メタデータ） (2020-11-01T22:45:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。