論文の概要: Interpretable and Fair Generalized Additive Neural Networks via Multi-objective Learning
- arxiv url: http://arxiv.org/abs/2609.05946v1
- Date: Sat, 05 Sep 2026 07:29:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.170781
- Title: Interpretable and Fair Generalized Additive Neural Networks via Multi-objective Learning
- Title（参考訳）: 多目的学習による解釈可能かつ公平な付加型ニューラルネットワーク
- Abstract要約: 理解可能性と公正性は、信頼できる人工知能(AI)において最も強調される2つの次元の1つである
本稿では,ニューラルネットワーク(NN)に基づく自己解釈可能なモデルであるGAM(Generalized Additive Model)に焦点を当てる。
- 参考スコア（独自算出の注目度）: 52.66717986145448
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Interpretability and fairness are two of the most emphasized dimensions in trustworthy artificial intelligence (AI). Various explainable AI methods have been introduced to improve interpretability. This paper focuses on neural network (NN)-based generalized additive models (GAMs), a class of self-interpretable models. While most existing research has prioritized improving the accuracy of NN-based GAMs, their interpretability remains largely underexplored. To address this gap, this paper introduces explicit quantitative metrics for evaluating the interpretability of NN-based GAMs, empirically examines their effectiveness, and explores strategies for improving interpretability within these models. In addition, the simultaneous and explicit optimization of both interpretability and fairness, along with their trade-offs and the underlying reasons, remains underexplored. To address this, we propose a multi-objective neural basis model (MONBM) framework based on multi-objective evolutionary learning to consider accuracy, interpretability, and fairness simultaneously. A partial retraining strategy is further developed to facilitate the practical application of evolutionary multi-objective optimization to deep model architectures. Based on MONBM, this paper reveals the complex relationships between these dimensions and the reasons behind these intricate relationships. This analysis demonstrates how multi-objective optimization can be combined with self-interpretable models to reveal relationships among trustworthiness objectives. In addition, MONBM obtains a set of models with different trade-offs between dimensions, and the competitiveness of the approach is validated by comparing it with state-of-the-art methods.
- Abstract（参考訳）: 解釈可能性と公正性は、信頼できる人工知能(AI)において最も強調された2つの次元の1つである。
解釈性を改善するために、さまざまな説明可能なAIメソッドが導入されている。
本稿では,ニューラルネットワーク(NN)に基づく自己解釈可能なモデルであるGAM(Generalized Additive Model)に焦点を当てる。
既存のほとんどの研究はNNベースのGAMの精度の向上を優先しているが、その解釈可能性はほとんど探索されていない。
このギャップに対処するために,NNベースのGAMの解釈可能性を評価するための明確な定量的指標を導入し,その妥当性を実証的に検証し,これらのモデルにおける解釈可能性を改善するための戦略を検討する。
加えて、解釈可能性と公正性の同時的かつ明示的な最適化は、トレードオフと根底にある理由とともに、まだ未解明のままである。
これを解決するために,多目的進化学習に基づく多目的ニューラルベースモデル(MONBM)を提案し,精度,解釈可能性,公平性を同時に検討する。
さらに、深層モデルアーキテクチャへの進化的多目的最適化の実践的適用を促進するために、部分的再訓練戦略が開発されている。
monBMに基づいて,これらの次元間の複雑な関係と,それら複雑な関係の背景にある理由を明らかにする。
この分析は、多目的最適化と自己解釈可能なモデルを組み合わせることで、信頼性目標間の関係を明らかにする方法を示している。
さらに、MONBMは次元間のトレードオフの異なるモデルの集合を取得し、そのアプローチの競争性は最先端の手法と比較することによって検証される。
関連論文リスト
- INSPIRE: An Internalize-Then-Improve Approach for Example-Driven Mathematical Reasoning [61.60016491769943]
人間の数学教育において、定理境界をテストするために反例を構築するような例に基づく推論は、深い概念的理解を反映している。
本稿では,RGSI(Reference-Guided Students Internalization)と段階的選好学習戦略を組み合わせた内在化・内在化アプローチであるINSPIREを提案する。
複数のモデルスケールとファミリーにわたる実験は、大規模なオープンソースモデルを超えながら、一貫した改善を示している。
論文 参考訳（メタデータ） (2026-08-27T03:24:03Z) - Enhancing Interpretability for Vision Models via Shapley Value Optimization [10.809438356590988]
自己説明型ニューラルネットワークは、特別なアーキテクチャ設計のため、パフォーマンスと互換性を犠牲にする。
本稿では,Shapley値推定をトレーニング中の補助タスクとして統合する,新たな自己説明型フレームワークを提案する。
我々の手法は最先端の解釈可能性を実現する。
論文 参考訳（メタデータ） (2025-12-16T12:33:04Z) - Deep Unfolding: Recent Developments, Theory, and Design Guidelines [99.63555420898554]
この記事では、最適化アルゴリズムを構造化されたトレーニング可能なMLアーキテクチャに変換するフレームワークであるDeep Unfoldingのチュートリアルスタイルの概要を提供する。
推論と学習のための最適化の基礎を概観し、深層展開のための4つの代表的な設計パラダイムを導入し、その反復的な性質から生じる特有なトレーニングスキームについて議論する。
論文 参考訳（メタデータ） (2025-12-03T13:16:35Z) - REMoH: A Reflective Evolution of Multi-objective Heuristics approach via Large Language Models [39.85828629779943]
多目的最適化は、複雑な意思決定タスクにおいて基礎となる。
大規模言語モデル(LLM)の最近の進歩は、説明可能性、適応性、推論の強化を提供する。
本研究では,NSGA-II と LLM を融合した新たなフレームワークである REMoH (Reflectionive Evolution of Multi-Objective Heuristics) を提案する。
論文 参考訳（メタデータ） (2025-06-09T13:38:28Z) - Model Steering: Learning with a Reference Model Improves Generalization Bounds and Scaling Laws [52.10468229008941]
本稿では,戦略データの選択や重み付けを通じて,対象モデルのトレーニングを指導・強化するための基準として,訓練モデルを用いた新たな学習パラダイムを定式化する。
提案手法は,参照モデルを持たないトレーニングと比較して,一般化とデータの効率性を改善する理由に関する理論的知見を提供する。
これらの知見に基づいて,DRRho-CLIPと呼ばれる参照モデルを用いたコントラスト言語-画像事前学習手法を提案する。
論文 参考訳（メタデータ） (2025-05-10T16:55:03Z) - A Survey on Mechanistic Interpretability for Multi-Modal Foundation Models [74.48084001058672]
基礎モデルの台頭は機械学習の研究に変化をもたらした。
マルチモーダル・ファンデーション・モデル(MMFM)は、ユニモーダル・フレームワークを超えて、ユニークな解釈可能性の課題を提起する。
本研究は,(1)多モーダルモデルへのLLM解釈可能性法の適応,(2)単モーダル言語モデルとクロスモーダルシステムとの機械的差異の理解の2つの重要な側面について考察する。
論文 参考訳（メタデータ） (2025-02-22T20:55:26Z) - On the Reasoning Capacity of AI Models and How to Quantify It [0.0]
大規模言語モデル(LLM)は、その推論能力の基本的な性質に関する議論を激化させている。
GPQAやMMLUのようなベンチマークで高い性能を達成する一方で、これらのモデルはより複雑な推論タスクにおいて制限を示す。
本稿では,モデル行動のメカニズムを解明するために,従来の精度指標を超える新しい現象論的手法を提案する。
論文 参考訳（メタデータ） (2025-01-23T16:58:18Z) - Bridging Interpretability and Robustness Using LIME-Guided Model Refinement [0.0]
LIME(Local Interpretable Model-Agnostic Explanations)は、モデルロバスト性を体系的に強化する。
複数のベンチマークデータセットに対する実証的な評価は、LIME誘導の洗練は解釈可能性を改善するだけでなく、敵の摂動に対する耐性を著しく向上し、アウト・オブ・ディストリビューションデータへの一般化を促進することを示している。
論文 参考訳（メタデータ） (2024-12-25T17:32:45Z) - SynthTree: Co-supervised Local Model Synthesis for Explainable Prediction [15.832975722301011]
本稿では,最小限の精度で説明可能性を向上させる手法を提案する。
我々は,AI技術を利用してノードを推定する新しい手法を開発した。
我々の研究は、統計的方法論が説明可能なAIを前進させる上で重要な役割を担っている。
論文 参考訳（メタデータ） (2024-06-16T14:43:01Z) - Latent Variable Representation for Reinforcement Learning [131.03944557979725]
モデルに基づく強化学習のサンプル効率を改善するために、潜在変数モデルが学習、計画、探索をいかに促進するかは理論上、実証上、不明である。
状態-作用値関数に対する潜在変数モデルの表現ビューを提供する。これは、抽出可能な変分学習アルゴリズムと楽観主義/悲観主義の原理の効果的な実装の両方を可能にする。
特に,潜伏変数モデルのカーネル埋め込みを組み込んだUPB探索を用いた計算効率の良い計画アルゴリズムを提案する。
論文 参考訳（メタデータ） (2022-12-17T00:26:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。