論文の概要: CIDR: A Cooperative Integrated Dynamic Refining Method for Minimal
Feature Removal Problem
- arxiv url: http://arxiv.org/abs/2312.08157v1
- Date: Wed, 13 Dec 2023 14:10:30 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-14 15:09:31.272594
- Title: CIDR: A Cooperative Integrated Dynamic Refining Method for Minimal
Feature Removal Problem
- Title(参考訳): cidr : 最小特徴除去問題に対する協調的統合動的精錬法
- Authors: Qian Chen, Taolin Zhang, Dongyang Li, Xiaofeng He
- Abstract要約: 最小限の機能集合を効率的に発見するための協調型動的精錬法(CIDR)を提案する。
具体的には、特徴間の相互作用を検出するために協調統合勾配(CIG)を設計する。
また,多数の候補集合から最小の特徴集合を決定するための補助的最小特徴再構成アルゴリズムも考案した。
- 参考スコア(独自算出の注目度): 24.618447344513964
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The minimal feature removal problem in the post-hoc explanation area aims to
identify the minimal feature set (MFS). Prior studies using the greedy
algorithm to calculate the minimal feature set lack the exploration of feature
interactions under a monotonic assumption which cannot be satisfied in general
scenarios. In order to address the above limitations, we propose a Cooperative
Integrated Dynamic Refining method (CIDR) to efficiently discover minimal
feature sets. Specifically, we design Cooperative Integrated Gradients (CIG) to
detect interactions between features. By incorporating CIG and characteristics
of the minimal feature set, we transform the minimal feature removal problem
into a knapsack problem. Additionally, we devise an auxiliary Minimal Feature
Refinement algorithm to determine the minimal feature set from numerous
candidate sets. To the best of our knowledge, our work is the first to address
the minimal feature removal problem in the field of natural language
processing. Extensive experiments demonstrate that CIDR is capable of tracing
representative minimal feature sets with improved interpretability across
various models and datasets.
- Abstract(参考訳): ポストホックな説明領域における最小機能除去問題は、最小機能セット(MFS)を特定することを目的としている。
グリーディアルゴリズムを用いた最小特徴集合の計算以前の研究は、一般的なシナリオでは満足できない単調な仮定の下での特徴相互作用の探索を欠いている。
上記の制約に対処するため,最小限の機能集合を効率的に発見するための協調型動的精錬法 (CIDR) を提案する。
具体的には、特徴間の相互作用を検出するために協調統合勾配(CIG)を設計する。
CIGと最小特徴集合の特性を取り入れることで、最小特徴除去問題をknapsack問題に変換する。
さらに,多数の候補集合から最小特徴集合を決定するために,補助的最小特徴リファインメントアルゴリズムを考案する。
私たちの知る限りでは、自然言語処理の分野における最小限の機能削除問題に対処するのは、私たちの仕事が初めてです。
大規模な実験では、CIDRはさまざまなモデルやデータセット間の解釈性を改善した、代表最小限の機能セットをトレースできることを示した。
関連論文リスト
- Optimization by Parallel Quasi-Quantum Annealing with Gradient-Based Sampling [0.0]
本研究では、連続緩和による勾配に基づく更新と準量子アナリング(QQA)を組み合わせた別のアプローチを提案する。
数値実験により,本手法はiSCOと学習型解法に匹敵する性能を有する汎用解法であることが示された。
論文 参考訳(メタデータ) (2024-09-02T12:55:27Z) - Faster Stochastic Variance Reduction Methods for Compositional MiniMax
Optimization [50.10952609321302]
合成ミニマックス最適化は、さまざまな機械学習領域において重要な課題である。
構成最小最適化の現在の方法は、最適以下の複雑さや、大きなバッチサイズに大きく依存することによって悩まされている。
本稿では,Nested STOchastic Recursive Momentum (NSTORM)と呼ばれる新しい手法を提案する。
論文 参考訳(メタデータ) (2023-08-18T14:57:21Z) - Efficient Model-Free Exploration in Low-Rank MDPs [76.87340323826945]
低ランクマルコフ決定プロセスは、関数近似を持つRLに対して単純だが表現力のあるフレームワークを提供する。
既存のアルゴリズムは、(1)計算的に抽出可能であるか、または(2)制限的な統計的仮定に依存している。
提案手法は,低ランクMPPの探索のための最初の実証可能なサンプル効率アルゴリズムである。
論文 参考訳(メタデータ) (2023-07-08T15:41:48Z) - Optimal Algorithms for Stochastic Complementary Composite Minimization [55.26935605535377]
統計学と機械学習における正規化技術に触発され,補完的な複合化の最小化について検討した。
予測と高い確率で、新しい過剰なリスク境界を提供する。
我々のアルゴリズムはほぼ最適であり、このクラスの問題に対して、新しいより低い複雑性境界によって証明する。
論文 参考訳(メタデータ) (2022-11-03T12:40:24Z) - New Tight Relaxations of Rank Minimization for Multi-Task Learning [161.23314844751556]
2つの正規化項に基づく2つの新しいマルチタスク学習定式化を提案する。
本手法は,タスク間で共有される低ランク構造を正確に復元し,関連するマルチタスク学習方法より優れていることを示す。
論文 参考訳(メタデータ) (2021-12-09T07:29:57Z) - On the Minimal Error of Empirical Risk Minimization [90.09093901700754]
回帰作業における経験的リスク最小化(ERM)手順の最小誤差について検討する。
私たちの鋭い下限は、データを生成するモデルの単純さに適応する可能性(あるいは不可能)に光を当てています。
論文 参考訳(メタデータ) (2021-02-24T04:47:55Z) - CLUB: A Contrastive Log-ratio Upper Bound of Mutual Information [105.73798100327667]
本稿では,相互情報の対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物対物
CLUBの特性とその変分近似に関する理論的解析を行う。
この上限に基づいてMI最小化学習手法を導入し、さらに負のサンプリング戦略で加速する。
論文 参考訳(メタデータ) (2020-06-22T05:36:16Z) - Robust Submodular Minimization with Applications to Cooperative Modeling [0.0]
本稿では,制約を考慮したロバストな部分モジュラー最小化問題について検討する。
制約付き部分モジュラー最小化は、画像セグメンテーションにおける協調的カット、画像対応における協調的マッチングなど、いくつかの応用で発生する。
論文 参考訳(メタデータ) (2020-01-25T20:40:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。