論文の概要: Optimizing Sparse Boolean Rule Networks using Mixed Integer Linear Programming
- arxiv url: http://arxiv.org/abs/2610.20170v1
- Date: Wed, 14 Oct 2026 13:19:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:16.169812
- Title: Optimizing Sparse Boolean Rule Networks using Mixed Integer Linear Programming
- Title(参考訳): 混合整数線形計画法によるスパースルールネットワークの最適化
- Abstract要約: 本稿では, 疎解法則型(DNF)ネットワークを学習するための混合整数線形プログラミング(MILP)の定式化を提案する。
規則化された目的は、過度な分類コストを明示的に排除し、グローバルに最適化されたルールセットを産み出す。
合成ベンチマークとUCIデータセットの実験は、高度な定式化によって計算効率が向上することを示している。
- 参考スコア(独自算出の注目度): 1.4018975578160688
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study the problem of learning accurate and cognitively simple binary classifiers that are directly interpretable as Boolean rules. We propose mixed integer linear programming (MILP) formulations for training sparse disjunctive normal form (DNF) networks, viewed as small networks with a conjunctive hidden layer and a disjunctive output layer. Contrary to previous work that uses MILP for inductive rule learning, we start with a fixed network structure, for which we then find optimal weights. A regularized objective explicitly trades off misclassification costs against sparsity, yielding globally optimized rule sets. Our main technical contribution is an enhanced formulation that substantially reduces the number of integer decision variables and eliminates redundant constraints, while preserving exact Boolean semantics for all feasible solutions. Furthermore, we develop a combined approach based on initialization and dropout to break symmetries in the weights between rules, mitigating redundancy, and encouraging more diverse and stable rule representations. Experiments on synthetic benchmarks and UCI datasets show that the advanced formulation improves computational efficiency and achieves competitive or superior accuracy compared to established interpretable baselines, including SAT-based DNF learning and well-known rule- and tree-based learners. Overall, our approach provides a principled optimization framework for learning compact Boolean rule sets with explicit control over accuracy and sparsity trade-offs.
- Abstract(参考訳): 本稿では,Booleanルールとして直接解釈可能な,正確かつ認知学的に単純なバイナリ分類器の学習問題について検討する。
本稿では,結合性隠蔽層と結合性出力層を有する小さなネットワークと見なされる疎結合正規形式(DNF)ネットワークを学習するための混合整数線形プログラミング(MILP)法を提案する。
帰納的ルール学習にMILPを使用した以前の研究とは対照的に、我々は固定されたネットワーク構造から始めて、最適な重みを見つける。
規則化された目的は、過度な分類コストを明示的に排除し、グローバルに最適化されたルールセットを産み出す。
我々の主な技術的貢献は、整数決定変数の数を大幅に減らし、冗長な制約を排除し、すべての実現可能なソリューションに対して正確なブール意味を保ちながら、拡張された定式化である。
さらに,ルール間の重みの対称性を破り,冗長性を緩和し,より多様で安定した規則表現を促進するために,初期化とドロップアウトに基づく組み合わせアプローチを開発した。
合成ベンチマークとUCIデータセットの実験は、SATベースのDNF学習やよく知られたルールベースおよびツリーベース学習者を含む、既存の解釈可能なベースラインと比較して、高度な定式化により計算効率が向上し、競争力や精度が向上することを示している。
全体として、我々の手法は、コンパクトなブール規則集合を精度と空間的トレードオフを明示的に制御して学習するための、原則化された最適化フレームワークを提供する。
関連論文リスト
- TT-Sparse: Learning Sparse Rule Models with Differentiable Truth Tables [1.9499120576896225]
我々は,異なる真理表をノードとして活用し,スパース接続を学習する,柔軟なニューラルネットワーク構築ブロックであるTT-Sparseを紹介した。
提案手法の鍵となる貢献は、離散的基数制約のある特徴選択を学習するためのストレートスルー推定を行うソフトなTopK演算子である。
得られたスパースルールは,既存の最先端手法と比較して,複雑さの低い予測性能が優れていることを示す。
論文 参考訳(メタデータ) (2026-03-08T12:37:10Z) - Learning with Boolean threshold functions [0.013714053458441644]
本研究では,各ノードの値が厳格に$pm 1$であるスパースデータ上でニューラルネットワークを訓練する手法を開発した。
様々なタスクにまたがって、この手法はニューラルネットワークの学習に有効で効率的な基礎を提供する。
論文 参考訳(メタデータ) (2026-02-19T16:07:25Z) - Mathematical Programming Models for Exact and Interpretable Formulation of Neural Networks [0.0]
本稿では,スパースと解釈可能なニューラルネットワークを学習するための混合整数プログラミングフレームワークを提案する。
学習プロセスに直接解釈可能性、スパーシリティ、検証可能性の考慮を組み込むことで、提案フレームワークは幅広い研究領域を橋渡しする。
論文 参考訳(メタデータ) (2025-04-19T16:50:17Z) - Rule-Based Modeling of Low-Dimensional Data with PCA and Binary Particle Swarm Optimization (BPSO) in ANFIS [0.29465623430708915]
ファジィルールに基づくシステムは、低次元領域でデータを解釈し、透明性と解釈可能性を提供する。
ディープラーニングは複雑なタスクでは優れているが、スパース、非構造化、低次元のデータでは過度に適合する傾向がある。
この解釈可能性は、医療や金融といった分野において重要である。
論文 参考訳(メタデータ) (2025-02-06T09:13:55Z) - Enhancing Robustness of Vision-Language Models through Orthogonality Learning and Self-Regularization [77.62516752323207]
そこで本研究では,事前訓練した重みを効率よく微調整する直交微調整法を導入し,頑健さと一般化の強化を実現した。
自己正規化戦略は、OrthSRと呼ばれるVLMのゼロショット一般化の観点から安定性を維持するためにさらに活用される。
筆者らはCLIPとCoOpを再検討し,少数の画像のクラスフィシエーションシナリオにおけるモデルの改善を効果的に行う。
論文 参考訳(メタデータ) (2024-07-11T10:35:53Z) - LoRA-Ensemble: Efficient Uncertainty Modelling for Self-Attention Networks [52.46420522934253]
本稿では,自己注意ネットワークのためのパラメータ効率のよいアンサンブル手法であるLoRA-Ensembleを紹介する。
この方法は、BatchEnsembleのような最先端の暗黙のテクニックを上回るだけでなく、Explicit Ensembleの正確さにマッチするか超える。
論文 参考訳(メタデータ) (2024-05-23T11:10:32Z) - Optimal Baseline Corrections for Off-Policy Contextual Bandits [61.740094604552475]
オンライン報酬指標の偏りのないオフライン推定を最適化する意思決定ポリシーを学習することを目指している。
学習シナリオにおける同値性に基づく単一のフレームワークを提案する。
我々のフレームワークは、分散最適非バイアス推定器の特徴付けを可能にし、それに対する閉形式解を提供する。
論文 参考訳(メタデータ) (2024-05-09T12:52:22Z) - Obtaining Explainable Classification Models using Distributionally
Robust Optimization [12.511155426574563]
特徴値規則の集合を用いて構築した一般化線形モデルについて検討する。
ルールセットの間隔と予測精度の間には、固有のトレードオフが存在する。
我々はこれらの競合する要因に同時に対処するルールセットの集合を学習するための新しい定式化を提案する。
論文 参考訳(メタデータ) (2023-11-03T15:45:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。