論文の概要: Improving the Intrinsic Interpretability of Differentiable Decision Trees through Euclidean Feature-Concentration Regularisation
- arxiv url: http://arxiv.org/abs/2610.39596v1
- Date: Thu, 29 Oct 2026 08:35:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-31 05:25:12.480841
- Title: Improving the Intrinsic Interpretability of Differentiable Decision Trees through Euclidean Feature-Concentration Regularisation
- Title(参考訳): ユークリッド特徴集中規則化による微分決定木の本質的解釈性の向上
- Abstract要約: 微分可能な決定木(DDT)は、エンドツーエンドの最適化と明示的な決定パスをサポートするが、濃密な斜め分割は個々の入力機能の役割を曖昧にする可能性がある。
Euclidean-Concentated Differentiable Decision Tree (EU-DDT)を提案する。
EU-DDTは、一様分布から正規化された2乗ユークリッド距離を用いて、各内部ノードの相対的特徴重みを正規化する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Differentiable decision trees (DDTs) support end-to-end optimisation and explicit decision paths, but dense oblique splits can obscure the role of individual input features. We propose the Euclidean-Concentrated Differentiable Decision Tree (EU-DDT), which regularises the relative absolute feature weights at each internal node using their normalised squared Euclidean distance from the uniform distribution. This encourages dominance by a small number of features while retaining probabilistic soft routing. Across five matched random seeds, EU-DDT reduces the mean effective number of features from 8.94 to 1.54 on Wine and from 45.28 to 9.06 on Digits. Mean test accuracy changes from 100.0% to 93.9% on Wine and from 92.3% to 94.6% on Digits, illustrating the dataset-dependent trade-off between concentration and predictive performance. We also use EU-DDT to parameterise a PPO actor with an MLP critic. Two random-seed runs per environment show a consistent qualitative increase in concentration while preserving effective task performance. In representative CartPole-v1 and MiniPacman runs, EU-DDT reaches 100% final evaluation success, while mean node concentration increases from 0.1272 to 0.7179 and from 0.0437 to 0.7237, respectively. These results support EU regularisation as a mechanism for reducing node-level feature complexity; the reinforcement-learning evidence remains preliminary because only two seeds are evaluated.
- Abstract(参考訳): 微分可能な決定木(DDT)は、エンドツーエンドの最適化と明示的な決定パスをサポートするが、濃密な斜め分割は個々の入力機能の役割を曖昧にする可能性がある。
本研究では,正規化された2乗ユークリッド距離を用いて各内部ノードにおける相対絶対的特徴量の正規化を行うユークリッド集中微分可能決定木(EU-DDT)を提案する。
これにより、確率的ソフトルーティングを維持しながら、少数の特徴によって支配が促進される。
EU-DDTは5つの一致したランダムな種子の合計で、ワインの8.94から1.54まで、ディジットの45.28から9.06まで、有効な特徴の数を減らしている。
平均テスト精度はワインで100.0%から93.9%、ディジットで92.3%から94.6%に変化し、濃度と予測性能の間のデータセット依存のトレードオフが説明される。
また,EU-DDT を用いて PPO アクターを MLP 評論家とパラメタライズする。
環境ごとにランダムな2つの実行は、効果的なタスク性能を維持しながら、一貫した定性的な濃度増加を示す。
代表的なCartPole-v1とMiniPacmanでは、EU-DDTは100%最終評価成功、平均ノード濃度は0.1272から0.7179、平均ノード濃度は0.0437から0.7237に達する。
これらの結果は,ノードレベルの特徴量を削減するメカニズムとしてEU正則化を支持している。
関連論文リスト
- Turing LLM Post-Training: Calibrated Distillation and Efficient Dynamic-MoE Execution [48.87945011066967]
本研究では, 動的経路混合(MoE)モデルのポストトレーニングについて検討し, コンソリデーション効率を維持しつつ, 独立的に最適化されたスペシャリストの統合に着目した。
提案手法は,教師が選択したTop-$K$サポートと教師の損失正規化とクリッピングを併用した校正型多目的蒸留(C-MOPD)と,ポストキャパシティ境界幅ディスパッチ,終局リプレイ,非同期ロールアウト-トレーニングオーバーラップを用いた実行パスを組み合わせたものである。
論文 参考訳(メタデータ) (2026-10-29T11:52:20Z) - VeriVLA: Adaptive Test-Time Verification for Flow-Based VLAs with Latent World Models [50.77784979595945]
トレーニング不要な2軸トリガを導入し,時間内変動とサンプル間のばらつきを測定した。
一度起動すると、JEPAベースの潜在世界モデルは、アクション条件付き将来の潜在状態を予測することによって、候補アクションチャンクをランク付けする。
提案手法は, 平均完了スコアを50.8%から65.5%に引き上げると同時に, トリガ決定毎のサンプリングと検証に326msを加算する。
論文 参考訳(メタデータ) (2026-10-15T14:34:44Z) - Asymmetric Focal Loss Improves Graph Neural Network Prediction of Drug-Drug Interactions [0.0]
グラフニューラルネットワークは多剤副作用の予測を改善する。
標準的なバイナリクロスエントロピートレーニングは、よく分類された、そして難しい例に同等のキャパシティを割り当てる。
マルチリレーショナルな薬物と薬物の相互作用予測において,非対称な焦点対象が改善するか否かを検討した。
論文 参考訳(メタデータ) (2026-07-08T16:28:57Z) - TACO: A Test and Check Framework for Robust Pose Graph Optimization [9.59638516502392]
我々は,PGOシステムから外れ値のフィルタリングを目的とした,堅牢な最適化フレームワークTACOを提案する。
TACOは、測定値が不整数または外れ値として明示的にモデル化するのではなく、最大一貫した測定値の集合への近似を求める。
我々は,2次元SLAMおよび3次元ビジュアルSLAMデータセットのTACOを,いくつかの最先端手法に対して評価した。
論文 参考訳(メタデータ) (2026-06-29T06:39:09Z) - Automated Proving of Shannon-Type Entropy Inequalities via Fine-Tuned Language Models and Guided Tree Search [50.16356451328644]
シャノン型エントロピーの不等式を証明することは情報理論の基本的な課題である。
我々は,原子実証のステップを微調整した小規模大規模言語モデルがこのプロセスを自動化することができるか検討する。
GPT-5.5は0ショットプロンプトで1.7%のサンプルを解き、Psitipは33.3%のサンプルを解いた。
論文 参考訳(メタデータ) (2026-06-04T05:43:12Z) - Ternary Decision Trees with Locally-Adaptive Uncertainty Zones [0.0]
3次決定木は、最適しきい値を中心とする半幅デルタの不確かさゾーンを持つ各分割ノードを増大させる。
デルタは、標準のCART分割探索時に既に利用可能な統計から各ノードでローカルに計算される。
デルタ推定手法として,品質プレート,クラスオーバーラップ,ゲイン比,ノードブートストラップ,マージンの5つを評価した。
論文 参考訳(メタデータ) (2026-05-21T17:11:19Z) - Adaptive Consensus in LLM Ensembles via Sequential Evidence Accumulation: Automatic Budget Identification and Calibrated Commit Signals [0.0]
DASEは、ベンチマークをまたいで一般化するコミット型ルーティングパーティションを生成する。
インジェクション帯域ではなく、適応的な停止が正確さを駆動する。
インジェクションベースの手法は、逆Uの精度-vs-推論軌道を示す。
論文 参考訳(メタデータ) (2026-05-05T19:24:10Z) - Towards a Science of Scaling Agent Systems [79.64446272302287]
エージェント評価の定義を定式化し,エージェント量,コーディネーション構造,モデル,タスク特性の相互作用として,スケーリング法則を特徴付ける。
協調指標を用いて予測モデルを導出し,R2=0をクロスバリデーションし,未知のタスク領域の予測を可能にする。
ツールコーディネーショントレードオフ: 固定的な計算予算の下では, ツールヘビータスクはマルチエージェントのオーバーヘッドから不均衡に悩まされ, 2) 能力飽和: 調整が減少または負のリターンを, 単一エージェントのベースラインが45%を超えると達成できる。
論文 参考訳(メタデータ) (2025-12-09T06:52:21Z) - Robust Fine-tuning of Zero-shot Models via Variance Reduction [56.360865951192324]
微調整ゼロショットモデルの場合、このデシドラトゥムは細調整モデルで、分布内(ID)と分布外(OOD)の両方で優れる。
トレードオフを伴わずに最適なIDとOODの精度を同時に達成できるサンプルワイズアンサンブル手法を提案する。
論文 参考訳(メタデータ) (2024-11-11T13:13:39Z) - Patch-Level Contrasting without Patch Correspondence for Accurate and
Dense Contrastive Representation Learning [79.43940012723539]
ADCLRは、正確で高密度な視覚表現を学習するための自己教師型学習フレームワークである。
提案手法は, コントラッシブな手法のための新しい最先端性能を実現する。
論文 参考訳(メタデータ) (2023-06-23T07:38:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。