論文の概要: Algorithmically Aligned Neural Agglomerative Tree Construction
- arxiv url: http://arxiv.org/abs/2610.07271v1
- Date: Mon, 05 Oct 2026 19:11:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.611233
- Title: Algorithmically Aligned Neural Agglomerative Tree Construction
- Title（参考訳）: アルゴリズム適応型ニューラルアグリメティブツリーの構築
- Abstract要約: NN-linkageは,タスク固有および局所依存的なマージルールを学習可能なニューラルネットワーク(NN)モデルである。
NN-linkageはLW再発を含む連続リンク関数の普遍的近似であることを示す。
また、NNリンクは全ての入力サイズに対して対称な定数係数LW再帰を正確に実装できることを示す。
- 参考スコア（独自算出の注目度）: 6.963245761552007
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Linkage algorithms for hierarchical clustering (HC) are a powerful and efficient framework for constructing clustering trees, yet it is often unclear which merge rule best suits a given dataset or task. In contrast, neural approaches can learn from data, but often fail to retain the efficiency and size generalization of classical algorithms. We introduce NN-linkage, a neural network (NN) model that can learn task-specific and locally dependent merge rules while retaining the recursive structure and efficient inference of classical linkage algorithms. In particular, our model is algorithmically aligned with the Lance-Williams (LW) recurrence, a parameterized framework for defining a broad, continuous family of linkage rules for agglomerative HC. Classical methods such as single linkage (SL), complete linkage (CL), and average linkage arise as discrete choices within this broader family. We show that NN-linkage is a universal approximator for continuous linkage functions, including LW recurrences, and, when paired with a transformer encoding, can also approximate globally dependent rules such as robust single-linkage. We further show that NN-linkage can exactly implement any symmetric constant-coefficient LW recurrence across all input sizes. On the empirical front, we evaluate NN-linkage in real-world applications, clock-tree routing and phylogenetic reconstruction, using both synthetic and real datasets, demonstrating its effectiveness over both classical algorithms and other neural approaches. By learning merge rules directly from target trees, NN-linkage extends efficient HC to scientific and engineering objectives not adequately captured by existing hand-designed linkage rules.
- Abstract（参考訳）: 階層的クラスタリング(HC)のためのリンクアルゴリズムは、クラスタリングツリーを構築するための強力で効率的なフレームワークである。
対照的に、ニューラルアプローチはデータから学ぶことができるが、古典的なアルゴリズムの効率性と大きさの一般化を維持するのに失敗することが多い。
NN-linkageは、従来のリンケージアルゴリズムの帰納的構造と効率的な推論を維持しつつ、タスク固有かつ局所依存的なマージルールを学習できるニューラルネットワーク(NN)モデルである。
特に、我々のモデルは、集約型HCのための広範囲な連鎖規則の連続的なファミリを定義するためのパラメータ化フレームワークであるLance-Williams (LW) の繰り返しとアルゴリズム的に一致している。
単一リンケージ(SL)、完全リンケージ(CL)、および平均リンケージのような古典的な手法は、このより広い家族の中で個別の選択として現れる。
NN-linkageはLW繰り返しを含む連続リンク関数の普遍的近似器であり、変換器エンコーディングと組み合わせれば、ロバストな単一リンクのような大域的依存ルールを近似することもできることを示す。
さらに、NNリンクは全ての入力サイズに対して対称な定数係数LW再帰を正確に実装できることを示す。
実世界の応用におけるNN-linkage、クロックツリールーティング、系統的再構成、および合成データと実データの両方を用いてNN-linkageを評価し、古典的アルゴリズムと他のニューラルアプローチに比較してその効果を実証した。
NN-linkageは、ターゲット木から直接マージルールを学習することにより、既存の手設計のリンクルールによって適切に捉えられていない、効率的なHCから科学的および工学的な目的まで拡張する。
関連論文リスト
- Lattice-Based Pruning in Recurrent Neural Networks via Poset Modeling [0.0]
リカレントニューラルネットワーク(RNN)はシーケンスモデリングタスクの中心であるが、その高い計算複雑性はスケーラビリティとリアルタイムデプロイメントの課題を引き起こす。
本稿では,RNNを部分的に順序付けられた集合(命題)としてモデル化し,対応する依存格子を構成する新しいフレームワークを提案する。
既約ニューロンを同定することにより、格子ベースのプルーニングアルゴリズムは、冗長なニューロンを除去しながら、重要な接続を選択的に保持する。
論文 参考訳（メタデータ） (2025-02-23T10:11:38Z) - Geometric sparsification in recurrent neural networks [0.8851237804522972]
大きなニューラルモデルを実行する際の計算コストを改善するための一般的なテクニックはスパース化である。
本稿では,リカレントニューラルネット(RNN)のスペーサー化手法を提案する。
変調正則化はより安定なリカレントニューラルネットを誘導し、90%以上の高忠実度モデルを実現することを示す。
論文 参考訳（メタデータ） (2024-06-10T14:12:33Z) - Tensor network renormalization: application to dynamic correlation
functions and non-hermitian systems [0.0]
本稿では,動的相関関数の計算を可能にするLoop-TNRアルゴリズムの実装について述べる。
また,非エルミート系の臨界特性を調べるためにLoop-TNRアルゴリズムが適用可能であることも強調した。
論文 参考訳（メタデータ） (2023-11-30T18:34:32Z) - Deep Architecture Connectivity Matters for Its Convergence: A
Fine-Grained Analysis [94.64007376939735]
我々は、勾配降下訓練におけるディープニューラルネットワーク(DNN)の収束に対する接続パターンの影響を理論的に特徴づける。
接続パターンの単純なフィルタリングによって、評価対象のモデルの数を削減できることが示される。
論文 参考訳（メタデータ） (2022-05-11T17:43:54Z) - Hybrid ISTA: Unfolding ISTA With Convergence Guarantees Using Free-Form
Deep Neural Networks [50.193061099112626]
学習可能なパラメータを持つディープニューラルネットワーク(DNN)として反復アルゴリズムを展開させることで、線形逆問題を解決することを約束している。
既存のISTAベースのアンフォールドアルゴリズムは、収束を保証するために部分重結合構造で繰り返し更新するネットワークアーキテクチャを制限する。
本論文は,ISTAに基づく非折り畳みアルゴリズムにおける自由形式DNNを実現するための収束証明可能なフレームワークを初めて提供するものである。
論文 参考訳（メタデータ） (2022-04-25T13:17:57Z) - Efficient and Robust Mixed-Integer Optimization Methods for Training
Binarized Deep Neural Networks [0.07614628596146598]
二元活性化関数と連続または整数重み付きディープニューラルネットワーク(BDNN)について検討する。
BDNNは、古典的な混合整数計画解法により、大域的最適性に解けるような、有界な重み付き混合整数線形プログラムとして再構成可能であることを示す。
トレーニング中にBDNNの堅牢性を強制するロバストモデルが初めて提示される。
論文 参考訳（メタデータ） (2021-10-21T18:02:58Z) - Connecting Weighted Automata, Tensor Networks and Recurrent Neural
Networks through Spectral Learning [58.14930566993063]
我々は、形式言語と言語学からの重み付き有限オートマトン(WFA)、機械学習で使用されるリカレントニューラルネットワーク、テンソルネットワークの3つのモデル間の接続を提示する。
本稿では,連続ベクトル入力の列上に定義された線形2-RNNに対する最初の証明可能な学習アルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-10-19T15:28:00Z) - On Connections between Regularizations for Improving DNN Robustness [67.28077776415724]
本稿では,ディープニューラルネットワーク(DNN)の対角的ロバスト性を改善するために最近提案された正規化条件を解析する。
入力勾配正則化,ジャコビアン正則化,曲率正則化,クロスリプシッツ関数など,いくつかの有効な方法間の接続性について検討する。
論文 参考訳（メタデータ） (2020-07-04T23:43:32Z) - Provably Efficient Neural Estimation of Structural Equation Model: An
Adversarial Approach [144.21892195917758]
一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。
線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。
提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
論文 参考訳（メタデータ） (2020-07-02T17:55:47Z) - Model Fusion via Optimal Transport [64.13185244219353]
ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。
これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
論文 参考訳（メタデータ） (2019-10-12T22:07:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。