論文の概要: Task-Aware Discretization of Differentiable Logic Gate Networks
- arxiv url: http://arxiv.org/abs/2609.33747v1
- Date: Sun, 27 Sep 2026 16:48:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-04 17:04:38.234324
- Title: Task-Aware Discretization of Differentiable Logic Gate Networks
- Title(参考訳): 可変論理ゲートネットワークのタスク認識離散化
- Abstract要約: 微分論理ゲートネットワーク(DLGN)は、学習中に個別論理ゲートを緩和し、推論のためにそれらを識別することにより、高効率ブールネットワークの勾配に基づく訓練を可能にする。
標準的なアプローチは、この離散化の決定を、通常、argmax選択と信頼またはエントロピーに基づく収束基準によって局所的に行う。
局所的な離散化は、グローバルに最適化された緩和されたソリューションであってもタスク・サブ最適であり、高いゲート信頼度は一般的な保証を与えず、緩和されたネットワークにおける引き込み可能な介入に対するタスク・アウェア・ゲートの選択に関連する境界を導出することを示した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Differentiable logic gate networks (DLGNs) enable gradient-based training of highly efficient Boolean networks by relaxing discrete logic gates during training and discretizing them for inference. Standard approaches make this discretization decision locally, typically through argmax selection and confidence- or entropy-based convergence criteria. We show that local discretization can be task-suboptimal even for globally optimal relaxed solutions, with high gate confidence providing no general guarantee, and derive bounds relating task-aware gate selection to tractable interventions in the relaxed network. Motivated by these results, we study first-order downstream task information for progressive discretization and characterize when this local approximation is reliable. Experiments on convolutional DLGNs reveal a strong locality dependence: first-order scores become unreliable when directly optimized over nonlocal interventions, but accurately assess local argmax decisions for progressive freezing.
- Abstract(参考訳): 微分論理ゲートネットワーク(DLGN)は、学習中に個別論理ゲートを緩和し、推論のためにそれらを識別することにより、高効率ブールネットワークの勾配に基づく訓練を可能にする。
標準的なアプローチは、この離散化の決定を、通常、argmax選択と信頼またはエントロピーに基づく収束基準によって局所的に行う。
局所的な離散化は、グローバルに最適化された緩和されたソリューションであってもタスク・サブ最適であり、高いゲート信頼度は一般的な保証を与えず、緩和されたネットワークにおける引き込み可能な介入に対するタスク・アウェア・ゲートの選択に関連する境界を導出することを示した。
これらの結果から,この局所近似が信頼できる場合,一階ダウンストリームタスク情報を用いて,プログレッシブな離散化と特徴付けを行う。
畳み込み型DLGNの実験では、強い局所性依存が示され、非局所的介入に対して直接最適化された1次スコアは信頼できないが、プログレッシブ凍結のための局所argmax決定を正確に評価する。
関連論文リスト
- Think Twice Before You Write -- an Entropy-based Decoding Strategy to Enhance LLM Reasoning [32.332197731504046]
デコード戦略は、大きな言語モデルの推論能力を形成する上で、中心的な役割を果たす。
グレディ復号やビームサーチといった従来の手法は、しばしばエラーの伝播に悩まされる。
本稿では,トークンレベルの適応性を世代に導入するエントロピー誘導復号化フレームワークを提案する。
論文 参考訳(メタデータ) (2026-03-10T23:08:26Z) - Learning to Guide Local Search for MPE Inference in Probabilistic Graphical Models [7.287294240824019]
確率的グラフィカルモデル(PGM)におけるほとんどの確率的説明(MPE)推論は、根本的なが計算的に難しい問題である。
本稿では、繰り返しクエリー方式における局所探索を改善するためのニューラルネットワークのアモート化フレームワークを提案する。
理論的な直観リンクによる距離低減移動選択を行い, 隣り合う選択時の約束を改良する。
論文 参考訳(メタデータ) (2026-02-01T22:43:28Z) - Asynchronous Federated Stochastic Optimization for Heterogeneous Objectives Under Arbitrary Delays [1.9766522384767224]
underlineAsynchunderlineRonous underlineExact underlineAveraging (textscAREA)
textscAREAは勾配推定よりもモデル残差を通信し、勾配反転への露出を減らす。
最初は、最低または最大ではなく、平均的なクライアント更新頻度でスケールするレートを取得しました。
論文 参考訳(メタデータ) (2024-05-16T14:22:49Z) - Bi-discriminator Domain Adversarial Neural Networks with Class-Level
Gradient Alignment [87.8301166955305]
そこで本研究では,クラスレベルのアライメントアライメントを有するバイディミネータドメイン対向ニューラルネットワークを提案する。
BACGは、領域分布の整合性を改善するために勾配信号と二階確率推定を利用する。
さらに、対照的な学習にインスパイアされ、トレーニングプロセスを大幅に短縮できるメモリバンクベースの変種であるFast-BACGを開発した。
論文 参考訳(メタデータ) (2023-10-21T09:53:17Z) - Divide and Contrast: Source-free Domain Adaptation via Adaptive
Contrastive Learning [122.62311703151215]
Divide and Contrast (DaC) は、それぞれの制限を回避しつつ、両方の世界の善良な端を接続することを目的としている。
DaCは、ターゲットデータをソースライクなサンプルとターゲット固有なサンプルに分割する。
さらに、ソースライクなドメインと、メモリバンクベースの最大平均離散性(MMD)損失を用いて、ターゲット固有のサンプルとを整合させて、分散ミスマッチを低減する。
論文 参考訳(メタデータ) (2022-11-12T09:21:49Z) - Large-Scale Sequential Learning for Recommender and Engineering Systems [91.3755431537592]
本稿では,現在の状況に適応してパーソナライズされたランキングを提供する自動アルゴリズムの設計に焦点を当てる。
前者はSAROSと呼ばれる新しいアルゴリズムを提案し,インタラクションの順序を学習するためのフィードバックの種類を考慮に入れている。
提案手法は, 電力網の故障検出に対する初期アプローチと比較して, 統計的に有意な結果を示す。
論文 参考訳(メタデータ) (2022-05-13T21:09:41Z) - Self-supervised Feature-Gate Coupling for Dynamic Network Pruning [46.14789934991936]
特徴とゲートの分布を整列する特徴ゲート結合(FGC)手法を提案する。
FGCはプラグアンドプレイモジュールであり、反復的な自己管理方式で2つのステップが実行される。
実験結果から,提案手法がベースラインアプローチを著しく改善することを確認した。
論文 参考訳(メタデータ) (2021-11-29T02:16:54Z) - Coarse to Fine: Domain Adaptive Crowd Counting via Adversarial Scoring
Network [58.05473757538834]
本稿では,ドメイン間のギャップを粗い粒度から細かな粒度に埋める新しい逆スコアリングネットワーク (ASNet) を提案する。
3組のマイグレーション実験により,提案手法が最先端のカウント性能を実現することを示す。
論文 参考訳(メタデータ) (2021-07-27T14:47:24Z) - Second-Order Guarantees in Centralized, Federated and Decentralized
Nonconvex Optimization [64.26238893241322]
単純なアルゴリズムは、多くの文脈において優れた経験的結果をもたらすことが示されている。
いくつかの研究は、非最適化問題を研究するための厳密な分析的正当化を追求している。
これらの分析における重要な洞察は、摂動が局所的な降下アルゴリズムを許容する上で重要な役割を担っていることである。
論文 参考訳(メタデータ) (2020-03-31T16:54:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。