論文の概要: From MNIST to ImageNet: Understanding the Scalability Boundaries of Differentiable Logic Gate Networks

• arxiv url: http://arxiv.org/abs/2509.25933v1
• Date: Tue, 30 Sep 2025 08:27:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-01 17:09:04.478062
• Title: From MNIST to ImageNet: Understanding the Scalability Boundaries of Differentiable Logic Gate Networks
• Title（参考訳）: MNISTからImageNetへ: 微分論理ゲートネットワークのスケーラビリティ境界を理解する
• Authors: Sven Brändle, Till Aczel, Andreas Plesner, Roger Wattenhofer,
• Abstract要約: 差別化可能な論理ゲートネットワーク(DLGN)は、従来のフィードフォワードネットワークに代わる、非常に高速でエネルギー効率のよい代替品である。 本研究では,大規模マルチクラスデータセット上でのDLGNの挙動について検討する。
• 参考スコア（独自算出の注目度）: 28.844098517315228
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Differentiable Logic Gate Networks (DLGNs) are a very fast and energy-efficient alternative to conventional feed-forward networks. With learnable combinations of logical gates, DLGNs enable fast inference by hardware-friendly execution. Since the concept of DLGNs has only recently gained attention, these networks are still in their developmental infancy, including the design and scalability of their output layer. To date, this architecture has primarily been tested on datasets with up to ten classes. This work examines the behavior of DLGNs on large multi-class datasets. We investigate its general expressiveness, its scalability, and evaluate alternative output strategies. Using both synthetic and real-world datasets, we provide key insights into the importance of temperature tuning and its impact on output layer performance. We evaluate conditions under which the Group-Sum layer performs well and how it can be applied to large-scale classification of up to 2000 classes.
• Abstract（参考訳）: 差別化可能な論理ゲートネットワーク(DLGN)は、従来のフィードフォワードネットワークに代わる、非常に高速でエネルギー効率のよい代替品である。 論理ゲートの学習可能な組み合わせにより、DLGNはハードウェアフレンドリーな実行によって高速な推論を可能にする。 DLGNの概念は近年注目されているばかりであるため、これらのネットワークは出力層の設計や拡張性など、まだ開発の初期段階にある。 これまでのところ、このアーキテクチャは10クラスまでのデータセットでテストされてきた。 本研究では,大規模マルチクラスデータセット上でのDLGNの挙動について検討する。 本稿では,その一般的な表現性,スケーラビリティについて検討し,代替出力戦略の評価を行う。 合成と実世界の両方のデータセットを用いて、温度調整の重要性と出力層の性能への影響について重要な洞察を提供する。 我々は,グループサム層が良好に機能する条件と,それを最大2000クラスの大規模分類に適用する方法について検討した。

関連論文リスト

• Learning Efficient and Generalizable Graph Retriever for Knowledge-Graph Question Answering [75.12322966980003]
  大規模言語モデル(LLM)は、様々な領域にわたって強い帰納的推論能力を示している。 既存のRAGパイプラインのほとんどは非構造化テキストに依存しており、解釈可能性と構造化推論を制限する。 近年,知識グラフ解答のための知識グラフとLLMの統合について検討している。 KGQAにおける効率的なグラフ検索のための新しいフレームワークであるRAPLを提案する。
  論文  参考訳（メタデータ） (2025-06-11T12:03:52Z)
• How to Make LLMs Strong Node Classifiers? [70.14063765424012]
  言語モデル(LM)は、グラフニューラルネットワーク(GNN)やグラフトランスフォーマー(GT)など、ドメイン固有のモデルの優位性に挑戦している。 本稿では,ノード分類タスクにおける最先端(SOTA)GNNに匹敵する性能を実現するために,既製のLMを有効活用する手法を提案する。
  論文  参考訳（メタデータ） (2024-10-03T08:27:54Z)
• BLIS-Net: Classifying and Analyzing Signals on Graphs [20.345611294709244]
  グラフニューラルネットワーク(GNN)は、ノード分類やグラフ分類といったタスクのための強力なツールとして登場した。 我々は以前に導入された幾何散乱変換に基づいて構築された新しいGNNであるBLIS-Net(Bi-Lipschitz Scattering Net)を紹介する。 BLIS-Netは,交通流とfMRIデータに基づいて,合成データと実世界のデータの両方において優れた性能を発揮することを示す。
  論文  参考訳（メタデータ） (2023-10-26T17:03:14Z)
• Efficient shallow learning as an alternative to deep learning [0.0]
  一般化された浅層LeNetアーキテクチャの誤差率は5層に過ぎず,第1畳み込み層におけるフィルタ数に比例して減衰することを示した。 同様の指数を持つ電力法則も一般化されたVGG-16アーキテクチャを特徴付けている。 畳み込み層に沿った保存法則は、その大きさの深さの平方根であり、誤り率を最小化する。
  論文  参考訳（メタデータ） (2022-11-15T10:10:27Z)
• A Comprehensive Study on Large-Scale Graph Training: Benchmarking and Rethinking [124.21408098724551]
  グラフニューラルネットワーク(GNN)の大規模グラフトレーニングは、非常に難しい問題である 本稿では,既存の問題に対処するため,EnGCNという新たなアンサンブルトレーニング手法を提案する。 提案手法は,大規模データセット上でのSOTA(State-of-the-art)の性能向上を実現している。
  論文  参考訳（メタデータ） (2022-10-14T03:43:05Z)
• Long Range Graph Benchmark [32.317725340138104]
  単にワンホップメッセージパッシングに頼るMP-GNNは、既存のグラフベンチマークでよく使われる。 ベースラインのGNNとGraph Transformerネットワークの両方をベンチマークし、長距離依存をキャプチャするモデルがこれらのタスクにおいて著しく優れていることを検証した。
  論文  参考訳（メタデータ） (2022-06-16T13:33:22Z)
• Bag of Tricks for Training Deeper Graph Neural Networks: A Comprehensive Benchmark Study [100.27567794045045]
  ディープグラフニューラルネットワーク(GNN)のトレーニングは、非常に難しい。 我々は、深層GNNの「トリック」を評価するための最初の公正かつ再現可能なベンチマークを示す。
  論文  参考訳（メタデータ） (2021-08-24T05:00:37Z)
• Convolutional Networks with Dense Connectivity [59.30634544498946]
  Dense Convolutional Network (DenseNet)を導入し、フィードフォワード方式で各レイヤを他のすべてのレイヤに接続する。 各レイヤについて、先行するすべてのレイヤのフィーチャーマップをインプットとして使用し、それ自身のフィーチャーマップをその後のすべてのレイヤへのインプットとして使用します。 提案したアーキテクチャを、4つの高度に競争力のあるオブジェクト認識ベンチマークタスクで評価する。
  論文  参考訳（メタデータ） (2020-01-08T06:54:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。