論文の概要: Fitting Multilinear Polynomials for Logic Gate Networks
- arxiv url: http://arxiv.org/abs/2605.08657v1
- Date: Sat, 09 May 2026 03:53:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:49.795483
- Title: Fitting Multilinear Polynomials for Logic Gate Networks
- Title(参考訳): 論理ゲートネットワークのための多線形多項式のフィッティング
- Abstract要約: 2入力ブールゲートの層を積み重ねて組合せ回路を構築する学習可能な論理ゲートネットワークについて検討する。
それぞれの2入力ゲートは4つの係数を持つユニークなマルチリニアを持つため、16個のゲートは4次元空間のプロトタイプのコードブックを形成する。
- 参考スコア(独自算出の注目度): 1.9459606412374644
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: We study learnable logic gate networks that stack layers of 2-input Boolean gates to build combinational circuits. Every 2-input gate has a unique multilinear polynomial with 4 coefficients, so the 16 Boolean gates form a codebook of prototypes in a 4-dimensional space, reducing training to a vector-quantization problem. The baseline method, Soft-Mix, learns a 16-dimensional softmax over gate identities, but the codebook has rank~4: 11 of 15 simplex directions carry nullspace gradient, and at uniform initialization the backward signal vanishes exactly. We prove that no affine product reparameterization fixes the resulting interaction-coefficient starvation under STE, and show that the covariance Jacobian of soft-VQ selection bypasses it by coupling the starved coefficient to the always-active constant channel. Working in the 4-dimensional polynomial space reduces each neuron from 16 to 4 parameters. On seven datasets, at least one 4-parameter method matches or exceeds Soft-Mix on every dataset; the CovJac advantage over STE grows monotonically with interaction demand across all seven datasets. At depth, Soft-Mix collapses ($-37.3$pp on CIFAR-10 at 12 layers) while CovJac holds ($-0.5$pp on CIFAR-10, stable on MNIST).
- Abstract(参考訳): 2入力ブールゲートの層を積み重ねて組合せ回路を構築する学習可能な論理ゲートネットワークについて検討する。
すべての2入力ゲートは4つの係数を持つ特異な多重線型多項式を持つので、16のブールゲートは4次元空間のプロトタイプのコードブックを形成し、ベクトル量子化問題へのトレーニングを減少させる。
ベースライン法であるSoft-Mixは16次元のソフトマックスをゲートの恒等性について学習するが、符号ブックはランク~4:11の15の単純方向はヌル空間勾配を持ち、後方信号は均一に初期化される。
STEの下で得られた相互作用係数の飢餓をアフィン生成物の再パラメータ化が解決しないことを証明し、軟VQ選択の共分散ヤコビアンが常に活性な定数チャネルに飢餓係数を結合することでそれを回避していることを示す。
4次元多項式空間での作用は、各ニューロンを16から4のパラメータに還元する。
7つのデータセットでは、少なくとも1つの4パラメータメソッドがすべてのデータセットでSoft-Mixと一致または超える。
深度では、Soft-MixはCIFAR-10では37.3$pp、CovJacはCIFAR-10では0.5$pp、MNISTでは安定している。
関連論文リスト
- Structured Transforms for Low-Overhead Quantization of Language Models [43.017319901277354]
我々は,大規模な言語モデルに対する加振分解に基づく重み量子化について再検討し,改良されたアルゴリズムを提案する。
更新を交互に行うグリーディアルゴリズムは,各因子の安定な2ビットクラスタリングに必要な4ピーク分布を保証する。
JAXパイプラインは、OPTQ、QuIP、QuIP-RG、微調整およびベクトル量子化なしのQuIP#と競合し、OPT、Llama-2、Pythiaの4ビットのチャネルで競合する。
論文 参考訳(メタデータ) (2026-09-10T15:15:50Z) - From Direction to Magnitude: How Multimodal Instruction-Tuning Reorganizes the Geometric Encoding of Identity-Specifying Prompts in Transformer Hidden States [0.0]
本研究では、4つのオープンウェイトトランスフォーマー言語モデルの隠れ状態軌跡において、アイデンティティ特定システムが統計的に識別可能な幾何学的指紋を生成するか否かを検討する。
kNN軌跡グラフ上のOllivier-Ricci曲率のエッジワイド間の1-ワッサーシュタイン距離の5つの指標によって、3つの急条件が比較される。
論文 参考訳(メタデータ) (2026-07-10T17:22:36Z) - DuQuant++: Fine-grained Rotation Enhances Microscaling FP4 Quantization [47.19478866645546]
そこで我々は,DuQuantをMXFP4フォーマットに適応させるDuQuant++を提案する。
MXFP4 W4A4量子化の下でのLLaMA-3ファミリーの実験は、DuQuant++が一貫して最先端のパフォーマンスを実現していることを示している。
論文 参考訳(メタデータ) (2026-04-20T04:27:28Z) - Polynomial Surrogate Training for Differentiable Ternary Logic Gate Networks [3.2249474972573555]
学習可能な9つの係数を持つ3次ニューロンを次数$(2,2)$で表すPST(Polynomial Surrogate Training)を導入する。
PST はバイナリ DLGN よりも高速に$2-$3times を訓練し、機能的に多様である真の三次ゲートを発見する。
論文 参考訳(メタデータ) (2026-02-27T20:37:17Z) - BPDQ: Bit-Plane Decomposition Quantization on a Variable Grid for Large Language Models [56.504879072674015]
本稿では,ビットプレーンとスカラー係数による可変量子化グリッドを構成するビットプレーン分解量子化(BPDQ)を提案する。
BPDQは、1つのGTX 3090上でQwen2.5-72Bを83.85%のGSM8Kの精度で提供できる(ただし16ビットでは90.83%)。
論文 参考訳(メタデータ) (2026-02-04T02:54:37Z) - Differentiable Logic Synthesis: Spectral Coefficient Selection via Sinkhorn-Constrained Composition [0.0]
凍結フーリエ基底からスペクトル係数を選択する微分可能なアーキテクチャである階層スペクトル合成を導入する。
我々はこのフレームワークを論理合成に適用し、ブール否定を可能にするカラムサイン変調を追加する。
論文 参考訳(メタデータ) (2026-01-20T13:26:52Z) - DInf-Grid: A Neural Differential Equation Solver with Differentiable Feature Grids [73.28614344779076]
我々は、微分方程式(DE)を効率的に解くための微分可能グリッドベース表現を提案する。
その結果,座標法よりも5~20倍の高速化を実現し,差分方程式を数秒または数分で解き,精度とコンパクト性を維持した。
論文 参考訳(メタデータ) (2026-01-15T18:59:57Z) - Data Complexity Measures for Quantum Circuits Architecture Recommendation [55.74527632797241]
量子パラメトリック回路は、量子回路のサイズを減らす代替として構築される。
与えられた問題の最適回路を決定することは 未解決の問題です
本研究では,分類問題に対する量子回路レコメンデーションアーキテクチャを,データベースの複雑性尺度を用いて提案する。
論文 参考訳(メタデータ) (2025-02-21T01:17:24Z) - Joint Transmit and Pinching Beamforming for Pinching Antenna Systems (PASS): Optimization-Based or Learning-Based? [89.05848771674773]
MISO (Multiple-input Single-output) フレームワークを提案する。
それは複数の導波路で構成されており、多数の低コストアンテナ(PA)を備えている。
PAの位置は、大規模パスと空間の両方にまたがるように再構成することができる。
論文 参考訳(メタデータ) (2025-02-12T18:54:10Z) - High-Rank Irreducible Cartesian Tensor Decomposition and Bases of Equivariant Spaces [48.465738895704455]
カルトテンソルの分解のための経路行列を、小さくて手頃な複雑さを持つランク$n=9$まで構築する。
提案手法はRREFアルゴリズムを回避し,各ICT分解行列の完全な解析的導出を維持する。
結果は任意のテンソル積と直和空間に拡張され、対称性を維持しながら異なる空間間の自由な設計が可能となる。
論文 参考訳(メタデータ) (2024-12-24T08:25:38Z) - Calibration of Drive Non-Linearity for Arbitrary-Angle Single-Qubit
Gates Using Error Amplification [43.97138136532209]
キュービットドライブラインコンポーネントの非線形性は、単一キュービットゲートの忠実性に制限を与える。
我々は、コヒーレンス制限エラーが2~4ドル、リークが6~5ドル以下の任意の角度のシングルキュービットゲートを実証する。
論文 参考訳(メタデータ) (2022-12-02T10:34:43Z) - Synthesis of and compilation with time-optimal multi-qubit gates [0.46180371154032884]
我々は、Ising型とオール・ツー・オール接続を固定した量子コンピューティングプラットフォーム向けに、複数の量子ビットゲートを絡み合わせるクラスを開発する。
我々は,全マルチキュービットゲートの時間スケールが,キュービット数でほぼ線形であることを数値的に示す。
論文 参考訳(メタデータ) (2022-06-13T18:00:04Z) - Efficient variational synthesis of quantum circuits with coherent
multi-start optimization [1.3108652488669734]
我々は、CNOTゲートと任意の1量子ビット(1q)ゲートからなるゲート集合に合成する問題を考察する。
私たちが提案する重要なアイデアは、IDゲートとCNOTゲートの間を補間できるパラメタライズされた2量子ビット(2q)位相ゲートを使用することである。
このアーキテクチャの一貫性のある最適化と1qゲートは、実際驚くほどうまく機能しているようだ。
論文 参考訳(メタデータ) (2022-05-02T18:00:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。