論文の概要: Orthogonium : A Unified, Efficient Library of Orthogonal and 1-Lipschitz Building Blocks
- arxiv url: http://arxiv.org/abs/2601.13776v1
- Date: Tue, 20 Jan 2026 09:33:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-21 22:47:23.250284
- Title: Orthogonium : A Unified, Efficient Library of Orthogonal and 1-Lipschitz Building Blocks
- Title(参考訳): Orthogonium : 直交ブロックと1-Lipschitzビルディングブロックの統一的で効率的なライブラリ
- Abstract要約: Orthogoniumは、Orthogonal層と1-Lipschitz層を提供する、統一的で効率的で包括的なPyTorchライブラリである。
Orthogoniumは、厳密な数学的保証を維持しながら、歩数、拡張、グループ化、転置を含む標準的な畳み込み機能へのアクセスを提供する。
- 参考スコア(独自算出の注目度): 7.578052704279305
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Orthogonal and 1-Lipschitz neural network layers are essential building blocks in robust deep learning architectures, crucial for certified adversarial robustness, stable generative models, and reliable recurrent networks. Despite significant advancements, existing implementations remain fragmented, limited, and computationally demanding. To address these issues, we introduce Orthogonium , a unified, efficient, and comprehensive PyTorch library providing orthogonal and 1-Lipschitz layers. Orthogonium provides access to standard convolution features-including support for strides, dilation, grouping, and transposed-while maintaining strict mathematical guarantees. Its optimized implementations reduce overhead on large scale benchmarks such as ImageNet. Moreover, rigorous testing within the library has uncovered critical errors in existing implementations, emphasizing the importance of standardized and reliable tools. Orthogonium thus significantly lowers adoption barriers, enabling scalable experimentation and integration across diverse applications requiring orthogonality and robust Lipschitz constraints. Orthogonium is available at https://github.com/deel-ai/orthogonium.
- Abstract(参考訳): 直交層と1-Lipschitzニューラルネットワーク層は、堅牢なディープラーニングアーキテクチャにおいて必須のビルディングブロックであり、認証された対向ロバスト性、安定した生成モデル、信頼性の高いリカレントネットワークに不可欠である。
大幅な進歩にもかかわらず、既存の実装は断片化され、制限され、計算的に要求される。
これらの問題に対処するために、直交層と1-Lipschitz層を提供する統一的で効率的で包括的なPyTorchライブラリであるOrthogoniumを紹介する。
Orthogoniumは、厳密な数学的保証を維持しながら、歩数、拡張、グループ化、転置を含む標準的な畳み込み機能へのアクセスを提供する。
最適化された実装は、ImageNetのような大規模ベンチマークのオーバーヘッドを減らす。
さらに、ライブラリ内の厳格なテストは、既存の実装における重大なエラーを発見し、標準化された信頼性の高いツールの重要性を強調した。
これによりOrthogoniumは採用障壁を大幅に減らし、リプシッツの厳密な制約と直交性を必要とする多様なアプリケーションにわたるスケーラブルな実験と統合を可能にした。
Orthogoniumはhttps://github.com/deel-ai/orthogoniumで入手できる。
関連論文リスト
- Möbius-Guided Diagonal-Gate Compilation with Native Multiqubit Controlled-Phase Gates on Neutral-Atom Processors [9.204529285791223]
本稿では, 対角相関数を部分格子Mbiusインバージョンによる位相ハイパーグラフにマッピングするMbius-guidedコンパイラを提案する。
ハイパーグラフは各多体相項の支持と角度を保持しており、スパースまたは局所的な高次構造をネイティブなマルチビット制御相候補としてルーティングすることができる。
論文 参考訳(メタデータ) (2026-07-09T08:09:28Z) - Routing Techniques for Error Corrected Silicon Spin Qubit Quantum Architectures [5.037910041860836]
シリコンスピン量子ビットは、その好ましいスケーリングと製造特性のために、有望な量子ビット技術として登場した。
量子回路を スピン量子ビットの プラットフォームに効率的にコンパイルする
平面モデル上での最近のスネークに基づくスピン量子ビットのコンパイルフレームワークを導入し,2次元表面コードと量子テレポーテーションを用いて誤りを軽減した。
多様なアーキテクチャ設定と問題サイズにまたがるアルゴリズムの評価を行い、低欠陥シナリオにおいて最短パス法が優れ、高密度環境ではローテーションベースのアプローチの方が優れていることを示した。
論文 参考訳(メタデータ) (2026-07-08T18:05:06Z) - Combinatorial Synthesis: Scaling Code RLVR via Atomic Decomposition and Recombination [70.27578249309103]
RLVR(Reinforcement Learning with Verifiable Rewards)は、大規模言語モデル(LLM)の顕著なコーディング能力を形成する基盤として登場した。
我々は、原子要素への分解と制御された再結合によって検証可能なコードタスクを生成する新しいフレームワークであるAtomic Decomposition and Recombination (ADR)を提案する。
私たちの仕事は、新しいコードタスク合成とスケーラブルなRLVRトレーニングのための新しいパラダイムに光を当てています。
論文 参考訳(メタデータ) (2026-05-29T09:29:32Z) - SpineContextResUNet: A Computationally Efficient Residual UNet for Spine CT Segmentation [0.21485350418225244]
SpineContextResUNetは高速な脊髄局在化のための計算効率の良い3次元残留U-Netである。
我々のアーキテクチャは、長距離解剖学的依存関係をキャプチャするために並列な多次元畳み込みを利用する軽量なContext Blockを統合している。
当社のモデルは、堅牢な推論を実行し、ポイント・オブ・ケアの診断とエッジプラットフォームへのデプロイに有効なソリューションとなる。
論文 参考訳(メタデータ) (2026-05-20T06:00:23Z) - Doubly Robust Proxy Causal Learning with Neural Mean Embeddings [58.8808794752741]
我々は、連続的かつ構造化された治療を用いて因果学習をプロキシするための、神経的に二重に頑健なフレームワークを開発する。
このフレームワークは、人口、不均一、条件付き線量応答関数をカバーし、完全な応答曲線推定器を生成する。
合成および画像評価ベンチマーク全体で、提案した推定器は既存のベースラインと単一ブリッジニューラル推定器より優れている。
論文 参考訳(メタデータ) (2026-05-10T12:50:25Z) - Efficient mapping of multi-constraint satisfaction problems to Rydberg platforms [0.040150524643488644]
本稿では,Rydberg量子コンピューティングアーキテクチャにおける制約満足度問題を解決するための,ハードウェアネイティブなガジェットフレームワークを提案する。
当社のアプローチでは,厳密な制約を厳格に強制する,コンパクトな$xor_1$ガジェットを導入している。
遅延範囲の最大99%の削減と、原子数と接続オーバーヘッドの削減を観察する。
論文 参考訳(メタデータ) (2026-04-29T15:01:02Z) - RaBiT: Residual-Aware Binarization Training for Accurate and Efficient LLMs [5.782015253162346]
残留バイナライゼーションは、バイナリ層を積み重ねることで、マットルフリーな推論を可能にする。
本稿では,残差階層をアルゴリズム的に強制することでコダプタ化を解決する新しい量子化フレームワークであるRaBiTを提案する。
RaBiTは最先端のパフォーマンスを実現し、ハードウェア集約型ベクトル量子化(VQ)の手法と競合する。
論文 参考訳(メタデータ) (2026-02-05T06:41:11Z) - Unleashing Degradation-Carrying Features in Symmetric U-Net: Simpler and Stronger Baselines for All-in-One Image Restoration [52.82397287366076]
オールインワン画像復元は、統合された枠組み内で様々な劣化(ノイズ、ぼかし、悪天候など)を扱うことを目的としている。
本研究では, 優れた特徴抽出法により, 劣化伝達情報を本質的にエンコードする, 重要な知見を明らかにする。
我々の対称設計は固有の劣化信号を頑健に保存し、スキップ接続に単純な加法融合を施す。
論文 参考訳(メタデータ) (2025-12-11T12:20:31Z) - Scale-Insensitive Neural Network Significance Tests [0.0]
本稿では、ニューラルネットワークの重要度テストのためのスケールインセンティブなフレームワークを開発する。
我々は、計量エントロピー計算をラデマッハ複雑性境界に置き換える。
対象関数上の正則性条件を弱め、ソボレフ空間メンバシップのみを必要とする。
論文 参考訳(メタデータ) (2025-01-27T03:45:26Z) - An Adaptive Orthogonal Convolution Scheme for Efficient and Flexible CNN Architectures [8.136541584281987]
AOC(Adaptative Orthogonal Convolution)は,従来の手法を拡張するスケーラブルな手法である。
実験を通して,本手法がスケールするにつれて効率が向上する表現モデルを生成することを示す。
さらなる進歩を促すため,Orthogoniumと呼ばれるこの手法を実装したオープンソースのpythonパッケージを提供する。
論文 参考訳(メタデータ) (2025-01-14T08:32:12Z) - Towards Continual Learning Desiderata via HSIC-Bottleneck
Orthogonalization and Equiangular Embedding [55.107555305760954]
本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。
提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
論文 参考訳(メタデータ) (2024-01-17T09:01:29Z) - Optimal Transport-inspired Deep Learning Framework for Slow-Decaying Kolmogorov n-width Problems: Exploiting Sinkhorn Loss and Wasserstein Kernel [0.0]
還元次数モデル(ROM)は、高次元システムに対処するために科学計算で広く使われている。
最適輸送理論とニューラルネットワークに基づく手法を統合した新しいROMフレームワークを提案する。
我々のフレームワークは、精度と計算効率の点で従来のROM手法より優れています。
論文 参考訳(メタデータ) (2023-08-26T10:24:43Z) - Efficient Bound of Lipschitz Constant for Convolutional Layers by Gram
Iteration [122.51142131506639]
循環行列理論を用いて畳み込み層のスペクトルノルムに対して、精密で高速で微分可能な上界を導入する。
提案手法は, 精度, 計算コスト, スケーラビリティの観点から, 他の最先端手法よりも優れていることを示す。
これは畳み込みニューラルネットワークのリプシッツ正則化に非常に効果的であり、並行アプローチに対する競合的な結果である。
論文 参考訳(メタデータ) (2023-05-25T15:32:21Z) - Robust Training and Verification of Implicit Neural Networks: A
Non-Euclidean Contractive Approach [64.23331120621118]
本稿では,暗黙的ニューラルネットワークのトレーニングとロバスト性検証のための理論的および計算的枠組みを提案する。
組込みネットワークを導入し、組込みネットワークを用いて、元のネットワークの到達可能な集合の超近似として$ell_infty$-normボックスを提供することを示す。
MNISTデータセット上で暗黙的なニューラルネットワークをトレーニングするためにアルゴリズムを適用し、我々のモデルの堅牢性と、文献における既存のアプローチを通じてトレーニングされたモデルを比較する。
論文 参考訳(メタデータ) (2022-08-08T03:13:24Z) - Low-rank Tensor Learning with Nonconvex Overlapped Nuclear Norm
Regularization [44.54772242784423]
低ランク学習行列に対する効率的な非正規化アルゴリズムを開発した。
提案アルゴリズムは、高価な折り畳み/折り畳み問題を回避することができる。
実験の結果,提案アルゴリズムは既存の状態よりも効率的で空間が広いことがわかった。
論文 参考訳(メタデータ) (2022-05-06T07:47:10Z) - Orthogonalizing Convolutional Layers with the Cayley Transform [83.73855414030646]
直交に制約された畳み込み層をパラメータ化するための代替手法を提案し,評価する。
本手法は,大規模畳み込みにおいても直交性が高次に保たれることを示す。
論文 参考訳(メタデータ) (2021-04-14T23:54:55Z) - Adaptive Linear Span Network for Object Skeleton Detection [56.78705071830965]
本研究では,適応線形スパンネットワーク(AdaLSN)を提案する。
AdaLSNは、精度とレイテンシのトレードオフを著しく高めることで、その汎用性を裏付ける。
また、エッジ検出や道路抽出といったイメージ・ツー・マスクのタスクに適用可能であることも示している。
論文 参考訳(メタデータ) (2020-11-08T12:51:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。