論文の概要: Orthogonium : A Unified, Efficient Library of Orthogonal and 1-Lipschitz Building Blocks
- arxiv url: http://arxiv.org/abs/2601.13776v1
- Date: Tue, 20 Jan 2026 09:33:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-21 22:47:23.250284
- Title: Orthogonium : A Unified, Efficient Library of Orthogonal and 1-Lipschitz Building Blocks
- Title(参考訳): Orthogonium : 直交ブロックと1-Lipschitzビルディングブロックの統一的で効率的なライブラリ
- Authors: Thibaut Boissin, Franck Mamalet, Valentin Lafargue, Mathieu Serrurier,
- Abstract要約: Orthogoniumは、Orthogonal層と1-Lipschitz層を提供する、統一的で効率的で包括的なPyTorchライブラリである。
Orthogoniumは、厳密な数学的保証を維持しながら、歩数、拡張、グループ化、転置を含む標準的な畳み込み機能へのアクセスを提供する。
- 参考スコア(独自算出の注目度): 7.578052704279305
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Orthogonal and 1-Lipschitz neural network layers are essential building blocks in robust deep learning architectures, crucial for certified adversarial robustness, stable generative models, and reliable recurrent networks. Despite significant advancements, existing implementations remain fragmented, limited, and computationally demanding. To address these issues, we introduce Orthogonium , a unified, efficient, and comprehensive PyTorch library providing orthogonal and 1-Lipschitz layers. Orthogonium provides access to standard convolution features-including support for strides, dilation, grouping, and transposed-while maintaining strict mathematical guarantees. Its optimized implementations reduce overhead on large scale benchmarks such as ImageNet. Moreover, rigorous testing within the library has uncovered critical errors in existing implementations, emphasizing the importance of standardized and reliable tools. Orthogonium thus significantly lowers adoption barriers, enabling scalable experimentation and integration across diverse applications requiring orthogonality and robust Lipschitz constraints. Orthogonium is available at https://github.com/deel-ai/orthogonium.
- Abstract(参考訳): 直交層と1-Lipschitzニューラルネットワーク層は、堅牢なディープラーニングアーキテクチャにおいて必須のビルディングブロックであり、認証された対向ロバスト性、安定した生成モデル、信頼性の高いリカレントネットワークに不可欠である。
大幅な進歩にもかかわらず、既存の実装は断片化され、制限され、計算的に要求される。
これらの問題に対処するために、直交層と1-Lipschitz層を提供する統一的で効率的で包括的なPyTorchライブラリであるOrthogoniumを紹介する。
Orthogoniumは、厳密な数学的保証を維持しながら、歩数、拡張、グループ化、転置を含む標準的な畳み込み機能へのアクセスを提供する。
最適化された実装は、ImageNetのような大規模ベンチマークのオーバーヘッドを減らす。
さらに、ライブラリ内の厳格なテストは、既存の実装における重大なエラーを発見し、標準化された信頼性の高いツールの重要性を強調した。
これによりOrthogoniumは採用障壁を大幅に減らし、リプシッツの厳密な制約と直交性を必要とする多様なアプリケーションにわたるスケーラブルな実験と統合を可能にした。
Orthogoniumはhttps://github.com/deel-ai/orthogoniumで入手できる。
関連論文リスト
- Unleashing Degradation-Carrying Features in Symmetric U-Net: Simpler and Stronger Baselines for All-in-One Image Restoration [52.82397287366076]
オールインワン画像復元は、統合された枠組み内で様々な劣化(ノイズ、ぼかし、悪天候など)を扱うことを目的としている。
本研究では, 優れた特徴抽出法により, 劣化伝達情報を本質的にエンコードする, 重要な知見を明らかにする。
我々の対称設計は固有の劣化信号を頑健に保存し、スキップ接続に単純な加法融合を施す。
論文 参考訳(メタデータ) (2025-12-11T12:20:31Z) - Scale-Insensitive Neural Network Significance Tests [0.0]
本稿では、ニューラルネットワークの重要度テストのためのスケールインセンティブなフレームワークを開発する。
我々は、計量エントロピー計算をラデマッハ複雑性境界に置き換える。
対象関数上の正則性条件を弱め、ソボレフ空間メンバシップのみを必要とする。
論文 参考訳(メタデータ) (2025-01-27T03:45:26Z) - An Adaptive Orthogonal Convolution Scheme for Efficient and Flexible CNN Architectures [8.136541584281987]
AOC(Adaptative Orthogonal Convolution)は,従来の手法を拡張するスケーラブルな手法である。
実験を通して,本手法がスケールするにつれて効率が向上する表現モデルを生成することを示す。
さらなる進歩を促すため,Orthogoniumと呼ばれるこの手法を実装したオープンソースのpythonパッケージを提供する。
論文 参考訳(メタデータ) (2025-01-14T08:32:12Z) - Towards Continual Learning Desiderata via HSIC-Bottleneck
Orthogonalization and Equiangular Embedding [55.107555305760954]
本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。
提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
論文 参考訳(メタデータ) (2024-01-17T09:01:29Z) - Efficient Bound of Lipschitz Constant for Convolutional Layers by Gram
Iteration [122.51142131506639]
循環行列理論を用いて畳み込み層のスペクトルノルムに対して、精密で高速で微分可能な上界を導入する。
提案手法は, 精度, 計算コスト, スケーラビリティの観点から, 他の最先端手法よりも優れていることを示す。
これは畳み込みニューラルネットワークのリプシッツ正則化に非常に効果的であり、並行アプローチに対する競合的な結果である。
論文 参考訳(メタデータ) (2023-05-25T15:32:21Z) - Robust Training and Verification of Implicit Neural Networks: A
Non-Euclidean Contractive Approach [64.23331120621118]
本稿では,暗黙的ニューラルネットワークのトレーニングとロバスト性検証のための理論的および計算的枠組みを提案する。
組込みネットワークを導入し、組込みネットワークを用いて、元のネットワークの到達可能な集合の超近似として$ell_infty$-normボックスを提供することを示す。
MNISTデータセット上で暗黙的なニューラルネットワークをトレーニングするためにアルゴリズムを適用し、我々のモデルの堅牢性と、文献における既存のアプローチを通じてトレーニングされたモデルを比較する。
論文 参考訳(メタデータ) (2022-08-08T03:13:24Z) - Low-rank Tensor Learning with Nonconvex Overlapped Nuclear Norm
Regularization [44.54772242784423]
低ランク学習行列に対する効率的な非正規化アルゴリズムを開発した。
提案アルゴリズムは、高価な折り畳み/折り畳み問題を回避することができる。
実験の結果,提案アルゴリズムは既存の状態よりも効率的で空間が広いことがわかった。
論文 参考訳(メタデータ) (2022-05-06T07:47:10Z) - Orthogonalizing Convolutional Layers with the Cayley Transform [83.73855414030646]
直交に制約された畳み込み層をパラメータ化するための代替手法を提案し,評価する。
本手法は,大規模畳み込みにおいても直交性が高次に保たれることを示す。
論文 参考訳(メタデータ) (2021-04-14T23:54:55Z) - Adaptive Linear Span Network for Object Skeleton Detection [56.78705071830965]
本研究では,適応線形スパンネットワーク(AdaLSN)を提案する。
AdaLSNは、精度とレイテンシのトレードオフを著しく高めることで、その汎用性を裏付ける。
また、エッジ検出や道路抽出といったイメージ・ツー・マスクのタスクに適用可能であることも示している。
論文 参考訳(メタデータ) (2020-11-08T12:51:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。