論文の概要: asdex: Automatic Sparse Differentiation in JAX

• arxiv url: http://arxiv.org/abs/2610.12336v2
• Date: Fri, 09 Oct 2026 10:46:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.21003
• Title: asdex: Automatic Sparse Differentiation in JAX
• Title（参考訳）: asdex: JAX の自動スパース差別化
• Abstract要約: asdexは、人気の高いJAXエコシステムで最初のスタンドアロンのASDツールキットを提供する。 これは、$textttasdex.jacobian$と$textttasdex.hessian$のスパースドロップイン代替を提供する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Many tasks in scientific computing and machine learning require the Jacobian or Hessian matrix of a function. Automatic differentiation (AD) computes these derivatives to machine precision, but materializing a dense $m \times n$ Jacobian requires $n$ forward-mode or $m$ reverse-mode AD passes, one per column or row. For a large class of functions, each output depends on only a few inputs, making the derivative matrix sparse. Automatic sparse differentiation (ASD) exploits this structure in four steps: detection of the input-agnostic sparsity pattern, coloring of a graph to group columns or rows that can share an AD pass, compressed differentiation to compute a compressed derivative matrix with one AD pass per color, and finally decompression into the original sparsity pattern. The number of colors, and hence of AD passes, is often independent of the problem dimension: a banded Jacobian with $b$ contiguous bands, for instance, only ever requires $b$ colors, regardless of its size. asdex offers the first standalone ASD toolkit in the popular JAX ecosystem. With $\texttt{asdex.jacobian}$ and $\texttt{asdex.hessian}$, it provides sparse drop-in replacements for $\texttt{jax.jacobian}$ and $\texttt{jax.hessian}$.
• Abstract（参考訳）: 科学計算や機械学習における多くのタスクは、関数のヤコビ行列やヘッセン行列を必要とする。 自動微分(AD)はこれらの微分を機械の精度で計算するが、密度の高い$m \times n$ Jacobianは$n$フォワードモードまたは$m$リバースモードADパスを必要としている。 関数の大規模なクラスでは、各出力は少数の入力にのみ依存し、微分行列はスパースである。 自動スパース微分(ASD)は、入力非依存の空間パターンの検出、ADパスを共有できるグループ列や行へのグラフの着色、圧縮された微分を計算して1つのADパスで圧縮された微分行列を計算し、最終的に元の空間パターンに分解する4つのステップでこの構造を利用する。 例えば、$b$の連続したバンドを持つ帯状のヤコビアンは、サイズに関係なく、わずか$b$の色しか必要としない。 asdexは、人気の高いJAXエコシステムで最初のスタンドアロンのASDツールキットを提供する。 $\textt{asdex.jacobian}$と$\texttt{asdex.hessian}$で、$\textt{jax.jacobian}$と$\texttt{jax.hessian}$のスパースドロップイン置換を提供する。

関連論文リスト

• Is Spurious Correlation Removal Always Learnable? [56.28155520961125]
  不変学習は、構造が統計的に識別可能であっても失敗することがある。 ブラックボックスサンプリング可能な教師付きスパースリカバリプリミティブの下では、実証可能な多次元環境が存在する。 合成および実際のデータセットは、予測されたギャップと遷移を示し、単純な多様性診断を動機付ける。
  論文  参考訳（メタデータ） (2026-06-11T05:49:43Z)
• Efficient Mean Curvature Computation on High-Dimensional Data Manifolds [52.452902154360565]
  高次元データセットの各点における局所的な平均曲率の推定は、機械学習アルゴリズムの重要な要素である。 本稿では,このコストを桁違いに削減する2つの補完的貢献を紹介する。 実世界のデータセットの実験では、オリジナルの実装と比較して50倍から300倍のスピードアップが確認されている。
  論文  参考訳（メタデータ） (2026-06-04T16:04:31Z)
• Archimedean Copula Inference via Taylor-Mode AD [18.39037222848089]
  既存のアルキメデスのコプラツールは、生存分析における(a)任意の1変数ごとの検閲、(b)任意のネストツリー、(c)正確なパラメータの3つをすべて処理していない。 我々は、任意の検閲マスクの下で、正確なネストコプラ確率とパラメータ勾配を評価するJAXフレームワークであるtextscacopulaを提案する。
  論文  参考訳（メタデータ） (2026-05-22T01:16:56Z)
• Exact Higher-Order Derivatives for SE(3) via Analytical/AD Methods [0.0]
  本稿では,SE(3)陰性ログ類似度に対するハイブリッド分析/AD法を提案する。 代表6-DoF, 5-ランドマークSE(3) NLLでは、提唱されたシード-ヘッセン経路はAD勾配を有限差分するよりも約5倍高速である。
  論文  参考訳（メタデータ） (2026-05-04T05:55:59Z)
• Sparser, Better, Faster, Stronger: Sparsity Detection for Efficient Automatic Differentiation [0.0]
  ヤコビアン行列とヘッセン行列は機械学習(ML)における多くの潜在的なユースケースを持つ 本稿では, 自動スパース差分法(ASD)の性能ボトルネックである疎度検出の進歩について述べる。 科学ML,グラフニューラルネットワーク,最適化といった実世界の問題に対して,最大3桁の大幅なスピードアップを示す。
  論文  参考訳（メタデータ） (2025-01-29T16:21:54Z)
• Fine-grained Analysis and Faster Algorithms for Iteratively Solving Linear Systems [9.30306458153248]
  多くの機械学習タスクにおいて重要なボトルネックとなっているが、大規模な線形システムの解決コストは定量化が難しいことが証明されている。 低次元構造を示すアプリケーションによって動機づけられた線形システムの解法における複雑性の微妙な概念を考察する。 線形システム $Ax = b$, すなわち $|Abarx - b| le epsilon |b|$ であるような $barx$ を求める。
  論文  参考訳（メタデータ） (2024-05-09T14:56:49Z)
• Sublinear Time Approximation of Text Similarity Matrices [50.73398637380375]
  一般的なNystr"om法を不確定な設定に一般化する。 我々のアルゴリズムは任意の類似性行列に適用でき、行列のサイズでサブ線形時間で実行される。 本手法は,CUR分解の単純な変種とともに,様々な類似性行列の近似において非常によく機能することを示す。
  論文  参考訳（メタデータ） (2021-12-17T17:04:34Z)
• Linear-Sample Learning of Low-Rank Distributions [56.59844655107251]
  ktimes k$, rank-r$, matrices to normalized $L_1$ distance requires $Omega(frackrepsilon2)$ sample。 我々は、$cal O(frackrepsilon2log2fracepsilon)$ sample, a number linear in the high dimension, and almost linear in the matrices, usually low, rank proofs.というアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-09-30T19:10:32Z)
• FANOK: Knockoffs in Linear Time [73.5154025911318]
  本稿では,ガウスモデル-Xノックオフを効率的に実装し,大規模特徴選択問題における誤発見率を制御するアルゴリズムについて述べる。 当社のメソッドは、最大50,000ドルという問題でテストしています。
  論文  参考訳（メタデータ） (2020-06-15T21:55:34Z)
• Spectral Learning on Matrices and Tensors [74.88243719463053]
  テンソル分解は行列法で欠落する潜伏効果を拾うことができることを示す。 また,効率的なテンソル分解法を設計するための計算手法についても概説する。
  論文  参考訳（メタデータ） (2020-04-16T22:53:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。