論文の概要: A Common Interface for Automatic Differentiation
- arxiv url: http://arxiv.org/abs/2505.05542v1
- Date: Thu, 08 May 2025 16:55:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-12 20:40:10.028133
- Title: A Common Interface for Automatic Differentiation
- Title(参考訳): 自動微分のための共通インタフェース
- Authors: Guillaume Dalle, Adrian Hill,
- Abstract要約: Juliaは多数の自動微分(AD)バックエンドに共通している。
その内蔵された準備メカニズムは、各バックエンドの強みを活用して、ワンタイム計算を償却する。
これは、ユーザーに余分な負担をかけることなく、スパーシティハンドリングのような洗練された機能を実現するための鍵である。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: For scientific machine learning tasks with a lot of custom code, picking the right Automatic Differentiation (AD) system matters. Our Julia package DifferentiationInterface.jl provides a common frontend to a dozen AD backends, unlocking easy comparison and modular development. In particular, its built-in preparation mechanism leverages the strengths of each backend by amortizing one-time computations. This is key to enabling sophisticated features like sparsity handling without putting additional burdens on the user.
- Abstract(参考訳): 多くのカスタムコードを持つ科学的な機械学習タスクでは、適切な自動微分(AD)システムを選択することが重要です。
Juliaパッケージ DifferentiationInterface.jlは、数十のADバックエンドの共通フロントエンドを提供し、簡単に比較とモジュラー開発を解放します。
特に、内蔵された準備メカニズムは、各バックエンドの強みを活用して、ワンタイム計算を償却する。
これは、ユーザーに余分な負担をかけることなく、スパーシティハンドリングのような洗練された機能を実現するための鍵である。
関連論文リスト
- AutoHete: An Automatic and Efficient Heterogeneous Training System for LLMs [68.99086112477565]
トランスフォーマーベースの大規模言語モデル(LLM)は、シーケンスモデリングやテキスト生成において例外的な機能を示した。
既存の異種トレーニング手法は、トレーニング可能なモデルの規模を大幅に拡大するが、かなりの通信オーバーヘッドとCPUワークロードを導入している。
本稿では,シングルGPU環境とマルチGPU環境の両方に互換性のある,自動的で効率的なヘテロジニアストレーニングシステムであるAutoHeteを提案する。
論文 参考訳(メタデータ) (2025-02-27T14:46:22Z) - Sparser, Better, Faster, Stronger: Efficient Automatic Differentiation for Sparse Jacobians and Hessians [0.0]
ヤコビアンとヘッセンは機械学習(ML)において多くの潜在的なユースケースを持っているが、従来の知恵ではそれらが計算的に禁止されているとみなしている。
本稿では,スパース差分法(ASD)の進歩について述べる。
また,Julia における新しい ASD パイプラインについて述べる。
論文 参考訳(メタデータ) (2025-01-29T16:21:54Z) - Hardware Aware Ensemble Selection for Balancing Predictive Accuracy and Cost [0.6486052012623046]
ハードウェア対応のアンサンブル選択手法を導入し,推論時間をポストホックアンサンブルに統合する。
提案手法は,既存のアンサンブル選択フレームワークと品質多様性最適化を利用して,その予測精度とハードウェア効率について,アンサンブル候補の評価を行う。
83の分類データセットを用いて評価したところ,本手法は競争精度を保ち,アンサンブルの操作効率を大幅に向上させることができることがわかった。
論文 参考訳(メタデータ) (2024-08-05T07:30:18Z) - AutoAct: Automatic Agent Learning from Scratch for QA via Self-Planning [54.47116888545878]
AutoActはQAのための自動エージェント学習フレームワークである。
大規模アノテートデータやクローズドソースモデルからの合成計画軌道は依存していない。
論文 参考訳(メタデータ) (2024-01-10T16:57:24Z) - Empowering Private Tutoring by Chaining Large Language Models [87.76985829144834]
本研究は,最先端の大規模言語モデル(LLM)を活用した,本格的な知的チューリングシステムの開発を探求する。
このシステムは、相互に接続された3つのコアプロセス(相互作用、反射、反応)に分けられる。
各プロセスは LLM ベースのツールと動的に更新されたメモリモジュールによって実装される。
論文 参考訳(メタデータ) (2023-09-15T02:42:03Z) - AbstractDifferentiation.jl: Backend-Agnostic Differentiable Programming
in Julia [3.251765107970636]
本稿では,任意の自動微分(AD)パッケージ用の拡張ユーザ対応APIの自動生成のためのAbstractDifferentiation.jlを提案する。
ADユーザとAD開発者の複雑さを分割することで、ADパッケージ開発者は1つまたは2つのプリミティブ定義を実装するだけでよい。
論文 参考訳(メタデータ) (2021-09-25T22:19:12Z) - Efficient and Modular Implicit Differentiation [68.74748174316989]
最適化問題の暗黙的な微分のための統一的で効率的かつモジュール化されたアプローチを提案する。
一見単純な原理は、最近提案された多くの暗黙の微分法を復元し、新しいものを簡単に作成できることを示している。
論文 参考訳(メタデータ) (2021-05-31T17:45:58Z) - Modular approach to data preprocessing in ALOHA and application to a
smart industry use case [0.0]
データ前処理と変換パイプラインをサポートするために、ALOHAツールフローに統合されたモジュラーアプローチに対処する。
提案手法の有効性を示すために,キーワードスポッティングのユースケースに関する実験結果を示す。
論文 参考訳(メタデータ) (2021-02-02T06:48:51Z) - Attentive Autoencoders for Multifaceted Preference Learning in One-class
Collaborative Filtering [23.056754242935824]
Attentive Multi-modal AutoRecはマルチモーダル潜在表現でユーザの好みを追跡する。
AMAはOC-CF設定下での最先端モデルと競合することを示す。
論文 参考訳(メタデータ) (2020-10-24T06:35:44Z) - AutoFIS: Automatic Feature Interaction Selection in Factorization Models
for Click-Through Rate Prediction [75.16836697734995]
自動特徴相互作用選択(AutoFIS)と呼ばれる2段階のアルゴリズムを提案する。
AutoFISは、目標モデルを収束させるためにトレーニングするのと同等の計算コストで、因子化モデルに対する重要な特徴的相互作用を自動的に識別することができる。
AutoFISはHuawei App Storeレコメンデーションサービスのトレーニングプラットフォームにデプロイされている。
論文 参考訳(メタデータ) (2020-03-25T06:53:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。