Fugu-MT 論文翻訳(概要): An Introduction to Automatic Differentiation forMachine Learning

論文の概要: An Introduction to Automatic Differentiation forMachine Learning

arxiv url: http://arxiv.org/abs/2110.06209v1
Date: Tue, 12 Oct 2021 00:10:28 GMT
ステータス: 処理完了
システム内更新日: 2021-10-14 14:06:00.632238
Title: An Introduction to Automatic Differentiation forMachine Learning
Title（参考訳）: 機械学習のための自動微分入門
Authors: Davan Harrison
Abstract要約: ニューラルネットワークモデルは一般的に、モデルをデータセットに適合させるために勾配ベースの最適化手法を実行するフレームワークを使用して実装される。これらのフレームワークは、自動微分(AD)と呼ばれる微分を計算する技術を用いて、モデルデザイナから微分計算を行う際の負担を取り除く。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Machine learning and neural network models in particular have been improving the state of the art performance on many artificial intelligence related tasks. Neural network models are typically implemented using frameworks that perform gradient based optimization methods to fit a model to a dataset. These frameworks use a technique of calculating derivatives called automatic differentiation (AD) which removes the burden of performing derivative calculations from the model designer. In this report we describe AD, its motivations, and different implementation approaches. We briefly describe dataflow programming as it relates to AD. Lastly, we present example programs that are implemented with Tensorflow and PyTorch, which are two commonly used AD frameworks.
Abstract（参考訳）: 特に機械学習とニューラルネットワークモデルは、多くの人工知能関連のタスクにおけるアートパフォーマンスの状態を改善している。ニューラルネットワークモデルは一般的に、モデルにデータセットを適合させるために勾配に基づく最適化手法を実行するフレームワークを使用して実装される。これらのフレームワークは自動微分 (automatic differentiation, aad) と呼ばれる微分を計算し、モデル設計者からの微分計算の負担をなくす手法を使っている。本稿では,ADとそのモチベーション,実装の異なるアプローチについて述べる。我々は、ADに関連するデータフロープログラミングを簡潔に記述する。最後に、一般的に使われている2つのADフレームワークであるTensorflowとPyTorchで実装した例を示す。

関連論文リスト

AI-Aided Kalman Filters [65.35350122917914]
カルマンフィルタ(KF)とその変種は、信号処理において最も著名なアルゴリズムの一つである。最近の進歩は、古典的なカルマン型フィルタリングでディープニューラルネットワーク(DNN)を融合させる可能性を示している。本稿では,KF型アルゴリズムにAIを組み込むための設計アプローチについて,チュートリアル形式で概説する。
論文参考訳（メタデータ） (2024-10-16T06:47:53Z)
Multi-GPU Approach for Training of Graph ML Models on large CFD Meshes [0.0]
メッシュベースの数値解法は多くのデザインツールチェーンにおいて重要な部分である。機械学習に基づく代理モデルは近似解を予測するのに速いが、精度に欠けることが多い。本稿では、グラフベース機械学習の領域から産業関連メッシュサイズまで、最先端のサロゲートモデルをスケールする。
論文参考訳（メタデータ） (2023-07-25T15:49:25Z)
Towards a population-informed approach to the definition of data-driven models for structural dynamics [0.0]
ここでは人口ベーススキームを踏襲し、メタラーニング領域からの2つの異なる機械学習アルゴリズムを用いる。このアルゴリズムは、従来の機械学習アルゴリズムよりも、関心の量を近似するのが目的のようだ。
論文参考訳（メタデータ） (2023-07-19T09:45:41Z)
MACE: An Efficient Model-Agnostic Framework for Counterfactual Explanation [132.77005365032468]
MACE(Model-Agnostic Counterfactual Explanation)の新たな枠組みを提案する。 MACE法では, 優れた反実例を見つけるための新しいRL法と, 近接性向上のための勾配のない降下法を提案する。公開データセットの実験は、有効性、空間性、近接性を向上して検証する。
論文参考訳（メタデータ） (2022-05-31T04:57:06Z)
Model Reprogramming: Resource-Efficient Cross-Domain Machine Learning [65.268245109828]
視覚、言語、音声などのデータに富む領域では、ディープラーニングが高性能なタスク固有モデルを提供するのが一般的である。リソース制限されたドメインでのディープラーニングは、(i)限られたデータ、(ii)制約付きモデル開発コスト、(iii)効果的な微調整のための適切な事前学習モデルの欠如など、多くの課題に直面している。モデル再プログラミングは、ソースドメインから十分に訓練されたモデルを再利用して、モデル微調整なしでターゲットドメインのタスクを解くことで、リソース効率のよいクロスドメイン機械学習を可能にする。
論文参考訳（メタデータ） (2022-02-22T02:33:54Z)
Assemble Foundation Models for Automatic Code Summarization [9.53949558569201]
ニューラルネットワークに基づく自動コード要約のためのフレキシブルでロバストなアプローチを提案する。 CodeBERT や GPT-2 のような利用可能な基盤モデルを AdaMo という単一のモデルに組み立てる。本稿では,知識伝達の観点から,連続事前学習と中間微調整という2つの適応型スキームを導入する。
論文参考訳（メタデータ） (2022-01-13T21:38:33Z)
Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
論文参考訳（メタデータ） (2021-06-17T17:26:31Z)
TrackMPNN: A Message Passing Graph Neural Architecture for Multi-Object Tracking [8.791710193028903]
本研究は,グラフに基づくデータ構造を用いて問題をモデル化する多目的追跡(MOT)への多くの従来のアプローチに従う。複数のタイムステップにまたがるデータ関連問題を表す動的無方向性グラフに基づくフレームワークを作成する。また、メモリ効率が高く、リアルタイムなオンラインアルゴリズムを作成するために対処する必要がある計算問題に対するソリューションと提案も提供します。
論文参考訳（メタデータ） (2021-01-11T21:52:25Z)
Model-Based Deep Learning [155.063817656602]
信号処理、通信、制御は伝統的に古典的な統計モデリング技術に依存している。ディープニューラルネットワーク(DNN)は、データから操作を学ぶ汎用アーキテクチャを使用し、優れたパフォーマンスを示す。私たちは、原理数学モデルとデータ駆動システムを組み合わせて両方のアプローチの利点を享受するハイブリッド技術に興味があります。
論文参考訳（メタデータ） (2020-12-15T16:29:49Z)
PermuteAttack: Counterfactual Explanation of Machine Learning Credit Scorecards [0.0]
本稿では、金融における小売クレジットスコアリングに使用される機械学習(ML)モデルの検証と説明のための新しい方向性と方法論について述べる。提案するフレームワークは人工知能(AI)のセキュリティと敵MLの分野からモチベーションを引き出す。
論文参考訳（メタデータ） (2020-08-24T00:05:13Z)
Model-Augmented Actor-Critic: Backpropagating through Paths [81.86992776864729]
現在のモデルに基づく強化学習アプローチでは、単に学習されたブラックボックスシミュレータとしてモデルを使用する。その微分可能性を利用してモデルをより効果的に活用する方法を示す。
論文参考訳（メタデータ） (2020-05-16T19:18:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。