論文の概要: Recursive Function Definitions in Static Dataflow Graphs and their Implementation in TensorFlow

• arxiv url: http://arxiv.org/abs/2410.20225v1
• Date: Sat, 26 Oct 2024 16:40:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-29 12:20:50.626433
• Title: Recursive Function Definitions in Static Dataflow Graphs and their Implementation in TensorFlow
• Title（参考訳）: 静的データフローグラフにおける再帰関数定義とTensorFlowにおける実装
• Authors: Kelly Kostopoulou, Angelos Charalambidis, Panos Rondogiannis,
• Abstract要約: データフローベースシステムにおける関数定義を支援するための効率的な手法を提案する。 当社では,データフローシステムの誕生以来の基盤のひとつとして,タグ付けというアイデアを多用しています。
• 参考スコア（独自算出の注目度）: 0.8368470115534696
• License:
• Abstract: Modern machine learning systems represent their computations as dataflow graphs. The increasingly complex neural network architectures crave for more powerful yet efficient programming abstractions. In this paper we propose an efficient technique for supporting recursive function definitions in dataflow-based systems such as TensorFlow. The proposed approach transforms the given recursive definitions into a static dataflow graph that is enriched with two simple yet powerful dataflow operations. Since static graphs do not change during execution, they can be easily partitioned and executed efficiently in distributed and heterogeneous environments. The proposed technique makes heavy use of the idea of tagging, which was one of the cornerstones of dataflow systems since their inception. We demonstrate that our technique is compatible with the idea of automatic differentiation, a notion that is crucial for dataflow systems that focus on deep learning applications. We describe the principles of an actual implementation of the technique in the TensorFlow framework, and present experimental results that demonstrate that the use of tagging is of paramount importance for developing efficient high-level abstractions for modern dataflow systems.
• Abstract（参考訳）: 現代の機械学習システムは、計算をデータフローグラフとして表現している。 ますます複雑なニューラルネットワークアーキテクチャは、より強力で効率的なプログラミング抽象化を求めている。 本稿では,TensorFlowなどのデータフローベースシステムにおける再帰関数定義を支援するための効率的な手法を提案する。 提案手法は,与えられた再帰的定義を静的なデータフローグラフに変換する。 静的グラフは実行中に変化しないため、分散および異種環境において簡単にパーティショニングされ、効率的に実行される。 提案手法は,データフローシステムの誕生以来の基盤の1つであるタグ付けの考え方を多用している。 我々は,ディープラーニングアプリケーションに重点を置くデータフローシステムにおいて重要な概念である,自動微分の概念と互換性があることを実証する。 本稿では,この手法をTensorFlowフレームワークに実際に実装することの原理を述べるとともに,現代のデータフローシステムにおいて,効率的な高レベルの抽象化を開発する上で,タグ付けの利用が最重要であることを示す実験結果について述べる。

関連論文リスト

• Efficient and Effective Implicit Dynamic Graph Neural Network [42.49148111696576]
  Indicit Dynamic Graph Neural Network (IDGNN) は動的グラフのための新しい暗黙的ニューラルネットワークである。 IDGNNの鍵となる特徴は、それが実証的に良好である、すなわち、固定点表現を持つことが理論的に保証されていることである。
  論文  参考訳（メタデータ） (2024-06-25T19:07:21Z)
• FlowerFormer: Empowering Neural Architecture Encoding using a Flow-aware Graph Transformer [22.99322654701362]
  本稿では,ニューラルネットワーク内に情報フローを組み込んだ強力なグラフトランスフォーマーであるFlowerFormerを紹介する。 本研究では,既存のニューラルエンコーディング法よりもFlowerFormerの方が優れていることを示す。
  論文  参考訳（メタデータ） (2024-03-19T15:21:10Z)
• GNNFlow: A Distributed Framework for Continuous Temporal GNN Learning on Dynamic Graphs [11.302970701867844]
  本稿では,効率的な時間的グラフ表現学習のための分散フレームワークであるGNNFlowを紹介する。 GNNFlowは、負荷バランスを確保するために、静的スケジューリングを備えた複数のマシンでの分散トレーニングをサポートする。 実験の結果,GNNFlowは既存のシステムに比べて最大21.1倍高速な継続的学習を実現することがわかった。
  論文  参考訳（メタデータ） (2023-11-29T07:30:32Z)
• Dynamic Perceiver for Efficient Visual Recognition [87.08210214417309]
  特徴抽出手順と早期分類タスクを分離する動的知覚器(Dyn-Perceiver)を提案する。 特徴ブランチは画像の特徴を抽出し、分類ブランチは分類タスクに割り当てられた遅延コードを処理する。 早期出口は分類枝に限られており、低レベルの特徴において線形分離性は不要である。
  論文  参考訳（メタデータ） (2023-06-20T03:00:22Z)
• Bures-Wasserstein Means of Graphs [60.42414991820453]
  本研究では,スムーズなグラフ信号分布の空間への埋め込みを通じて,グラフ平均を定義する新しいフレームワークを提案する。 この埋め込み空間において平均を求めることにより、構造情報を保存する平均グラフを復元することができる。 我々は,新しいグラフの意味の存在と特異性を確立し,それを計算するための反復アルゴリズムを提供する。
  論文  参考訳（メタデータ） (2023-05-31T11:04:53Z)
• Generative Flow Networks for Precise Reward-Oriented Active Learning on Graphs [34.76241250013461]
  本稿では,グラフ能動学習問題をGFlowGNNと呼ばれる生成過程として定式化し,逐次動作によって様々なサンプルを生成する。 提案手法は,様々な最先端手法よりも優れた探索能力と伝達性を有することを示す。
  論文  参考訳（メタデータ） (2023-04-24T10:47:08Z)
• FlowNAS: Neural Architecture Search for Optical Flow Estimation [65.44079917247369]
  本研究では,フロー推定タスクにおいて,より優れたエンコーダアーキテクチャを自動で見つけるために,FlowNASというニューラルアーキテクチャ探索手法を提案する。 実験の結果、スーパーネットワークから受け継いだ重み付きアーキテクチャは、KITTI上で4.67%のF1-allエラーを達成していることがわかった。
  論文  参考訳（メタデータ） (2022-07-04T09:05:25Z)
• FlowX: Towards Explainable Graph Neural Networks via Message Flows [59.025023020402365]
  グラフニューラルネットワーク(GNN)の動作メカニズム解明へのステップとして,その説明可能性について検討する。 本稿では,重要なメッセージフローを識別してGNNを説明するために,FlowXと呼ばれる新しい手法を提案する。 そこで我々は,多様な説明対象に向けて,フロースコアを学習するための情報制御学習アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-06-26T22:48:15Z)
• Automated Evolutionary Approach for the Design of Composite Machine Learning Pipelines [48.7576911714538]
  提案手法は、複合機械学習パイプラインの設計を自動化することを目的としている。 パイプラインをカスタマイズ可能なグラフベースの構造で設計し、得られた結果を分析して再生する。 このアプローチのソフトウェア実装は、オープンソースフレームワークとして紹介されている。
  論文  参考訳（メタデータ） (2021-06-26T23:19:06Z)
• Self Normalizing Flows [65.73510214694987]
  本稿では,各層における学習された近似逆数により,勾配の高価な項を置き換えることで,フローの正規化を訓練するための柔軟なフレームワークを提案する。 これにより、各レイヤの正確な更新の計算複雑性が$mathcalO(D3)$から$mathcalO(D2)$に削減される。 実験により,これらのモデルは非常に安定であり,正確な勾配値と類似したデータ可能性値に最適化可能であることが示された。
  論文  参考訳（メタデータ） (2020-11-14T09:51:51Z)
• Active Learning on Attributed Graphs via Graph Cognizant Logistic Regression and Preemptive Query Generation [37.742218733235084]
  本稿では,属性グラフにおけるノード分類処理のための新しいグラフベース能動学習アルゴリズムを提案する。 提案アルゴリズムは,線形化グラフ畳み込みニューラルネットワーク(GCN)と等価なグラフ認識ロジスティック回帰を用いて,予測フェーズの誤差低減を最大化する。 5つの公開ベンチマークデータセットで実験を行い、最先端のアプローチよりも大幅に改善されていることを示す。
  論文  参考訳（メタデータ） (2020-07-09T18:00:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。