論文の概要: Graphical einops: bridging tensor networks and computation graphs
- arxiv url: http://arxiv.org/abs/2605.31485v1
- Date: Fri, 29 May 2026 16:08:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-01 20:56:50.727652
- Title: Graphical einops: bridging tensor networks and computation graphs
- Title(参考訳): 図形象牙 : ブリッジングテンソルネットワークと計算グラフ
- Abstract要約: テンソルプログラミングの構造的断片に対する公式なグラフィカル計算を導入し,その基礎となるeinopsについて述べる。
重要な書き直しは、グレード・ナチュラル性(英語版)である。
さらに,注目マスクを前処理操作に変換するために,リライトシステムをどう適用するかを実証する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Architecture diagrams are ubiquitous in deep learning, but they are usually only representational: the tensor-program identities they suggest are still proved by prose and tensor-axis manipulation. We introduce a formal graphical calculus for the structural fragment of tensor programming underlying einops, making such diagrams proof-enabling. Our calculus represents tensor axes as nested graded tubes around a base type. The tube boundary recovers the undirected tensor-network view of axes, while the directed interior retains the operational reading of computation graphs. The key rewrite is grade-naturality: sliding spectacles over tubes. Standard equivariance proofs become short diagrammatic derivations. We additionally demonstrate how our rewrite system may be applied to convert attention masks into pre-processing operations, recovering efficient implementations of sparse attention blocks.
- Abstract(参考訳): アーキテクチャ図はディープラーニングにおいてユビキタスであるが、通常は表現のみであり、それらが示唆するテンソルプログラムのアイデンティティは、まだ散文とテンソル軸の操作によって証明されている。
我々は、テンソルプログラミングの構造的断片に対する形式的な図式を導入し、そのような図式を証明可能とする。
我々の計算は, テンソル軸を, ベースタイプの周囲にネストした等級の管として表現している。
管境界は軸の非直交テンソルネットワークビューを回復し、一方、有向インテリアは計算グラフの操作読影を保持する。
重要な書き直しは、グレード・ナチュラル性(英語版)である。
標準同値証明は短い図形の導出となる。
さらに,本システムを用いて,注目マスクを前処理操作に変換し,スパースアテンションブロックの効率的な実装を復元する方法を実証する。
関連論文リスト
- Parameterised graph theory for tensor networks: entanglement rerouting, structural simplification, and agnostic tomography [0.6117371161379209]
グラフパラメーターは、テンソル・ネットワーク状態(TNS)がトラクタブル行列積状態(MPS)かツリーテンソルネットワーク(TTN)表現を許容するか否かを判断し、状態の学習の複雑さを制御するかを示す。
実効性TNSトモグラフィーのサンプルと計算複雑性に基づいてグラフ依存上界を導出し、カット幅、ツリーカット幅、新しいグラフパラメータ、学習複雑性、次数およびツリー幅の面でのバウンドに依存する指数を導出する。
論文 参考訳(メタデータ) (2026-09-03T17:50:38Z) - Lost in Tokenization: Fundamental Trade-offs in Graph Tokenization for Transformers [50.98108117044413]
グラフ・ツー・トケン写像の選択は変換器の表現性の基本成分であることを示す。
既存の多くのグラフトークン化のためのビルディングブロックとして機能する3つのトークン化(スペクトル、ランダムウォーク、隣接トークン化)について検討する。
論文 参考訳(メタデータ) (2026-05-21T13:32:20Z) - Tensor Cookbook: Mastering Tensors through Diagrams [7.352764365348196]
この写本はテンソルネットワークへの自己完結ガイドとテンソル代数での使用を提供する。
TNは元々ペンローズによって導入され、量子物理学で広く開発された。
TNは、グラフのエッジとして収縮を符号化し、表記のオーバーヘッドを減らし、インデックス表記で隠された構造的特性を明らかにする。
論文 参考訳(メタデータ) (2026-05-15T20:21:14Z) - An introduction to graphical tensor notation for mechanistic
interpretability [0.0]
テンソル間でどの操作が行われているのかを混乱させるのは容易です。
この文書の前半は表記法を導入し、いくつかの分解に適用する。
後半は、言語モデルを機械的に理解するためのいくつかの基本的なアプローチに適用します。
論文 参考訳(メタデータ) (2024-02-02T02:56:01Z) - The Tensor as an Informational Resource [1.3044677039636754]
テンソル(英: tensor)は、データの保存、計算関係のエンコード、量子絡み合いの表現に使用できる数列である。
テンソル上の情報理論的に構築された事前順序の族を提案し、テンソルを互いに比較し、それらの間の変換の存在を評価する。
論文 参考訳(メタデータ) (2023-11-03T18:47:39Z) - Low-Rank Tensor Function Representation for Multi-Dimensional Data
Recovery [52.21846313876592]
低ランクテンソル関数表現(LRTFR)は、無限解像度でメッシュグリッドを超えてデータを連続的に表現することができる。
テンソル関数に対する2つの基本的な概念、すなわちテンソル関数ランクとローランクテンソル関数分解を開発する。
提案手法は,最先端手法と比較して,提案手法の優越性と汎用性を裏付けるものである。
論文 参考訳(メタデータ) (2022-12-01T04:00:38Z) - Learning Graph Structure from Convolutional Mixtures [119.45320143101381]
本稿では、観測されたグラフと潜伏グラフのグラフ畳み込み関係を提案し、グラフ学習タスクをネットワーク逆(デコンボリューション)問題として定式化する。
固有分解に基づくスペクトル法の代わりに、近似勾配反復をアンロール・トランケートして、グラフデコンボリューションネットワーク(GDN)と呼ばれるパラメータ化ニューラルネットワークアーキテクチャに到達させる。
GDNは、教師付き方式でグラフの分布を学習し、損失関数を適応させることでリンク予測やエッジウェイト回帰タスクを実行し、本質的に帰納的である。
論文 参考訳(メタデータ) (2022-05-19T14:08:15Z) - Graph Kernel Neural Networks [53.91024360329517]
本稿では、グラフ上の内部積を計算するカーネル関数であるグラフカーネルを用いて、標準畳み込み演算子をグラフ領域に拡張することを提案する。
これにより、入力グラフの埋め込みを計算する必要のない完全に構造的なモデルを定義することができる。
私たちのアーキテクチャでは,任意の種類のグラフカーネルをプラグインすることが可能です。
論文 参考訳(メタデータ) (2021-12-14T14:48:08Z) - Spectral Graph Convolutional Networks With Lifting-based Adaptive Graph
Wavelets [81.63035727821145]
スペクトルグラフ畳み込みネットワーク(SGCN)はグラフ表現学習において注目を集めている。
本稿では,適応グラフウェーブレットを用いたグラフ畳み込みを実装した新しいスペクトルグラフ畳み込みネットワークを提案する。
論文 参考訳(メタデータ) (2021-08-03T17:57:53Z) - Geometrically Principled Connections in Graph Neural Networks [66.51286736506658]
我々は、幾何学的深層学習の新興分野におけるイノベーションの原動力は、幾何が依然として主要な推進力であるべきだと論じている。
グラフニューラルネットワークとコンピュータグラフィックスとデータ近似モデルとの関係:放射基底関数(RBF)
完全連結層とグラフ畳み込み演算子を組み合わせた新しいビルディングブロックであるアフィンスキップ接続を導入する。
論文 参考訳(メタデータ) (2020-04-06T13:25:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。