論文の概要: Transformer visualization via dictionary learning: contextualized embedding as a linear superposition of transformer factors

• arxiv url: http://arxiv.org/abs/2103.15949v1
• Date: Mon, 29 Mar 2021 20:51:33 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-31 15:13:50.122554
• Title: Transformer visualization via dictionary learning: contextualized embedding as a linear superposition of transformer factors
• Title（参考訳）: 辞書学習による変圧器の可視化:変圧器因子の線形重ね合わせとしての文脈的埋め込み
• Authors: Zeyu Yun, Yubei Chen, Bruno A Olshausen, Yann LeCun
• Abstract要約: トランスフォーマーネットワークは、導入以来、NLP表現学習に革命をもたらした。 重要な理由の1つは、詳細な分析に十分な視覚化ツールがないことです。 変圧器要素の線形重ね合わせとして,これらのブラックボックスを辞書学習で開くことを提案する。
• 参考スコア（独自算出の注目度）: 20.11722995466059
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Transformer networks have revolutionized NLP representation learning since they were introduced. Though a great effort has been made to explain the representation in transformers, it is widely recognized that our understanding is not sufficient. One important reason is that there lack enough visualization tools for detailed analysis. In this paper, we propose to use dictionary learning to open up these `black boxes' as linear superpositions of transformer factors. Through visualization, we demonstrate the hierarchical semantic structures captured by the transformer factors, e.g. word-level polysemy disambiguation, sentence-level pattern formation, and long-range dependency. While some of these patterns confirm the conventional prior linguistic knowledge, the rest are relatively unexpected, which may provide new insights. We hope this visualization tool can bring further knowledge and a better understanding of how transformer networks work.
• Abstract（参考訳）: トランスフォーマーネットワークは、導入以来、NLP表現学習に革命をもたらした。 変圧器の表現を説明するために多大な努力がなされているが、我々の理解は不十分であると広く認識されている。 重要な理由は、詳細な分析に十分な視覚化ツールがないことである。 本稿では,これらの「ブラックボックス」を変換因子の線形重ね合わせとして辞書学習を利用することを提案する。 可視化を通して、変換因子によってキャプチャされた階層的意味構造を実証する。 単語レベルのポリセミーの曖昧さ、文レベルのパターン形成、長距離依存。 これらのパターンの中には、従来の言語知識を裏付けるものもあるが、残りは比較的予期せず、新たな洞察を与える可能性がある。 この視覚化ツールによって、トランスフォーマーネットワークの動作に関するさらなる知識と理解が深まることを願っています。

関連論文リスト

• Extracting Finite State Machines from Transformers [0.3069335774032178]
  機械的解釈可能性の観点から正規言語で訓練された変圧器の訓練可能性について検討する。 有限個の記号が状態を決定するとき, 変圧器の訓練性に対して, より強い下界を経験的に見出す。 機械的な洞察により、1層トランスフォーマーが優れた長さの一般化で学習できる正規言語を特徴付けることができる。
  論文  参考訳（メタデータ） (2024-10-08T13:43:50Z)
• Transformer Explainer: Interactive Learning of Text-Generative Models [65.91049787390692]
  Transformer Explainerは、GPT-2モデルを通じてTransformerについて学ぶために非専門家向けに設計されたインタラクティブな可視化ツールである。 ライブのGPT-2インスタンスをユーザのブラウザでローカルに実行し、ユーザが自身の入力を実験し、Transformerの内部コンポーネントとパラメータの協調動作をリアルタイムで観察することを可能にする。
  論文  参考訳（メタデータ） (2024-08-08T17:49:07Z)
• Why transformers are obviously good models of language [19.214362677861025]
  トランスフォーマーは、代替手段よりも成功して言語を自動的に処理するニューラルネットワークである。 トランスフォーマーアーキテクチャと言語に関するある種の理論的視点との直接的な関係を強調します。
  論文  参考訳（メタデータ） (2024-08-07T15:52:46Z)
• Transformers are Expressive, But Are They Expressive Enough for Regression? [38.369337945109855]
  この結果から,トランスフォーマーはスムーズな関数を確実に近似するのに苦労し,分割的に一定間隔の近似に頼っていることがわかった。 これらの課題に光を当てることで、トランスフォーマーの能力に関する洗練された理解を提唱する。
  論文  参考訳（メタデータ） (2024-02-23T18:12:53Z)
• Hiera: A Hierarchical Vision Transformer without the Bells-and-Whistles [65.54857068975068]
  本稿では、この追加のバルクは不要であると論じる。 強いビジュアル・プレテキスト・タスク(MAE)で事前トレーニングを行うことで、最先端の多段階視覚変換器から全てのベル・アンド・ウィストルを除去することができる。 Hieraは、非常に単純な階層型視覚変換器で、従来のモデルよりも正確です。
  論文  参考訳（メタデータ） (2023-06-01T17:59:58Z)
• An Introduction to Transformers [23.915718146956355]
  Transformerは、有用なシーケンスやデータポイントのセットを学ぶために使用できるニューラルネットワークコンポーネントである。 本稿では,トランスアーキテクチャの数学的,正確,直感的,クリーンな記述を目指す。
  論文  参考訳（メタデータ） (2023-04-20T14:54:19Z)
• What Makes for Good Tokenizers in Vision Transformer? [62.44987486771936]
  変圧器は自己注意を用いて対関係を抽出することができる。 優れたトークンライザとなるものは、コンピュータビジョンではよく理解されていない。 Tokens (MoTo) を横断する変調は、正規化によるトークン間モデリング機能を備えている。 TokenPropの正規化対象は、標準トレーニング体制で採用されている。
  論文  参考訳（メタデータ） (2022-12-21T15:51:43Z)
• Transformers learn in-context by gradient descent [58.24152335931036]
  自己回帰目標におけるトランスフォーマーの訓練は、勾配に基づくメタラーニングの定式化と密接に関連している。 トレーニングされたトランスフォーマーがメザ最適化器となる方法,すなわち,前方通過における勾配降下によるモデル学習方法を示す。
  論文  参考訳（メタデータ） (2022-12-15T09:21:21Z)
• On the Power of Saturated Transformers: A View from Circuit Complexity [87.20342701232869]
  飽和変圧器はハードアテンション変圧器の限界を超越していることを示す。 硬度から飽和度へのジャンプは、変換器の有効回路深さを$O(log n)$の係数で増加させると解釈できる。
  論文  参考訳（メタデータ） (2021-06-30T17:09:47Z)
• A Survey on Visual Transformer [126.56860258176324]
  Transformerは、主に自己認識機構に基づくディープニューラルネットワークの一種である。 本稿では、これらの視覚変換器モデルについて、異なるタスクで分類し、それらの利点と欠点を分析することでレビューする。
  論文  参考訳（メタデータ） (2020-12-23T09:37:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。