論文の概要: A Hierarchical and Attentional Analysis of Argument Structure Constructions in BERT Using Naturalistic Corpora
- arxiv url: http://arxiv.org/abs/2602.00554v1
- Date: Sat, 31 Jan 2026 06:31:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-03 19:28:33.253734
- Title: A Hierarchical and Attentional Analysis of Argument Structure Constructions in BERT Using Naturalistic Corpora
- Title(参考訳): 自然性コーパスを用いたBERTのArgument構造構造の階層的・意図的解析
- Authors: Liu Kaipeng, Wu Ling,
- Abstract要約: 本研究では,トランスフォーマーモデルからの双方向表現が4つの基本配置構造をどのように処理するかを検討する。
我々は,MDS,t-SNEを次元還元として,一般識別値(GDV)をクラスタ分離指標として,FDR(Fisher Discriminant Ratio)を線形診断探索として,アテンションメカニズム解析として,多次元分析フレームワークを採用している。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This study investigates how the Bidirectional Encoder Representations from Transformers model processes four fundamental Argument Structure Constructions. We employ a multi-dimensional analytical framework, which integrates MDS, t-SNE as dimensionality reduction, Generalized Discrimination Value (GDV) as cluster separation metrics, Fisher Discriminant Ratio (FDR) as linear diagnostic probing, and attention mechanism analysis. Our results reveal a hierarchical representational structure. Construction-specific information emerges in early layers, forms maximally separable clusters in middle layers, and is maintained through later processing stages.
- Abstract(参考訳): 本研究では,トランスフォーマーモデルからの双方向エンコーダ表現が4つの基本配置構造をどのように処理するかを検討する。
我々は、MDS, t-SNEを次元還元として統合する多次元分析フレームワーク、クラスタ分離指標として一般化識別値(GDV)、線形診断探索としてFDR(Fisher Discriminant Ratio)、アテンションメカニズム分析を用いる。
この結果から階層的な表現構造が明らかとなった。
構築固有の情報は初期層に現れ、中層に最大分離可能なクラスタを形成し、後続の処理段階を通して維持される。
関連論文リスト
- A Sheaf-Theoretic and Topological Perspective on Complex Network Modeling and Attention Mechanisms in Graph Neural Models [2.7074235008521246]
本稿では,グラフアーキテクチャにおけるノード特徴とエッジ重みの局所的一貫性と調和性をモデル化し,解析するためのセルリーフ理論フレームワークを提案する。
局所的な特徴のアライメントとアライメントを層構造を通して追跡することにより、このフレームワークは特徴の拡散と集約に関するトポロジ的な視点を提供する。
このアプローチは、その基礎となる幾何学的および位相的構造とそれらに基づいて定義された学習信号に基づいて、GDLとTDLアーキテクチャを共同で特徴づけることを可能にする。
論文 参考訳(メタデータ) (2026-01-29T03:16:18Z) - Unlocking Out-of-Distribution Generalization in Transformers via Recursive Latent Space Reasoning [50.99796659680724]
本研究では,GSM8Kスタイルのモジュラー演算をテストベッドとして用いたTransformerネットワークにおけるアウト・オブ・ディストリビューション(OOD)の一般化について検討する。
我々は,OOD一般化の強化を目的とした4つのアーキテクチャ機構のセットを紹介し,検討する。
我々はこれらの実験結果を詳細な機械論的解釈可能性分析で補完し、これらのメカニズムがOOD一般化能力をいかに高めるかを明らかにする。
論文 参考訳(メタデータ) (2025-10-15T21:03:59Z) - Structural DID with ML: Theory, Simulation, and a Roadmap for Applied Research [3.0031348283981987]
観測パネルデータの因果推論は、経済学、政治分析、より広範な社会科学において中心的な関心事となっている。
本稿では,構造同定と高次元推定を統合したS-DIDという革新的なフレームワークを提案する。
論文 参考訳(メタデータ) (2025-07-21T03:57:42Z) - AlphaFold Database Debiasing for Robust Inverse Folding [58.792020809180336]
Debiasing Structure AutoEncoder (DeSAE)を導入し、故意に破損したバックボーンジオメトリからネイティブライクなコンフォーメーションを再構築することを学ぶ。
推測において、DeSAEをAFDB構造に適用すると、逆折り畳み性能を著しく向上する偏りのある構造が生成される。
論文 参考訳(メタデータ) (2025-06-10T02:25:31Z) - TopoFR: A Closer Look at Topology Alignment on Face Recognition [58.45515807380505]
PTSAと呼ばれるトポロジカル構造アライメント戦略とSDEという硬質試料マイニング戦略を利用する新しいFRモデルであるTopoFRを提案する。
PTSAは永続ホモロジーを用いて入力空間と潜在空間の位相構造を整列し、構造情報を効果的に保存し、FRモデルの一般化性能を向上させる。
一般的な顔のベンチマーク実験の結果は、最先端の手法よりもTopoFRの方が優れていることを示している。
論文 参考訳(メタデータ) (2024-10-14T14:58:30Z) - Analysing Multiscale Clusterings with Persistent Homology [0.8287206589886881]
マルチスケールクラスタリングフィルタ(MCF)を導入する。
MCFは、粗さを増大させるスケールをまたいだパーティションのシーケンスで任意のクラスタ割り当てを符号化する。
MCF の 0 次元持続ホモロジーは、この列の階層の度合いを測定する。
論文 参考訳(メタデータ) (2023-05-07T14:10:34Z) - Topological Data Analysis for Anomaly Detection in Host-Based Logs [1.0878040851638]
そこで本研究では,Windows ログから直接単体錯体のろ過を構築する手法を提案し,トポロジカルツールを用いた固有構造解析を可能にする。
最終的には、異常検出のための説明可能なフレームワークの一部として、メソッドが使用される可能性について議論する。
論文 参考訳(メタデータ) (2022-04-25T20:41:02Z) - Structure-Aware Feature Generation for Zero-Shot Learning [108.76968151682621]
潜在空間と生成ネットワークの両方を学習する際の位相構造を考慮し,SA-GANと呼ばれる新しい構造認識特徴生成手法を提案する。
本手法は,未確認クラスの一般化能力を大幅に向上させ,分類性能を向上させる。
論文 参考訳(メタデータ) (2021-08-16T11:52:08Z) - HUMAP: Hierarchical Uniform Manifold Approximation and Projection [40.77787659104315]
HUMAPは、局所的・大域的構造の保存に柔軟であるように設計された、新しい階層的次元削減技術である。
提案手法の優位性を示す実証的証拠を現在の階層的アプローチと比較し,データセットラベリングにHUMAPを適用したケーススタディを示す。
論文 参考訳(メタデータ) (2021-06-14T19:27:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。