論文の概要: LAG-XAI: A Lie-Inspired Affine Geometric Framework for Interpretable Paraphrasing in Transformer Latent Spaces

• arxiv url: http://arxiv.org/abs/2604.06086v1
• Date: Tue, 07 Apr 2026 17:02:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-08 17:42:09.947042
• Title: LAG-XAI: A Lie-Inspired Affine Geometric Framework for Interpretable Paraphrasing in Transformer Latent Spaces
• Title（参考訳）: LAG-XAI:変圧器潜時空間の解釈可能なパラフレージングのためのリーインスパイアされたアフィン幾何フレームワーク
• Authors: Olexander Mazurets, Olexander Barmak, Leonid Bedratyuk, Iurii Krak,
• Abstract要約: 本稿では,埋め込み空間内の構造的アフィン変換としてパラフレージングをモデル化する幾何学的フレームワークであるRAG-XAIを紹介する。 Sentence-BERTでエンコードされた、ノイズの多いPIT-2015 Twitterコーパスの実験は、"線形透明性"現象を明らかにしている。 このモデルは、非線形ベースラインの効果的な分類能力(AUC 0.8405)の約80%を捕捉し、絶対精度の限界降下と引き換えに明確な解釈性を提供する。
• 参考スコア（独自算出の注目度）: 1.3788139387418392
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Modern Transformer-based language models achieve strong performance in natural language processing tasks, yet their latent semantic spaces remain largely uninterpretable black boxes. This paper introduces LAG-XAI (Lie Affine Geometry for Explainable AI), a novel geometric framework that models paraphrasing not as discrete word substitutions, but as a structured affine transformation within the embedding space. By conceptualizing paraphrasing as a continuous geometric flow on a semantic manifold, we propose a computationally efficient mean-field approximation, inspired by local Lie group actions. This allows us to decompose paraphrase transitions into geometrically interpretable components: rotation, deformation, and translation. Experiments on the noisy PIT-2015 Twitter corpus, encoded with Sentence-BERT, reveal a "linear transparency" phenomenon. The proposed affine operator achieves an AUC of 0.7713. By normalizing against random chance (AUC 0.5), the model captures approximately 80% of the non-linear baseline's effective classification capacity (AUC 0.8405), offering explicit parametric interpretability in exchange for a marginal drop in absolute accuracy. The model identifies fundamental geometric invariants, including a stable matrix reconfiguration angle (~27.84°) and near-zero deformation, indicating local isometry. Cross-domain generalization is confirmed via direct cross-corpus validation on an independent TURL dataset. Furthermore, the practical utility of LAG-XAI is demonstrated in LLM hallucination detection: using a "cheap geometric check," the model automatically detected 95.3% of factual distortions on the HaluEval dataset by registering deviations beyond the permissible semantic corridor. This approach provides a mathematically grounded, resource-efficient path toward the mechanistic interpretability of Transformers.
• Abstract（参考訳）: 現代のトランスフォーマーベースの言語モデルは、自然言語処理タスクにおいて強力な性能を達成するが、その潜在意味空間は、ほとんど解釈不能なブラックボックスのままである。 LAG-XAI(Lie Affine Geometry for Explainable AI)は,単語置換ではなく,組込み空間内のアフィン変換をモデル化した新しい幾何学的枠組みである。 意味多様体上の連続的な幾何学的フローとしてパラフレージングを概念化することにより、局所リー群作用に着想を得た計算効率の良い平均場近似を提案する。 これにより、パラフレーズ遷移を幾何学的に解釈可能な成分(回転、変形、翻訳)に分解することができる。 Sentence-BERTでエンコードされた、ノイズの多いPIT-2015 Twitterコーパスの実験は、"線形透明性"現象を明らかにしている。 提案したアフィン演算子は、AUCが0.7713に達する。 ランダム確率(AUC 0.5)に対して正規化することにより、モデルは非線形ベースラインの効果的な分類能力(AUC 0.8405)の約80%を捕捉し、絶対精度の限界降下と引き換えに明示的なパラメトリック解釈性を提供する。 このモデルは、安定な行列再構成角 (~27.84°) や、局所等方性を示すゼロに近い変形を含む基本的な幾何学的不変量を特定する。 クロスドメインの一般化は、独立したTURLデータセット上で直接クロスコーパス検証によって確認される。 さらに, LLM の幻覚検出において, LAG-XAI の実用性を実証し, 「チープ幾何チェック」 を用いて, 許容セマンティック・コースを超えて偏差を登録することにより, HaluEval データセット上の実測歪みの95.3%を自動的に検出した。 このアプローチは、トランスフォーマーの機械的解釈可能性に向けて数学的に基礎を置き、資源効率の高い経路を提供する。

関連論文リスト

• Latent Semantic Manifolds in Large Language Models [0.0]
  本研究では,大規模言語モデルに隠れた状態を潜在意味多様体上の点として解釈する数学的枠組みを開発する。 我々は2つの定理を証明し、任意の有限語彙に対する歪みに対する速度歪みの低い境界と、表現可能性ギャップに対する線形体積スケーリング法則を証明した。 本稿では,アーキテクチャ設計,モデル圧縮,復号化戦略,スケーリング法則について論じる。
  論文  参考訳（メタデータ） (2026-03-17T13:05:56Z)
• Truth as a Trajectory: What Internal Representations Reveal About Large Language Model Reasoning [19.48395840455837]
  大規模言語モデルのためのトラジェクトリ(TaT)としてTrathを導入する。 TaTは静的なアクティベーションから層幅の幾何変位への解析をシフトする。 本稿では,TaTが静的な語彙の共役に依存することを効果的に軽減し,従来の探索よりも優れていることを示す。
  論文  参考訳（メタデータ） (2026-03-01T23:52:10Z)
• Inverting Self-Organizing Maps: A Unified Activation-Based Framework [39.146761527401424]
  我々は,SOMの活性化パターンを逆転させて,微妙な幾何学的条件下での正確な入力を復元できることを示す。 我々は,MUSIC (Manifold-Aware Unified SOM Inversion and Control) 更新ルールを導入する。 合成ガウス混合系, MNIST と Faces in the Wild を用いたアプローチを検証した。
  論文  参考訳（メタデータ） (2026-01-20T11:02:54Z)
• Enforcing Latent Euclidean Geometry in Single-Cell VAEs for Manifold Interpolation [79.27003481818413]
  離散的様相変分オートエンコーダの潜在多様体をユークリッド幾何学へ正規化する訓練フレームワークであるFlatVIを紹介する。 遅延空間の直線を復号化された単セル多様体上の測地線に近似させることで、FlatVIは下流アプローチとの整合性を高める。
  論文  参考訳（メタデータ） (2025-07-15T23:08:14Z)
• PAID: Pairwise Angular-Invariant Decomposition for Continual Test-Time Adaptation [70.98107766265636]
  本稿では,事前学習した重みの幾何学的特性を出発点として,3つの重要な成分(等級,絶対角,対角構造)を体系的に解析する。 両角構造は多種多様なドメインにわたって安定であり, ドメイン不変な意味情報を符号化し, 適応中に保存すべきことを示唆する。
  論文  参考訳（メタデータ） (2025-06-03T05:18:15Z)
• PseudoNeg-MAE: Self-Supervised Point Cloud Learning using Conditional Pseudo-Negative Embeddings [55.55445978692678]
  PseudoNeg-MAEは、ポイントクラウドマスマスキングオートエンコーダのグローバルな特徴表現を強化する。 本研究では,ネットワークが識別的表現を保ちながら,よりリッチな変換キューをキャプチャできる新たな損失を提案する。
  論文  参考訳（メタデータ） (2024-09-24T07:57:21Z)
• VTAE: Variational Transformer Autoencoder with Manifolds Learning [144.0546653941249]
  深層生成モデルは、多くの潜伏変数を通して非線形データ分布の学習に成功している。 ジェネレータの非線形性は、潜在空間がデータ空間の不満足な射影を示し、表現学習が不十分になることを意味する。 本研究では、測地学と正確な計算により、深部生成モデルの性能を大幅に向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-04-03T13:13:19Z)
• Quasi-symbolic Semantic Geometry over Transformer-based Variational AutoEncoder [10.880057430629126]
  文意味論は,文意味論的な役割 - 単語内容の特徴 - の合成として構成され,形式的意味幾何学が提案される。 このような幾何学上の文ベクトルの移動を導くための新しい探索アルゴリズムを提案する。 実験結果から,形式的意味幾何学は文生成により良い制御と解釈をもたらす可能性が示唆された。
  論文  参考訳（メタデータ） (2022-10-12T14:20:33Z)
• SimT: Handling Open-set Noise for Domain Adaptive Semantic Segmentation [58.61946589036262]
  本稿では,ブラックボックスモデルを用いて,擬似ラベル付きターゲットデータのみにアクセス可能な実用的なドメイン適応(DA)セマンティックセマンティックセマンティクス問題について検討する。 ドメインギャップと2つのドメイン間のラベルシフトのため、擬似ラベル付きターゲットデータには、クローズドセットとオープンセットのラベルノイズが混在している。 DAセマンティックセグメンテーションにおける混合雑音分布をモデル化し、SimTの推定として問題を定式化するための単純なノイズ遷移行列(SimT)を提案する。
  論文  参考訳（メタデータ） (2022-03-29T02:48:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。