論文の概要: Fisher-IRG: Fisher-Induced Local Invariant Representation Geometry across Language and Vision Models

• arxiv url: http://arxiv.org/abs/2609.36458v1
• Date: Tue, 29 Sep 2026 01:19:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.087162
• Title: Fisher-IRG: Fisher-Induced Local Invariant Representation Geometry across Language and Vision Models
• Title（参考訳）: Fisher-IRG: 言語と視覚モデルにまたがるフィッシャー誘起局所不変表現幾何学
• Abstract要約: 本稿では,フィッシャー誘導型不変表現幾何 (Fisher-IRG) を提案する。 セマンティック保存・セマンティック・チェンジ領域を構築し,その局所的なフィッシャー情報を集約し,コントラッシブな一般化固有値問題を通じて不変方向を復元する。
• 参考スコア（独自算出の注目度）: 0.6101839518775969
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Semantic-preserving transformations can induce substantial motion in learned representations, while small changes may strongly affect model predictions, raising a basic question: what local metric best captures semantically consequential variation? We propose Fisher-induced invariant representation geometry (Fisher-IRG), which measures local representation directions through their predictive sensitivity. Around each representation, we construct semantic-preserving and semantic-changing neighborhoods, aggregate their local Fisher information, and recover invariant directions through a contrastive generalized eigenvalue problem. Controlled displacement analyses first show that comparable Euclidean motion can have substantially different predictive consequences, supporting the need for a predictive geometry. Across language and vision models, Fisher-IRG yields stronger semantic-versus-nuisance predictive selectivity and generally more reproducible subspaces than covariance-based geometry, while recovering systematically distinct local directions. Representation interventions further localize semantic effects to the Fisher-derived subspace, and held-out separation and retrieval show that the recovered geometry generalizes beyond the discovery neighborhoods. These results support Fisher-IRG as a principled framework for characterizing local invariant representation geometry.
• Abstract（参考訳）: 意味保存変換は学習された表現において実質的な動きを引き起こすが、小さな変化はモデル予測に強く影響しうる。 本稿では,フィッシャー誘導型不変表現幾何 (Fisher-IRG) を提案する。 各表現の周囲に意味保存と意味変化のある近傍を構築し、その局所的なフィッシャー情報を集約し、対照的に一般化された固有値問題を通じて不変方向を復元する。 制御された変位解析は、ユークリッド運動と同等の運動が、予測幾何学の必要性を裏付ける、かなり異なる予測結果をもたらすことを最初に示している。 言語モデルと視覚モデル全体にわたって、フィッシャー-IRGは、系統的に異なる局所方向を回復しながら、意味-対数-ニュアンス予測選択性と、共分散に基づく幾何学よりも一般に再現可能な部分空間を得る。 Representation interventions further localize semantic effect to the Fisher- derived subspace, and hold-out separation and retrieve shows that recovered geometry is generalizes beyond the discovery neighborhoods。 これらの結果は、局所不変表現幾何学を特徴付けるための原則的フレームワークとしてFisher-IRGをサポートする。

関連論文リスト

• Invariant Atoms: Sparse Coordinates of Local Semantic Geometry in Language Model Representations [0.6101839518775969]
  本研究では,言語モデルにおける局所的な方向に沿って意味的変動が組織化されることを示す。 我々は,意味的変位を再現し,ニュアンス変動を抑制した共有意味的フレームとスパース座標を学習する。 これらの知見は、言語モデルにおける局所的意味幾何学のためのスパース座標系として、再利用可能な不変方向をサポートする。
  論文  参考訳（メタデータ） (2026-09-29T01:14:19Z)
• LAST: Bridging Vision-Language and Action Manifolds via Gromov-Wasserstein Alignment [71.3712075841632]
  LASTはアクション空間を再構築し、ビジョン・ランゲージ・アクション・モダリティとの局所的な距離互換性を確立する。 LASTは収束性と一般化性に優れたVLAモデルを可能にする。
  論文  参考訳（メタデータ） (2026-05-27T03:48:10Z)
• Invariant Features in Language Models: Geometric Characterization and Model Attribution [0.5429166905724048]
  言語モデルはパラフレージングに対して強い堅牢性を示し、セマンティック情報は安定した内部表現によって符号化される可能性があることを示唆している。 本稿では,意味論的に等価な入力が潜在空間の構造化領域を占有する局所幾何学的枠組みを提案する。
  論文  参考訳（メタデータ） (2026-05-07T15:50:31Z)
• Relative Representations: Topological and Geometric Perspectives [50.85040046976025]
  相対表現はゼロショットモデルの縫合に対する確立されたアプローチである。 相対変換において正規化手順を導入し、非等方的再スケーリングや置換に不変となる。 第二に、クラス内のクラスタリングを促進するトポロジカル正規化損失である、微調整された相対表現におけるトポロジカルデシフィケーションの展開を提案する。
  論文  参考訳（メタデータ） (2024-09-17T08:09:22Z)
• Topographic VAEs learn Equivariant Capsules [84.33745072274942]
  本稿では, 地理的に整理された潜伏変数を用いた深部生成モデルを効率的に学習するための新しい手法であるTopographic VAEを紹介する。 このようなモデルでは,MNIST上での桁数クラス,幅,スタイルなどの健全な特徴に応じて,その活性化を組織化することが実際に学べることが示される。 我々は、既存の群同変ニューラルネットワークの能力を拡張して、複素変換に近似した同値性を示す。
  論文  参考訳（メタデータ） (2021-09-03T09:25:57Z)
• Learning Disentangled Representations with Latent Variation Predictability [102.4163768995288]
  本稿では,潜在不整合表現の変動予測可能性について述べる。 逆生成プロセス内では、潜時変動と対応する画像対の相互情報を最大化することにより、変動予測可能性を高める。 本研究では,潜在表現の絡み合いを測るために,基礎的構造的生成因子に依存しない評価指標を開発する。
  論文  参考訳（メタデータ） (2020-07-25T08:54:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。