論文の概要: When Do Learned Blocks Preserve Causal Meaning? Block Identifiability and Constructive Causal Abstractions

• arxiv url: http://arxiv.org/abs/2610.18155v2
• Date: Wed, 14 Oct 2026 21:55:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:15.939954
• Title: When Do Learned Blocks Preserve Causal Meaning? Block Identifiability and Constructive Causal Abstractions
• Title（参考訳）: 学習ブロックは因果的意味を保存するのか? : ブロック識別可能性と構成因果的抽象化
• Abstract要約: ブロック対角非可逆変換に続いて座標置換が構成因果抽象を保存する最大クラスを形成することを示す。 加法オートエンコーダを用いた小さな合成実験により、独立に学習された表現間で高いレベルの介入を伝達できることが示されている。
• 参考スコア（独自算出の注目度）: 27.485371055682922
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Standard identifiability theory assumes one-dimensional latent factors, but learned representations can encode latent information across multidimensional blocks whose internal coordinates are not uniquely determined. When such blocks are used to represent and intervene on higher-level concepts, it is unclear whether their causal meaning survives the transformations left unresolved by block-identifiability. We connect block-identifiability to constructive causal abstraction. We show that block-diagonal invertible transformations followed by compatible coordinate permutations form the maximal class that preserves every constructive causal abstraction built on those blocks. This guarantee assumes that the correspondence between blocks and concepts is updated with the representation. A small synthetic experiment with additive autoencoders shows that high-level interventions can be transferred between independently learned representations while approximately preserving their intended effects.
• Abstract（参考訳）: 標準的な識別可能性理論は1次元の潜伏因子を仮定するが、学習された表現は内部座標が一意に決定されない多次元ブロックをまたいで潜伏情報を符号化することができる。 このようなブロックが高次概念の表現や介入に使われる場合、その因果的意味がブロック識別性によって未解決のまま残されている変換を生き残るかどうかは不明である。 ブロック識別可能性と構成因果抽象を結合する。 ブロック対角非可逆変換に続いて座標置換が最大クラスを形成し、これらのブロック上に構築されたすべての構成因果抽象を保存することを示す。 この保証は、ブロックと概念の対応が表現と共に更新されることを前提としている。 加法オートエンコーダを用いた小さな合成実験では、意図した効果をほぼ保ちながら、独立に学習した表現間で高いレベルの介入を伝達できることが示されている。

関連論文リスト

• Towards Generalization of Block Attention via Automatic Segmentation and Block Distillation [61.19473093799777]
  ブロックアテンションは、Retrieval-Augmented Generation (RAG)のような長期コンテキストシナリオにおけるKVキャッシュの再利用を改善することができる。 しかし、入力テキストを意味のある自己完結ブロックに分割することの難しさと、性能低下のリスクを負う既存のブロック微調整手法の非効率性である。 ブロック微細チューニングよりも効率的な訓練フレームワークであるブロック蒸留を提案し, 凍結したフルアテンション教師モデルを用いて, ブロックアテンション学生を指導する。
  論文  参考訳（メタデータ） (2026-05-15T12:51:32Z)
• Break the Block: Dynamic-size Reasoning Blocks for Diffusion Large Language Models via Monotonic Entropy Descent with Reinforcement Learning [41.859993506122194]
  固定サイズのブロック世代は、効果的で一貫性のある推論にとって重要なボトルネックである。 本稿では,モノトニック・エントロピー・ディフレキティブ(モノトニック・エントロピー・ディフレキティブ)を用いて動的サイズ推論ブロックを学習する,dLLMのための新しい学習後フレームワークb1を提案する。
  論文  参考訳（メタデータ） (2026-05-04T06:17:49Z)
• GeoBlock: Inferring Block Granularity from Dependency Geometry in Diffusion Language Models [14.455425759091503]
  GeoBlockは、注目に起因した依存性の幾何学から直接ブロックの粒度を決定するブロック推論フレームワークである。 依存性の幾何に適応することにより、GeoBlockは、自己回帰的信頼性を示す依存性一貫性の洗練を図りながら、ブロック拡散の並列効率を保ちます。
  論文  参考訳（メタデータ） (2026-03-04T18:45:06Z)
• Blockwise SFT for Diffusion Language Models: Reconciling Bidirectional Attention and Autoregressive Decoding [60.06816407728172]
  離散拡散言語モデルは、テキスト生成に強い可能性を示している。 半自己回帰推論による微調整ミスアライメントの標準化 我々は、応答を固定サイズブロックに分割するBlockwise SFTを提案する。
  論文  参考訳（メタデータ） (2025-08-27T02:49:33Z)
• Towards Universal Dense Blocking for Entity Resolution [49.06313308481536]
  ドメインに依存しない、容易に観測可能なコーパス上で事前学習を行う密集型ブロッカであるUniBlockerを提案する。 ドメインに依存しない事前トレーニングを行うことで、UniBlockerはドメイン固有の微調整を必要とせずに、さまざまなダウンストリームブロッキングシナリオに適応できる。 提案したUniBlockerは、ドメイン固有の学習を一切行わず、従来の自己および教師なしの密なブロッキング手法よりも大幅に優れていた。
  論文  参考訳（メタデータ） (2024-04-23T08:39:29Z)
• Neural Block-Slot Representations [21.55880985441708]
  ブロックスロット表現(Block-Slot Representation)と呼ばれる,オブジェクト中心の表現を提案する。 従来のスロット表現とは異なり、Block-Slot Representationはスロット内で概念レベルでのアンタングルを提供する。
  論文  参考訳（メタデータ） (2022-11-02T14:53:07Z)
• Weakly Supervised Representation Learning with Sparse Perturbations [82.39171485023276]
  潜伏変数のスパース摂動によって生じる観測の監督が弱い場合、未知の連続潜伏分布の下で識別が達成可能であることを示す。 本稿では,この理論に基づく自然な推定手法を提案し,それを低次元の合成および画像に基づく実験で説明する。
  論文  参考訳（メタデータ） (2022-06-02T15:30:07Z)
• Unifying Nonlocal Blocks for Neural Networks [43.107708207022526]
  非局所ブロックは、コンピュータビジョンタスクにおける長距離空間的依存関係をキャプチャするために設計されている。 我々はそれらを解釈するための新しい視点を提供し、完全連結グラフ上で生成されたグラフフィルタの集合と見なす。 より堅牢でフレキシブルなスペクトル非局所ブロックを提案する。
  論文  参考訳（メタデータ） (2021-08-05T08:34:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。