論文の概要: Beliefs in feedback: Factored representations of interacting agents in transformers

• arxiv url: http://arxiv.org/abs/2611.02047v1
• Date: Sun, 01 Nov 2026 16:52:50 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-03 19:18:47.286325
• Title: Beliefs in feedback: Factored representations of interacting agents in transformers
• Title（参考訳）: フィードバックの信念:トランスにおける相互作用エージェントの因子的表現
• Abstract要約: フィードバックループで相互作用するエージェントを研究するための計算力学フレームワークを開発する。 我々は,どのような共同プロセスでも,フィードバックの相互作用するエージェントの振舞いの結果として提示できることを証明した。 実験により、このようなフィードバックシーケンスでトレーニングされたトランスフォーマーは、この分離性を利用することが示された。
• 参考スコア（独自算出の注目度）: 75.61676595808355
• License:
• Abstract: Complex systems, from ecosystems to brains, are usually modeled as modular components coupled through feedback rather than as indivisible wholes. Can a transformer trained on the joint behavior of a group of interacting agents be understood in the same way? In this work, we develop a computational-mechanics framework to study agents interacting in feedback loops. We formally prove that any joint stochastic process can be presented as resulting from the behavior of agents interacting in feedback, and the resulting process is generated by a hidden Markov model whose Bayesian beliefs factorize into separate components per agent. Furthermore, our experiments show that transformers trained on such feedback sequences make use of this separability, disentangling the beliefs about the underlying factors into separate subspaces of their residual stream. This representation is found to scale linearly (instead of exponentially) with the number of agents. Moreover, interventions show that these representations are causally efficacious, allowing for targeted steering of individual agents' beliefs by selectively inserting counterfactuals. However, coarse-graining the behavior is found to disrupt the factorization, and can force a higher-dimensional representation. Together, the results establish both the dimensional advantage of a factorized representation and the ability of transformers to exploit it, laying the groundwork for investigating traces of compositional predictive architecture in pretrained models.
• Abstract（参考訳）: 生態系から脳まで、複雑なシステムは、通常、可分な全体ではなく、フィードバックを通じて結合されたモジュラーコンポーネントとしてモデル化される。 相互作用するエージェントのグループの結合挙動をトレーニングしたトランスフォーマーは、同じように理解できるだろうか? 本研究では,フィードバックループ内で相互作用するエージェントを研究するための計算力学フレームワークを開発する。 我々は、任意の関節確率過程がフィードバックと相互作用するエージェントの振舞いの結果として表現できることを正式に証明し、ベイズ的信念がエージェントごとに別々の構成要素に分解される隠れマルコフモデルによって生成される。 さらに,このようなフィードバックシーケンスをトレーニングしたトランスフォーマーは,この分離性を利用して,基礎となる要因の信念をその残留ストリームの別部分空間に拡張することを示した。 この表現は、(指数関数的にではなく)エージェントの数で線形にスケールすることが分かる。 さらに、介入は、これらの表現が因果的に有効であることを示し、反事実を選択的に挿入することで、個々のエージェントの信念を標的に操ることを可能にする。 しかし、粗粒化は因子化を阻害し、高次元の表現を強制することができる。 その結果、因子化表現の次元的利点と変換器の活用能力の両方が確立され、事前訓練されたモデルにおける構成予測アーキテクチャのトレースを調査するための基礎となる。

関連論文リスト

• Transformers learn factored representations [62.86679034549244]
  トランスフォーマーは次のトークン予測を通じて事前訓練を受け、自分の世界を部品に分解する。 1) すべての因子の積空間における表現であり、その次元は成分の数とともに指数関数的に増加する。 我々は,部分空間の数,次元,文脈埋め込みの配置など,各活性化の幾何学的構造に関する正確な予測を導出する。 このことは、トランスフォーマーがなぜ世界を部品に分解するかを原理的に説明し、複雑なデータで訓練されたモデルでも解釈可能な低次元構造が持続する可能性があることを示唆している。
  論文  参考訳（メタデータ） (2026-02-02T17:49:06Z)
• Emergence of Quantised Representations Isolated to Anisotropic Functions [0.0]
  本稿では,既存のスポットライト共振法に基づく表現構造決定手法を提案する。 これは、アクティベーション関数のみを変更する制御されたアブレーション研究を通じて、オートエンコーダモデルにおいて、個々の表現がどのように出現し、組織化できるかを示す。 この手法を用いて、関数駆動対称性が表現に暗黙の帰納バイアスとして作用するかどうかを判定する。
  論文  参考訳（メタデータ） (2025-07-16T09:27:54Z)
• Behavior-Inspired Neural Networks for Relational Inference [6.855586051080836]
  エージェント間の相互作用が時間と空間の力学系をどのように進化させるかを研究する。 最近の研究は、エージェント間の関係を、その身体行動の観察に基づいて分類することを学ぶ。 エージェントの観測可能な振る舞いと,その動作を決定する潜在カテゴリの抽象化レベルを導入する。
  論文  参考訳（メタデータ） (2024-06-20T21:36:54Z)
• Nonparametric Partial Disentanglement via Mechanism Sparsity: Sparse Actions, Interventions and Sparse Temporal Dependencies [58.179981892921056]
  この研究は、メカニズムのスパーシティ正則化(英語版)と呼ばれる、アンタングルメントの新たな原理を導入する。 本稿では,潜在要因を同時に学習することで,絡み合いを誘発する表現学習手法を提案する。 学習した因果グラフをスパースに規則化することにより、潜伏因子を復元できることを示す。
  論文  参考訳（メタデータ） (2024-01-10T02:38:21Z)
• Homomorphism Autoencoder -- Learning Group Structured Representations from Observed Transitions [51.71245032890532]
  本研究では,世界に作用するエージェントが,それを修飾する動作と整合した感覚情報の内部表現を学習できるようにする手法を提案する。 既存の作業とは対照的に、我々のアプローチはグループの事前の知識を必要とせず、エージェントが実行可能なアクションのセットを制限しない。
  論文  参考訳（メタデータ） (2022-07-25T11:22:48Z)
• Outcome-Guided Counterfactuals for Reinforcement Learning Agents from a Jointly Trained Generative Latent Space [0.0]
  本稿では, 強化学習剤(RL)の新規な生成法を提案する。 提案手法では,エージェントの動作に関連する観測および結果変数に関する情報を共同で符号化する潜在空間の学習に,変分オートエンコーダを用いる。
  論文  参考訳（メタデータ） (2022-07-15T19:09:54Z)
• Multi-Agent Imitation Learning with Copulas [102.27052968901894]
  マルチエージェント模倣学習は、観察と行動のマッピングを学習することで、デモからタスクを実行するために複数のエージェントを訓練することを目的としている。 本稿では,確率変数間の依存を捉える強力な統計ツールである copula を用いて,マルチエージェントシステムにおける相関関係と協調関係を明示的にモデル化する。 提案モデルでは,各エージェントの局所的行動パターンと,エージェント間の依存構造のみをフルにキャプチャするコプラ関数を別々に学習することができる。
  論文  参考訳（メタデータ） (2021-07-10T03:49:41Z)
• Learning Disentangled Representations with Latent Variation Predictability [102.4163768995288]
  本稿では,潜在不整合表現の変動予測可能性について述べる。 逆生成プロセス内では、潜時変動と対応する画像対の相互情報を最大化することにより、変動予測可能性を高める。 本研究では,潜在表現の絡み合いを測るために,基礎的構造的生成因子に依存しない評価指標を開発する。
  論文  参考訳（メタデータ） (2020-07-25T08:54:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。