論文の概要: Outcome-Aware Agents: When Does Causal Structure Help a Forward Model Foresee the Consequences of Actions?
- arxiv url: http://arxiv.org/abs/2610.34385v1
- Date: Sun, 25 Oct 2026 15:39:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.586654
- Title: Outcome-Aware Agents: When Does Causal Structure Help a Forward Model Foresee the Consequences of Actions?
- Title（参考訳）: アウトカム・アウェア・エージェント : 因果構造は行動の連続をフォワードモデルが予測するのに役立つか?
- Abstract要約: 因果構造が学習した前方モデルにどのように役立つかを研究する。
我々は,アクション・コンディション付き潜在構造因果モデルと3つの非構造化前方モデルとの比較を行った。
学習した潜在因子では、同じモデルがベースラインよりも悪い。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Agents that act on real systems should predict what their actions will cause before acting. We study when causal structure helps a learned forward model do this, using a planner that rejects candidate actions whose simulated multi-step outcome is unsafe, in synthetic structural causal models where the true consequences are known. We compare the Action-Conditioned Latent Structural Causal Model (AC-LSCM: per-factor mechanisms over a learned sparse graph, actions as do-interventions) with three unstructured forward models on seven random graphs with 10 or 20 variables, a task configured by a fixed rule, and two controls: a do-wrapper that gives every model the same action semantics, and counterfactual data given to all models or to none. When its factors are the observed variables, AC-LSCM recovers the true graph exactly on every 10-variable graph and has lower three-step prediction error than every baseline in all 396 paired comparisons. Its excess safety violations over an oracle are 0.25 of the no-model level on 10-variable graphs (best baseline 0.31) and 0.41 on 20-variable graphs (0.53), and its margin is largest for two-variable actions never seen in training (0.18 versus 0.28). With learned latent factors the same model is worse than the baselines; the choice of factors matters more than the explicit do-operator or counterfactual data, and every planner stays far from the oracle. This version corrects an earlier one, whose model learned an empty graph and whose headline 36x safety improvement came from a task that tested only extrapolation of action values; we withdraw that claim. Code and all per-seed results are released.
- Abstract（参考訳）: 実際のシステムに作用するエージェントは、行動する前にアクションが何を引き起こすかを予測する必要がある。
実結果が分かっている合成構造因果モデルにおいて、シミュレーションされた多段階結果が安全でない候補動作を拒否するプランナーを用いて、因果構造が学習前処理モデルにどのように役立つかを検討する。
我々は、学習されたスパースグラフ上の要素単位のメカニズムと、10から20の変数を持つ7つのランダムグラフ上の3つの非構造化前方モデル、固定ルールで設定されたタスク、および2つのコントロール(すべてのモデルに同じアクションセマンティクスを与えるdo-wrapper)を比較した。
その因子が観測変数である場合、AC-LSCMは真のグラフを10変数グラフごとに正確に復元し、全ての396ペア比較のベースラインよりも3ステップの予測誤差が低い。
オラクル上の過度な安全違反は、10変数グラフのノーモデルレベルの0.25(ベストベースライン0.31)、20変数グラフの0.41(0.53)であり、そのマージンはトレーニングで見たことのない2変数のアクション(0.18対0.28)で最大である。
学習された潜在因子では、同じモデルがベースラインよりも悪い; 要因の選択は明示的な操作データや反ファクトデータよりも重要であり、すべてのプランナーは託宣から遠ざかっている。
このバージョンでは、空のグラフを学習したモデルと、アクション値の外挿のみをテストしたタスクによる36倍の安全性の向上を補正します。
コードとシーケンス毎の結果はすべてリリースされます。
関連論文リスト
- Software World Models: From Consequence Prediction to Decision Value [9.344309178867542]
ソフトウェアワールドモデル(SWM)は、コードの変更によって影響を受けるより広範なシステムをモデル化し、そのブラストセットを予測します。
Actは、サンプルされた予測を、変更のランク付け、積極的に移行するためのコンシューマごとのブレーク確率に変換し、別の実行がそのコストに値するかどうかを判断する。
保持された合成システムでは、SWMは静的到達性のために0.431から0.571pm0.037$までブラストセットF1を改善する。
論文 参考訳（メタデータ） (2026-10-04T04:34:44Z) - GE-Act 2.0: Pretraining and Scaling a World-Action Model for Robotic Manipulation [63.853929983870955]
本稿では,ジェニー・エンスペクタ法 2.0 (GE-Act 2.0) について紹介する。
制御指向オートエンコーダ(CoAE)、ワンステップビジュアルプランナー(SVP)、逆ダイナミクスモデル(IDM)を組み合わせている。
それらのコンポーネントは、知識に整合した選択最適化(KASO)で共同で訓練され、記録された行動に適合していると判断された予測された未来のみを選択することで、ミスマッチした監視を減らす。
論文 参考訳（メタデータ） (2026-09-04T17:16:48Z) - GDLAM: Group-Disentangled Latent Action Model for Highly Disentangled Embodied Pretraining [57.6346031635552]
GDLAM(Group-Disentangled Latent Action Model)は、Nグループへの構築によってコード化される潜在アクションモデルである。
GDLAMは、Modularity、MIG、DCIを含むラベルなしのアンタングルメントのメトリクスを、強力な非構造化LAMよりも広いマージンで改善する。
論文 参考訳（メタデータ） (2026-08-10T01:38:21Z) - Metadata, Structure, or Strategy? A Decomposition of RAG Context Enrichment [3.2058241360543254]
検索可能な生成システムは、品質メタデータを付加し、明示的なレコードに構造化し、ステップ間で証拠を蓄積するマルチホップ検索戦略を採用することで、検索されたパスを豊かにする傾向にある。
これらの変更は、よりリッチなコンテキストがより良い回答をもたらすと仮定するが、既存の評価では、これらを一度に3つの要因すべてを変えるため、テストすることはできない。
我々は,6つのベンチマーク,3つのファミリーの4つのモデル,5つのエンリッチメントレベルのコントロール実験において,各因子を分離し,合計24,000以上の回答を得た。
回答の品質を決定するのは、コンテキストがどれだけメタデータを持ち込むかではなく、与えられたタスクに対してモデルがそれを実行できるかどうかです。
論文 参考訳（メタデータ） (2026-06-28T23:26:28Z) - How to Interpret Agent Behavior [56.59836196946289]
本稿では,エージェントの動作を実行時に記述・解析するための分類法であるACT*ONOMYを紹介する。
共用語彙を提供することで、ACT*ONOMYは研究者、エージェントデザイナー、エンドユーザーがエージェントの振る舞いをより一貫して解釈するのに役立つ。
論文 参考訳（メタデータ） (2026-05-13T14:52:40Z) - Silent Commitment Failure in Instruction-Tuned Language Models: Evidence of Governability Divergence Across Architectures [0.0]
我々は、モデルのエラーが出力コミット前に検出可能で、一度検出されると修正できる程度、統治性を導入します。
ベンチマーク精度は支配可能性を予測するものではなく、補正能力は検出と独立に異なり、同一のガバナンス足場はモデル間で逆の効果をもたらす。
本稿では,モデルとタスクの組み合わせをGovernable, Monitor Only, Steer Blind, Ungovernableの4つに分類する。
論文 参考訳（メタデータ） (2026-03-22T21:50:28Z) - Limitations of Agents Simulated by Predictive Models [1.6649383443094403]
エージェントとなると予測モデルが失敗する2つの構造的理由を概説する。
いずれの障害も環境からのフィードバックループを組み込むことで修正可能であることを示す。
我々の治療は、これらの障害モードの統一的なビューを提供し、オンライン学習でオフライン学習ポリシーを微調整することで、より効果的になる理由を疑問視する。
論文 参考訳（メタデータ） (2024-02-08T17:08:08Z) - Training Trajectories of Language Models Across Scales [99.38721327771208]
言語モデルのスケールアップは、前例のないパフォーマンス向上につながった。
異なるサイズの言語モデルは事前学習中にどのように学習するか?
より大きな言語モデルはなぜ望ましい振る舞いを示すのか?
論文 参考訳（メタデータ） (2022-12-19T19:16:29Z) - Uplifting Bandits [23.262188897812475]
報酬は複数の確率変数の和であり、各アクションはそれらの一部の分布だけを変化させるマルチアームバンディットモデルを導入する。
このモデルはマーケティングキャンペーンやレコメンデーションシステムによって動機付けられており、そこでは変数が個々の顧客の結果を表す。
ベースライン上のアクションの上昇を推定する UCB スタイルのアルゴリズムを提案する。
論文 参考訳（メタデータ） (2022-06-08T18:00:56Z) - AvgOut: A Simple Output-Probability Measure to Eliminate Dull Responses [97.50616524350123]
機能エンジニアリングなしで、どの発話やトークンが退屈であるかを動的に認識する対話モデルを構築します。
最初のモデルMinAvgOutは、各バッチの出力分布を通して、ダイバーシティスコアを直接最大化する。
第2のモデルであるラベルファインチューニング(LFT)は、多様性スコアによって連続的にスケールされたラベルをソースシーケンスにプリペイドし、多様性レベルを制御する。
3つ目のモデルであるRLは強化学習を採用し、多様性スコアを報奨信号として扱う。
論文 参考訳（メタデータ） (2020-01-15T18:32:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。