論文の概要: Vision: Data-Centric Anchoring for Robust and Interpretable Agentic AI
- arxiv url: http://arxiv.org/abs/2609.08216v1
- Date: Tue, 08 Sep 2026 03:57:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.572088
- Title: Vision: Data-Centric Anchoring for Robust and Interpretable Agentic AI
- Title（参考訳）: ビジョン:ロバストで解釈可能なエージェントAIのためのデータ中心のアンカリング
- Abstract要約: 我々は、堅牢性と解釈可能性は、トレーニング後のモデルから抽出するのではなく、データ環境に組み込むべきだと論じている。
私たちの中心的な貢献は、Curate、Augment、Constrain、Attributeの4段階フレームワークであるData-Centric Agentic Loopです。
このフレームワークは4つのコア障害モードをデータライフサイクルにリンクする、障害駆動型分類に基盤を置いています。
- 参考スコア（独自算出の注目度）: 21.406298170489507
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Agentic AI systems built on large language models fail in two persistent ways that scaling does not fix: they break under distribution shift, and they cannot explain the decisions they make. We argue these are co-symptoms of one structural deficiency in the data lifecycle that governs how agents are trained, evaluated, and deployed. Observational interaction logs record what an agent did, not what it would have done otherwise. They encode spurious correlations without controlled variation, so they lack the counterfactual structure needed to separate causal signal from coincidence or to validate an explanation. No model-centric method can recover invariances the data never contained. We present Data-Centric Anchoring: robustness and interpretability should be engineered into the data environment, not extracted from models after training. Our central contribution is the Data-Centric Agentic Loop, a four-stage framework of Curate, Augment, Constrain, and Attribute. The ordering is structural, not stylistic. Curation precedes augmentation because generative models amplify whatever bias they are trained on. Augmentation precedes constraint because invariance objectives are vacuous without variation across environments to be invariant to. Attribution closes the loop, converting observed failures into targeted data interventions for the next iteration. Each stage manufactures the preconditions of the next, which makes the loop self-correcting rather than merely sequential. We ground the framework in a failure-driven taxonomy that links four core failure modes to the data lifecycle: spurious feature reliance, distribution-shift fragility, uncertainty miscalibration, and explanation unfaithfulness. We close with the limits of this approach and the open problems that stand between it and practical deployment at scale.
- Abstract（参考訳）: 大きな言語モデル上に構築されたエージェントAIシステムは、スケーリングが解決しない2つの永続的な方法で失敗する。
これらは、エージェントのトレーニング、評価、デプロイの方法を管理する、データライフサイクルにおける1つの構造的欠陥の共症状である、と我々は主張する。
観察的な相互作用ログは、エージェントがしたことを記録します。
それらは、制御されたばらつきのない急激な相関を符号化するので、因果信号を偶然と区別したり、説明を検証するのに必要な反事実構造が欠如している。
モデル中心の方法では、格納されていないデータの不変性を回復できない。
データ中心のアンコリング(Data-Centric Anchoring): 堅牢性と解釈性は、トレーニング後のモデルからではなく、データ環境に組み込むべきである。
私たちの中心的な貢献は、Curate、Augment、Constrain、Attributeの4段階フレームワークであるData-Centric Agentic Loopです。
順序は構造的であり、様式的ではない。
生成モデルによってトレーニング対象のバイアスが増幅されるため、カリキュラムは拡張に先立ちます。
拡張は制約に先行する。なぜなら、不変の環境にまたがる変化なしに、不変の目的は空白であるからである。
属性はループを閉じ、観測された障害を次のイテレーションで対象とするデータ介入に変換する。
各ステージは次のプレコンディションを作成し、ループを単にシーケンシャルではなく自己修正する。
このフレームワークは,4つのコア障害モードをデータライフサイクルに関連付ける,障害駆動型分類(failure-driven taxonomy)に基礎を置いています。
このアプローチの限界と、それと大規模な実践的デプロイメントとの間にあるオープンな問題に近づきます。
関連論文リスト
- DiagLoop: A Counterfactual Data Flywheel with Stage-Localized Reinforcement for Diagnostic LLMs [5.241146164724621]
DiagLoopは、認知された物理的関係や臨床ガイドラインをトレーニングの監督に変換する、反ファクト的なデータフライホイールである。
訓練のみの教師は様々な原因、文脈、観察によって反現実の世界を提案し、一方独立したハイブリッドチェッカーは有効な世界しか認めない。
非終端障害に対しては、境界付き修復プローブが下流のコンピテンスを探索し、その結果の弱点プロファイルがその後のデータ生成を導く。
論文 参考訳（メタデータ） (2026-08-04T13:49:41Z) - Set-Inclusive Uncertainty Modeling for Robust Brain Tumor Segmentation [17.88630413987641]
本稿では,表現をガウス分布としてモデル化する確率的表現フレームワークを提案する。
我々は,各部分構成の平均値をその完全モダリティに対して正規化するとともに,その整列手段間の差分をスケールする。
BraTS 2018と2020の実験では、さまざまな欠落したモダリティシナリオに対して、私たちのアプローチがベースラインよりも優れたパフォーマンスを提供します。
論文 参考訳（メタデータ） (2026-06-29T14:35:55Z) - Why LLMs Fail at Causal Discovery and How Interventional Agents Escape [2.7976995580303305]
因果発見は科学的な推論の基盤であるが、大きな言語モデルが確実にそれを実行することができるかどうかについては未解決のままである。
最近のベンチマークでは、単純な因果グラフ上で微調整されたモデルでさえ、複雑さが増大するにつれて劣化するが、なぜ失敗するのかは定まっていない。
教師付き微調整, 直接選好最適化, コンテキスト内学習はすべて, 類似した観測データを生成する因果グラフを区別できない予測子を生成する。
論文 参考訳（メタデータ） (2026-05-26T18:37:03Z) - OrthoFormer: Instrumental Variable Estimation in Transformer Hidden States via Neural Control Functions [0.0]
シーケンシャルなモデリングにおいて優れたトランスフォーマーアーキテクチャは、相関学習によって基本的に制限される。
そこで我々はOrthoFormerを提案する。OrthoFormerは機械的変数推定をニューラル制御機能を介してTransformerブロックに直接組み込む因果的基底アーキテクチャである。
論文 参考訳（メタデータ） (2026-03-08T03:05:16Z) - Revisiting Multivariate Time Series Forecasting with Missing Values [65.30332997607141]
現実の時系列では欠落値が一般的である。
現在のアプローチでは、計算モジュールを使用して、不足した値を補う、計算済みの予測フレームワークが開発されている。
このフレームワークは、致命的な問題を見落としている: 欠落した値に対して基礎的な真理は存在せず、予測精度を劣化させる可能性のあるエラーの影響を受けやすいようにしている。
本稿では,Information Bottleneck原則に基づく新しいフレームワークであるConsistency-Regularized Information Bottleneck(CRIB)を紹介する。
論文 参考訳（メタデータ） (2025-09-27T20:57:48Z) - DAGnosis: Localized Identification of Data Inconsistencies using
Structures [73.39285449012255]
機械学習モデルを確実に使用するためには、デプロイメント時のデータの不整合の特定と適切な処理が不可欠である。
我々は,有向非巡回グラフ(DAG)を用いて,トレーニングセットの特徴分布と非依存性を構造として符号化する。
我々の手法はDAGnosisと呼ばれ、これらの構造的相互作用を利用して、価値があり洞察に富んだデータ中心の結論をもたらす。
論文 参考訳（メタデータ） (2024-02-26T11:29:16Z) - Nonparametric Identifiability of Causal Representations from Unknown
Interventions [63.1354734978244]
本研究では, 因果表現学習, 潜伏因果変数を推定するタスク, およびそれらの変数の混合から因果関係を考察する。
我々のゴールは、根底にある真理潜入者とその因果グラフの両方を、介入データから解決不可能なあいまいさの集合まで識別することである。
論文 参考訳（メタデータ） (2023-06-01T10:51:58Z) - Tracking the risk of a deployed model and detecting harmful distribution
shifts [105.27463615756733]
実際には、デプロイされたモデルのパフォーマンスが大幅に低下しないという、良心的なシフトを無視することは理にかなっている。
我々は,警告を発射する有効な方法は,(a)良性な警告を無視しながら有害なシフトを検知し,(b)誤報率を増大させることなく,モデル性能の連続的なモニタリングを可能にすることを論じる。
論文 参考訳（メタデータ） (2021-10-12T17:21:41Z) - Counterfactual Invariance to Spurious Correlations: Why and How to Pass
Stress Tests [87.60900567941428]
素早い相関」とは、アナリストが重要とすべきでないと考える入力データのある側面に対するモデルの依存である。
機械学習では、これらにはノウ・イ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ」という特徴がある。
因果推論ツールを用いたストレステストについて検討した。
論文 参考訳（メタデータ） (2021-05-31T14:39:38Z) - Classification and Uncertainty Quantification of Corrupted Data using
Semi-Supervised Autoencoders [11.300365160909879]
本稿では,強い破損したデータを分類し,不確実性を定量化する確率論的手法を提案する。
破損しないデータに基づいてトレーニングされた半教師付きオートエンコーダが基盤となるアーキテクチャである。
モデルの不確実性は、その分類が正しいか間違っているかに強く依存していることを示す。
論文 参考訳（メタデータ） (2021-05-27T18:47:55Z) - Learning Causal Models Online [103.87959747047158]
予測モデルは、予測を行うためにデータの急激な相関に依存することができる。
強い一般化を達成するための一つの解決策は、モデルに因果構造を組み込むことである。
本稿では,突発的特徴を継続的に検出・除去するオンラインアルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-06-12T20:49:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。