論文の概要: Operationalising Weaker Faithfulness: Recovery, Ambiguity and Computational Limits
- arxiv url: http://arxiv.org/abs/2610.31724v1
- Date: Thu, 22 Oct 2026 12:41:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 01:38:06.253542
- Title: Operationalising Weaker Faithfulness: Recovery, Ambiguity and Computational Limits
- Title（参考訳）: オペレーティングウィーカーの忠実さ:回復、あいまいさ、計算限界
- Abstract要約: 2つのアプローチを通じて、より弱い忠実さの運用方法について検討する。
ノイズのあるXORと子孫(N = 10,000, 20の一致サンプル)では、再活性化と保護を組み合わせることで、0/20から完全な親ペア回復を20/20に変更する。
確認調査では、保護された学習者の選択した骨格を指向することで、家族推定者が失われた説明を保存できることが示されている。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Variables can predict an outcome jointly while each is individually independent of it, causing structure learners to discard informative links. We investigate how to operationalise weaker faithfulness through two approaches: selective protection in an adjacency learner and explicit retention of alternative directed graph explanations. Matched experiments show that changes at both an early candidate-removal stage and later pruning can be necessary. In noisy XOR with a descendant (N = 10,000, 20 matched samples), combining reactivation and protection raises complete parent-pair recovery from 0/20 for either change alone to 20/20, while adding false edges. A confirmation study shows that the family estimator can preserve explanations lost by orienting the protected learner's selected skeleton: in one weaker signal XOR condition (N = 10,000) it retains the entire reference family in 48/50 samples, compared with 0/50 for the skeleton adapter. These gains are conditional. Protection can add only error, weaker effects produce false exclusions, and an ordinary faithful-chain comparison favours the PC learner. Complete nonempty family outputs decline at six/eight variables, and all 400 twelve/twenty-variable searches remain unfinished at the reporting cutoff. Neural controls show engineered retention, while the family estimator returns no accepted graph within its application budget. This operationalisation identifies two deletion stages that must be coordinated in the motivating example and shows when direct family search preserves explanations lost by selecting one skeleton. Finite evidence and computation remain substantial barriers to reliable general inference.
- Abstract（参考訳）: 変数は、それぞれが個別に独立している間に共同で結果を予測することができ、構造学習者は情報リンクを破棄する。
本稿では, 隣接学習者の選択的保護と, 代替有向グラフ説明の明示的保持という2つのアプローチを用いて, より弱い忠実度を運用する方法を検討する。
一致した実験により、早期の候補除去段階と後期の刈り取り段階の両方の変更が必要であることが示された。
ノイズのあるXORと子孫(N = 10,000, 20の一致サンプル)では、再活性化と保護を組み合わせると、完全な親ペアの回復が0/20から20/20に変更され、偽のエッジが加えられる。
1つの弱い信号XOR条件(N = 10,000)では、48/50サンプルで参照ファミリー全体を保持するが、スケルトンアダプターでは0/50である。
これらの利得は条件付きです。
保護は誤りのみを加えることができ、より弱い効果は偽の排除を生じさせ、通常の忠実な連鎖比較はPC学習者に有利である。
完全に空でない家族の出力は6/8変数で減少し、レポートの切り離しで400の12/20変数の検索は未完成のままである。
ニューラルコントロールはエンジニアリングされた保持を示し、ファミリー推定器はアプリケーション予算内で受け入れられたグラフを返さない。
この運用では、モチベーションの例でコーディネートする必要がある2つの削除段階を特定し、直接的なファミリーサーチが1つのスケルトンを選択して失われた説明を保存するかを示す。
有限証拠と計算は、信頼性の高い一般推論にとって重要な障壁である。
関連論文リスト
- A Symmetry-Matching Approach to Blind-Spot Reduction in Sparse Autoencoders [0.0]
言語モデルは意味的に異なる入力を表現レベルで交換可能であるとして扱う。
臨床用量抽出、法定条項解釈、財務量検証などの安全クリティカルな設定では、そのような障害は下流の意思決定に静かに伝播することができる。
摂動を意識したSAEトレーニングは,下流検証を別の経験的ステップとして残しながら,安全性に配慮した入力変化に対して,特徴ベースを適応させることができることを示す。
論文 参考訳（メタデータ） (2026-10-17T23:10:45Z) - Human Interventions as Labels: Localizing, Steering, and (Sometimes) Editing the Computations Behind LLM Agent Failures [41.99844472131922]
本研究では,視覚障害者の判断に対して,ルールに基づく監督者のラベルを付して,制御されたエージェント環境を1つの障害で調査する。
第一に、w-vs-act決定は、すべての資格を持つ家族に因果的ローカライズ可能である。
第二に、オーバーエイキングには2つのメカニスティックなシグネチャがある: 4つのファミリーでは、モデルは明らかにその要求が曖昧であることを知っている。
論文 参考訳（メタデータ） (2026-10-15T11:27:19Z) - Teacher-Anchored Selection of Post-Training Quantized Models under Domain Shift [46.60221265861393]
候補者と教師が固定され,対象ラベルが欠落または不足している家族に対する選択について検討した。
独立に訓練されたコンボリューション(英語版)またはビジョントランスフォーマー(英語版)の教師1人当たりの1人のうち1人、34人以上の候補者が、平均的な後悔を和らげる。
論文 参考訳（メタデータ） (2026-09-25T11:49:05Z) - A Verifier Can Leak the Answer: Diagnosability Before Optimization in Closed-Loop Agent Debugging [0.39287497907611874]
検証者は、そのプローブがターゲットのアイデンティティを符号化したり、述語化したりすると、解法の比較を空にする。
クローズドループ決定エージェントにおけるアグリゲートトレースデバッガーの障害を報告する。
論文 参考訳（メタデータ） (2026-09-09T17:32:57Z) - When Does Permutation Instability Generalize? Independent-View Validation for Listwise LLM Reranking [0.0]
リストワイズ言語モデルリランカは、等価な候補置換に異を唱える。
有限不安定診断は、追加のサンプリング、アグリゲーション、選択的な計算の動機付けに使用される。
有限ビュー不安定度スコアが未確認順列を予測するという主張にどのように影響するかを考察する。
論文 参考訳（メタデータ） (2026-08-13T03:40:32Z) - Abstention as an Action Can Kill Both the Reward Gradient and the KL Anchor: Collapse Law and Repair for Error-Penalized Reinforcement Learning [5.990509154718772]
誤判定ルール(正解は+1ドル、誤答は$$、棄権は$0ドル)は幻覚に対してますます規定されている。
我々は、KL-anchored学習者が逆のことができることを証明した。
論文 参考訳（メタデータ） (2026-07-31T21:31:07Z) - Evidence-Type Competition: When Can Interventional Data Teach Language Models Causal Direction? [0.0]
介入データは 因果推論の モデルを教えるための金の基準として 広く見なされている
我々は、この仮定を、因果効果に対する観察的相関を考慮し、完全に制御された合成環境において検証する。
介入証拠が使用されているかどうかを規定するものは、トレーニングミックスではなく、推論時に文脈に存在するエビデンスタイプである。
論文 参考訳（メタデータ） (2026-07-31T14:49:18Z) - ConfRAG: Confidence-Guided Retrieval-Augmenting Generation [41.78313747240249]
複数の事実性ベンチマークで幻覚率を20～40%から5%以下に下げる微調整戦略であるConfQAを紹介した。
モデルが不確実に応答した場合のみRAGを起動するトリガー戦略であるConfRAGを提案する。
この枠組みは、不要な外部検索を30%以上削減しつつ、理想的な場合において95%以上の精度を達成する。
論文 参考訳（メタデータ） (2025-06-08T22:51:46Z) - Nonparametric Identifiability of Causal Representations from Unknown
Interventions [63.1354734978244]
本研究では, 因果表現学習, 潜伏因果変数を推定するタスク, およびそれらの変数の混合から因果関係を考察する。
我々のゴールは、根底にある真理潜入者とその因果グラフの両方を、介入データから解決不可能なあいまいさの集合まで識別することである。
論文 参考訳（メタデータ） (2023-06-01T10:51:58Z) - Neuro-Symbolic Entropy Regularization [78.16196949641079]
構造化予測では、目的は構造化されたオブジェクトをエンコードする多くの出力変数を共同で予測することである。
エントロピー正則化(Entropy regularization)という1つのアプローチは、決定境界が低確率領域にあるべきであることを示唆している。
我々は、モデルが有効対象を確実に予測することを奨励する損失、ニューロシンボリックエントロピー正規化を提案する。
論文 参考訳（メタデータ） (2022-01-25T06:23:10Z) - A Weaker Faithfulness Assumption based on Triple Interactions [89.59955143854556]
より弱い仮定として, 2$-adjacency faithfulness を提案します。
より弱い仮定の下で適用可能な因果発見のための音方向規則を提案する。
論文 参考訳（メタデータ） (2020-10-27T13:04:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。