論文の概要: Decorrelation Is Not Complementarity: Skill, Not Lineage, Governs Trusted-Monitor Ensembles
- arxiv url: http://arxiv.org/abs/2608.16190v1
- Date: Mon, 17 Aug 2026 07:10:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.564467
- Title: Decorrelation Is Not Complementarity: Skill, Not Lineage, Governs Trusted-Monitor Ensembles
- Title（参考訳）: デコレーションは相反するものではない、スキルとリニアジュではなく、信頼された投資家の集まり
- Abstract要約: 本研究では,9系統にまたがる24個のオープンウェイトモニターと29倍の検知技術について検討した。
一致したメンバー能力では、クロスラインのパネルは良くない。
相関重み付けされた選択は、サンプルから最高のモニターを選ばない。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Trusted monitoring has a cheap, trusted model score a stronger untrusted model's actions, and a diverse ensemble of them beats a single stronger monitor at matched cost. They are built by minimising average pairwise correlation, and that paper's twelve monitors shared one base model, leaving open what supplies the diversity. We study 24 open-weight monitors spanning nine pretraining lineages and a 29x range of detection skill (pAUC at 10 percent FPR, 0.028 to 0.803) on backdoored code. The metric used to build panels does not predict what a panel is for, and we can say why. Agreement on attack items splits into a shared-detectability signal component and an idiosyncratic error component, which predict ensemble gain with opposite sign (Spearman -0.25 and +0.26), so their sum, the metric actually used, predicts it barely at all (+0.05); the cancellation holds in 7 of 8 evaluations. Skill acts on signal (+0.53) while error stays flat (-0.01), which is why a monitor's own skill predicts its agreement with the pool (Spearman 0.84, n = 24, permutation p below 0.0001). Pretraining lineage is the obvious way to buy decorrelation, and it does not pay. At matched member capability, cross-lineage panels detect no better (permutation p = 0.13), and lineage barely moves the metric either (+0.064, p = 0.18). We report that against ourselves: on our own 22-monitor pool the same test read +0.104 at p = 0.037 until two monitors were added. An earlier pool topping out at pAUC 0.23 had already invalidated another analysis. Such a quantity is a property of the pool assembled. Panel gain over the best member falls monotonically with panel skill (-0.66 at k = 2, -0.70 at k = 3), and no correlation-weighted selection beats picking the single best monitor out of sample. Across six attacker models the gain result holds in all six, the agreement and cancellation results in five of six.
- Abstract（参考訳）: 信頼されたモニタリングは安価で信頼性の高いモデルで、信頼できないモデルのアクションをより強力にスコアし、様々なアンサンブルが一致したコストで1つのより強力なモニターを打ち負かす。
平均的な対相関を最小化することで構築され、その紙の12台のモニターは1つのベースモデルを共有し、多様性を何に供給するかを開いている。
バックドアコード上で,9つの事前学習系統にまたがる24個のオープンウェイトモニタと29倍の検知技術(pAUC:10% FPR,0.028～0.803)について検討した。
パネルを構築するために使われるメトリクスは、パネルが何のためにあるのかを予測しません。
攻撃項目の一致は、共有検出可能な信号成分と、反対の符号でアンサンブルゲインを予測する慣用的エラー成分(Spearman -0.25および+0.26)に分けられる。
スキルは信号(+0.53)に作用するが、エラーは平らであり(-0.01)、モニター自身のスキルがプールとの一致を予測する(Spearman 0.84, n = 24 permutation p under 0.0001)。
系統の事前訓練はデコレーションを買うための明らかな方法であり、費用はかからない。
一致したメンバーの能力において、クロスラインジュパネルはより良くない(置換 p = 0.13)し、系統は測度(+0.064, p = 0.18)をほとんど動かさない。
2つのモニターが追加されるまで、p = 0.037 で同じテストが +0.104 で読み上げられました。
pAUC 0.23の初期のプールは、既に別の分析を無効にしていた。
そのような量は、組み立てられたプールの特性である。
ベストメンバーのパネルゲインは、パネルスキル(k = 2, -0.70 at k = 3)で単調に低下し、相関重み付き選択では、サンプルから最高のモニターを選ぶことはない。
6つ以上の攻撃者が利得結果を6つすべて保持し、合意とキャンセルの結果は6つのうち5つである。
関連論文リスト
- Peer-Voted LLM-Agent Stress Tests Find Feed-Induced Lexical Convergence but No Reliable Matched-Exposure Advantage for Distributed Sources [0.013714053458441644]
ピア投票型ソーシャルプラットフォームテストベッドであるPV-SSTを紹介する。
実験は448の試験と112の完全なモデル・バイ・トピック・バイ・シードブロックで構成されている。
論文 参考訳（メタデータ） (2026-08-20T12:01:19Z) - Whose Gold? Annotator-Pool Disagreement Is Large at the Item Level, and Hidden by Small Leaderboards [0.0]
評価ベンチマークはアノテータの採用によって構築され、それらのアノテータの同一性は実装の詳細として扱われる。
2,885件のMultiPrefアイテムには、両方のプールが全会一致で配置されているため、ネクタイ破りのコンベンションは一切ない。
しかし、両方のコーパスでは、結果のモデルリーダーボードはビット識別される: Kendall tau = 1.00 で、6つのモデルのうちゼロが置き換えられる。
論文 参考訳（メタデータ） (2026-08-17T00:19:52Z) - Excess Separability: Nuisance-Controlled Residual-Stream Probing for Benchmark Contamination Detection [0.0]
ベンチマーク汚染はn-gram重なり、可能性に基づくメンバーシップ推論、カナリア文字列と診断される。
これを行う自然な方法はうまくいかないことを示し、測定を生き残るものを特定し、それを動作させる補正が、テストされるnullよりも多くのばらつきをもたらすことを見つけます。
論文 参考訳（メタデータ） (2026-08-12T23:27:20Z) - Accurate Ensembles, Fragile Narratives: Multi-Scale Stacking and a Fidelity Audit of LLM-Generated Explanations for Credit Risk [0.0]
クレジットスコアリングは、決定ロジックをパラメータから読み取ることができないモデルに依存している。
共通する提案は、言語モデルとのギャップを埋める: 特徴属性を計算し、それらを LLM に渡し、合理的に記述させる。
このようなシステムをエンド・ツー・エンドに構築し、約束の後半が成立するかどうかをテストします。
論文 参考訳（メタデータ） (2026-08-08T13:22:14Z) - Is Personalized Modality Weighting Actually Personalized? A Controlled Audit of Per-User Weighting Claims in Multimodal Recommenders [29.643383372337308]
単一のグローバルウェイトが3つの独立したショートビデオコーパスにほぼ全てのコンテンツゲインをもたらすことを示す。
パーソナライズ・クレームの最低基準として,リアルシューフとともにリアルタイムGMを報告することを提案する。
論文 参考訳（メタデータ） (2026-08-06T06:52:38Z) - Detecting and Discriminating Operator Misspecification in Hybrid PDE-Parameter Learning: a Reference-Free Instrument, with Discrimination Bounded In Sample [0.0]
私たちは1つのフィットから読み取る楽器を作り、オラクルは持っていません。
回復時に神経推定器がTikhonov-regularized inversionに負ける、事前登録された負の機器である、装置の盲点を報告する。
論文 参考訳（メタデータ） (2026-08-04T21:20:44Z) - One Human, $N$ Agents: Audit-Budget Allocation for LLM Agent Fleets under Miscalibrated, Correlated Confidence [41.99844472131922]
一人の人間が1ラウンド当たり$N$ LLMエージェントを予算$B ll N$監査で監査しなければならない。
我々はこれを、2段階のガウス的コーパスに対する予算付きノイズ検査としてモデル化し、信頼度の高い監査がランダムである場合の誤校正しきい値($*$過去)を特定する。
論文 参考訳（メタデータ） (2026-07-30T14:52:36Z) - Fixed-Protocol Amortized MPS Tomography with Conformalized Predictive Uncertainty [31.082191748525137]
量子状態トモグラフィーはサンプリング・スターベットされ、その状態は狭く学習可能な多様体上で生きていく。
事前の見積もりは、既にほぼ最適であり、ほとんどの測定値において高い忠実度」は、断層撮影よりも家族の記憶である可能性がある。
そこで本稿では,ゲージ不変の忠実度損失を一度トレーニングしたemph-protocolアモータライズMPS推定器を提案する。
論文 参考訳（メタデータ） (2026-07-13T08:57:23Z) - Scaffold splits hide structural-frontier failures in ADMET models [25.408600489964726]
我々は,最も広く,最も物理化学的に遠隔的な足場群を予約するラベルフリーな構造フロンティアスプリットを導入する。
ADMETタスクを6つの公開実験またはキュレートしたADMETタスクで評価した。
論文 参考訳（メタデータ） (2026-07-12T12:25:50Z) - Same Evidence, Different Answer: Auditing Order Sensitivity in Multimodal Large Language Models [29.673427534201654]
マルチモーダルな大規模言語モデルの5面監査であるFacet-Probeを紹介する。
監査対象の18のMLLMはいずれも順序不変ではないことが分かりました。
MLLMの標準報告軸として,クロスオーダーフリップ率を提案する。
論文 参考訳（メタデータ） (2026-06-24T17:53:26Z) - Bernoulli CUSUM and Bayes-Optimal Detection Ceilings for Trust Fraud in Sparse Rating Networks [0.0]
レーティングネットワークにおける逐次信頼検出は、実データで失敗する連続観測モデルに依存する。
Bitcoin-OTCでは、評価の56%が標準マッピングの下で単一の値を取り、パラメトリック検出器が要求する分散仮定を破っている。
論文 参考訳（メタデータ） (2026-06-03T16:56:15Z) - Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。
個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。
構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
論文 参考訳（メタデータ） (2026-05-15T17:08:27Z) - On the (In-)Security of the Shuffling Defense in the Transformer Secure Inference [28.863461307044435]
シャッフルされた活性化を共通の置換に整列させ、モデル重みを抽出する攻撃を提案する。
Pythia-70mとGPT-2の実験では、提案された攻撃はシャッフルされたアクティベーションと平均2乗誤差を10-9$から10-6$に調整できることを示した。
クエリコストは約1ドルで、L1-norm差が10-4$から10-2$のモデルウェイトを回収することができる。
論文 参考訳（メタデータ） (2026-05-06T13:31:15Z) - Adaptive Confidence Intervals in Efron's Gaussian Two-Groups Model [28.636700996382558]
敵のノイズに満ちた性質により、Efronのガウス的二群分数モデルにおいて、ヌル位置パラメータ$$に対する信頼区間を研究する。
信頼区間の最小最適長を、未知の割合の汚染と全てのノイズに満ちた敵に対して、所定のカバレッジレベルで特徴付ける。
論文 参考訳（メタデータ） (2026-04-28T22:40:54Z) - Causal Understanding by LLMs: The Role of Uncertainty [43.87879175532034]
近年の論文では、LLMは因果関係分類においてほぼランダムな精度を達成している。
因果的事例への事前曝露が因果的理解を改善するか否かを検討する。
論文 参考訳（メタデータ） (2025-09-24T13:06:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。