論文の概要: Sharding Prevents LLM Oversight Failures and Adversarial Exploitation
- arxiv url: http://arxiv.org/abs/2608.06422v1
- Date: Wed, 05 Aug 2026 18:21:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-10 16:21:25.244214
- Title: Sharding Prevents LLM Oversight Failures and Adversarial Exploitation
- Title（参考訳）: LLM監視の失敗と敵の爆発を防ぐシャーディング
- Abstract要約: シャーディングは要求を小さなグループに分割し、各グループを別の呼び出しに割り当て、評決を集約する。
シャードの弱い裁判官は、より有能な総合的な裁判官よりも優れており、後者がパネルの全予算を受け取ったとしても、その裁判官と一致することができる。
- 参考スコア（独自算出の注目度）: 45.380649793616705
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Giving an LLM judge more compute does not necessarily make it check more requirements. When one call must return many verdicts, some decisions become weakly grounded in the evidence, even when that call receives the same token or tool budget as a panel of separate calls. Across expert-graded research replications, legal work, and clinical-trial assessments, agreement with experts falls as the number of verdicts per call grows. We identify sharding as the intervention that mitigates this failure in model-based oversight. Sharding partitions the requirements into smaller groups, assigns each group to a separate call, and aggregates the verdicts. Against a single call with the panel's full budget, sharding improves agreement while holding the model, evidence, total budget, and per-decision budget fixed. Overall, we find that a sharded weaker judge can outperform a more capable holistic judge and match that judge even when the latter receives the panel's full budget. Additionally, we find that sharding exhibits robustness against adversaries. A best-of-N adversary can hold the underlying work fixed, vary only its presentation, and increase an overloaded judge's acceptance of genuinely unmet criteria severalfold. Wherever sharding reduces baseline error, it removes this adversarial advantage, keeping over-acceptance low even as the adversary's search widens. Sharding does not address attacks that persuade the judge separately on each criterion rather than exploiting overload. In that setting, we find that debate-style opposition on top of sharding withstands such adaptive re-optimization.
- Abstract（参考訳）: LLMの判断をより多くの計算量にすると、必ずしもより多くの要求をチェックするとは限らない。
ある呼び出しが多くの評決を返さなければならないとき、その呼び出しが別の呼び出しのパネルと同じトークンやツールの予算を受け取っている場合でも、いくつかの決定は証拠に弱い根拠となる。
専門家が格付けした研究の複製、法的作業、臨床・臨床的評価など、専門家との合意は、通話1件当たりの評決数が増加するにつれて低下する。
シャーディングはモデルに基づく監視において、この失敗を緩和する介入であると考えています。
シャーディングは要求を小さなグループに分割し、各グループを別の呼び出しに割り当て、検証を集約する。
委員会の全予算に対する単一の呼びかけに対して、シャーディングは、モデル、証拠、総予算、決定ごとの予算を定めながら、合意を改善します。
全体としては、シャードの弱い裁判官は、より有能な総合的な裁判官より優れており、後者がパネルの全予算を受け取った場合でも、その裁判官と一致することが分かる。
さらに,シャーディングは敵に対する堅牢性を示す。
ベスト・オブ・Nの敵は、基礎となる作業を固定し、プレゼンテーションだけを変えることができ、過負荷の裁判官が真に未成熟な基準を何回も受け入れることを増やすことができる。
シャーディングはベースライン誤差を減少させるが、この敵の優位性を排除し、敵の探索が拡大しても過剰受容を低く抑える。
シャーディングは過負荷を悪用するよりも、裁判官をそれぞれの基準で個別に説得する攻撃に対処しない。
この設定では、シャーディングの上の議論スタイルの反対は、そのような適応的な再最適化に耐えられる。
関連論文リスト
- CABAL: Multi-Agent Simulacra for Tracing the Effects of Collusive Bidding in Peer Review [20.449658717520876]
algは、レビュアーの割り当ての整合性を研究するための、エンドツーエンドのマルチエージェント・シミュラクラフレームワークである。
我々は,相互レビュアと紙の親和性を利用して共役環を構築する親和性誘導型共役入札戦略を開発した。
論文 参考訳（メタデータ） (2026-09-04T14:55:33Z) - JudgePanel: A Compact Judge with Panel Deliberation via Adaptive Multi-Reward Reinforcement Learning [5.81106044690391]
単一モデル審査員は、固有のモデルバイアスによって制限される。
多様な検討を通じてこれを緩和するマルチエージェント評価プロトコルは、推論時に極めて高価である。
マルチエージェント型アンダーラインJudgeモデルとマルチエージェント型アンダーラインパネル検討機能を備えた textbfmodelname を提案する。
論文 参考訳（メタデータ） (2026-08-29T09:33:49Z) - Stopping and Routing LLM Judge Panels [20.569427412312297]
デプロイの問題は、どの裁判官が最善かだけでなく、どの例、パネル構築がいつ停止するかである。
我々は,役割条件付アロケーション問題として判断パネル設計を定式化する。
この手法は、単一の審査員、平らなパネル、一致した多様性、フルコールの積み重ね、信頼性の判定、フグのカスケードと比較される。
論文 参考訳（メタデータ） (2026-08-20T08:58:00Z) - Mitigating Perceptual Judgment Bias in Multimodal LLM-as-a-Judge via Perceptual Perturbation and Reward Modeling [35.945096782147864]
MLLMの裁判官は、視覚的証拠がテキストの手がかりと矛盾する場合、知覚的に正しい答えに対して、もっともらしい物語に報いる傾向がある。
本稿では,最小限に編集された反事実応答を構成するPerceptually Perturbed Judgmentデータセットを提案する。
我々は、構造化GRPOベースの報酬とバッチレベルの目標を組み合わせた統一的なトレーニングフレームワークを開発し、明示的なペアワイドラベルを使わずにコヒーレントなグローバルオーダを実現する。
論文 参考訳（メタデータ） (2026-06-01T17:59:46Z) - PReMISE: Policy Rubrics as Measurement Specifications for LLM Judges [33.739528721872844]
役に立ち、現実的」な回答を求めるあいまいなルーリックは、事実を発明したり、ユーザーの意図に反する、洗練された答えに報いることができる。
PReMISEは, 構造的妥当性, 信頼性, 嗜好適合性, 対向ロバスト性という4つの軸に沿って, LLM-judge の下で使用されるすべてのルーブリックを監査するフレームワークである。
選好ランク選択は、ペア化された応答の判定精度を65.0%から6.8.6%に引き上げ、最強のルーリック発見ベースラインと競合し、クロスジャッジスイープの審査員のうち2人を導いた。
論文 参考訳（メタデータ） (2026-05-29T03:45:11Z) - Instance-Optimal Estimation with Multiple LLM Judges on a Budget [84.31744861038106]
我々は、この問題を*予算付きヘテロスケダティックなマルチジャッジ推定*として定式化する。
K$のプロンプト-レスポンスペア、J$の既知のコストと未知のクエリ-ジャッジ分散が与えられた場合、目標は、$ell_p$-errorを最小化しながら、有界スコアベクトルを推定することである。
EST-IVWEは,予算の低次項までのオラクルIVWEレートと一致していることを示す。
論文 参考訳（メタデータ） (2026-05-22T08:26:08Z) - Permutation-Consensus Listwise Judging for Robust Factuality Evaluation [0.8563354084119061]
リストワイド事実性評価における候補順序感度について検討した。
そこで我々は,PCFJudgeを紹介した。PCFJudgeは,同一候補集合の複数の順序に対して,同じ事実を優先的にリストワイズする推論時手法である。
RewardBench 2 Factualityでは、PCFJudgeは最大7つの絶対点による直接判定よりも改善される。
論文 参考訳（メタデータ） (2026-03-20T23:35:14Z) - A Coin Flip for Safety: LLM Judges Fail to Reliably Measure Adversarial Robustness [57.510025257780306]
既存の検証プロトコルは、レッドチーム固有の分散シフトを考慮できないことを示す。
我々は、より一貫して判断可能な振る舞いのベンチマークであるReliableBenchと、判断失敗を公開するために設計されたデータセットであるJiceStressTestを提案する。
論文 参考訳（メタデータ） (2026-02-04T15:13:35Z) - From Sycophancy to Sensemaking: Premise Governance for Human-AI Decision Making [0.0]
低フリクションアシスタントはサイコファンになり、暗黙の仮定を叩き、検証コストを専門家に押し付ける。
我々は、信頼できる人間とAIのパートナーシップには、回答生成から共同前提ガバナンスへの移行が必要であると主張している。
論文 参考訳（メタデータ） (2026-02-02T17:42:54Z) - Gaming the Judge: Unfaithful Chain-of-Thought Can Undermine Agent Evaluation [76.5533899503582]
大規模言語モデル(LLM)は、エージェントのパフォーマンスを評価するために、ますます裁判官として使われている。
このパラダイムは、エージェントのチェーン・オブ・シークレット(CoT)推論が内部の推論と環境状態の両方を忠実に反映していることを暗黙的に仮定している。
我々は、操作された推論だけで、様々なWebタスクにまたがる800の軌跡に対して、最先端のVLM審査員の偽陽性率を最大90%向上させることができることを実証した。
論文 参考訳（メタデータ） (2026-01-21T06:07:43Z) - CompassJudger-2: Towards Generalist Judge Model via Verifiable Rewards [72.44810390478229]
CompassJudger-2は、タスク駆動のマルチドメインデータキュレーション戦略によって制限を克服する新しいジェネラリストジャッジモデルである。
CompassJudger-2は、複数の判定と報奨ベンチマークで優れた結果を得る。
論文 参考訳（メタデータ） (2025-07-12T01:34:24Z) - Confidence-Budget Matching for Sequential Budgeted Learning [69.77435313099366]
問合せ予算で意思決定問題を定式化する。
我々は,多腕バンディット,線形バンディット,強化学習問題を考察する。
我々は,CBMに基づくアルゴリズムが逆性の存在下で良好に動作することを示す。
論文 参考訳（メタデータ） (2021-02-05T19:56:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。