Fugu-MT 論文翻訳(概要): Binarization Flattens the Score Space

論文の概要: Binarization Flattens the Score Space

arxiv url: http://arxiv.org/abs/2609.35797v1
Date: Thu, 17 Sep 2026 20:29:21 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-05 14:48:16.276005
Title: Binarization Flattens the Score Space
Title（参考訳）: スコアスペースのバイナリ化フラット化
Abstract要約: 大規模言語モデル (LLM) の審査員は、決定論的検証が取得できない目的に対してポリシーを訓練する報酬としてしばしば用いられる。私たちは、各パス/フェイル判定を、報告されていないスケールで1つのカットオフと比較してスコアとしてモデル化します。したがって、ポリシーは、パネルが報告するものを変更することなく、自由に適用できる。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Large language model (LLM) judges are often used as rewards to train policies on objectives that deterministic verifiers cannot capture. However, these rewards are often collapsed to pass/fail ({0, 1}), which reports the verdict but not how well a response met each criterion. We model each pass/fail verdict as a score on an unreported scale, compared with one cutoff. A stretch of that scale moves every score proportionally toward or away from the cutoff, but never across it, so no verdict changes. A policy is therefore free to apply any stretch without changing anything the panel reports. Under a joint-Gaussian model, a third grade adds a second threshold and removes this affine stretch ambiguity. On MATH and SciBench outputs from one seven-criterion judge, all 14 constructed criterionwise stretches were invisible after binarization but visible with three grades. At $n=1{,}024$, a test given both population laws had at least 96.5% power at a $1.5\times$ stress. Retaining grades closes one blind spot created by binarization, but verdicts alone remain insufficient as some changes are still indistinguishable from genuine improvement. These include arbitrary within-grade changes and fixed-covariance, loading-aligned mean shifts -- the signature of a sycophancy-shaped lift the panel reads as competence. The shared-factor reference approximation fit MATH and SciBench but not HealthBench, delineating its empirical scope. We recommend keeping at least three grades (for example, asking the judge whether each criterion is fully, partially, or not met and rewarding {0, 0.5, 1}), and externally validating gains along the remaining direction, which no finer scale removes.
Abstract（参考訳）: 大規模言語モデル (LLM) の審査員は、決定論的検証が取得できない目的に対してポリシーを訓練する報酬としてしばしば用いられる。しかしながら、これらの報酬はしばしばパス/フェイル({0, 1})に崩壊し、判定は報告されるが、反応がそれぞれの基準にどの程度うまく適合しているかは示さない。私たちは、各パス/フェイル判定を、報告されていないスケールで1つのカットオフと比較してスコアとしてモデル化します。そのスケールのストレッチは、すべてのスコアをカットオフから比例的に移動しますが、それを横切ることはありません。したがって、ポリシーは、パネルが報告するものを変更することなく、自由に適用できる。合同ガウスモデルの下では、第3グレードは第2しきい値を追加し、このアフィンストレッチのあいまいさを取り除く。 MATHとSciBenchの7基準判定結果では, 両項化後, 全14項目の基準値が見えないが, 3グレードで可視であった。 n=1{,}024$で、両方の人口法が与えられたテストは、少なくとも96.5%の電力と1.5\times$のストレスを持っていた。グラデーションの保持はバイナライゼーションによって生成される盲点を1つ閉じるが、いくつかの変更が真の改善と区別できないため、判定だけでは不十分である。これには任意の内部グレードの変更と固定共分散、ロード整列平均シフト -- パネルがコンピテンスとして読み出すサイコフィナンシー型のリフトの署名 -- が含まれている。共有因子参照近似はMATHとSciBenchに適合するがHealthBenchには適合しない。我々は、少なくとも3つのグレード(例えば、各基準が完全に、部分的に、満たされているか、満たされていないかを判断する; {0, 0.5, 1})を維持し、残りの方向に沿って利得を外部に検証することを推奨する。

関連論文リスト

When Do Internal Probes Beat Reading the Answer? Miscalibrated Readouts and Behavior-Concealed Knowledge in Language Models [0.0]
1200の論理的結論の検証を依頼された言語モデルは、毎回YESに答える。隠れた状態の線形プローブは、0.96 AUCで正しい判定を読み取った。判決がどこで失われるかを問うと、支配的な失敗は1つのスカラーであることがわかった。診断は、90のセマンティックラベル構成で、5つのモデル、3つのファミリーの因子的、行動的精度が閾値オフセットの1つの関数に崩壊する。
論文参考訳（メタデータ） (2026-09-04T00:26:45Z)
Verdict Instability of OOD Scores under Reference Resampling [4.260015792110957]
ポストホック・アウト・オブ・ディストリビューション検出器は有限基準セットに収まるので、それらが生成するすべてのスコアは推定値である。基準セットを再サンプリングし、スコアのブートストラップ標準偏差を記録することにより、検証の不安定性を測定する。ラベルのない1つの相関から任意のスコアに対するこのサインを予測するルールを与え、間違った符号付きスコアによって駆動される棄権は、テストするデータセット毎にランダムに棄権するよりもひどい結果となる。
論文参考訳（メタデータ） (2026-09-01T04:12:15Z)
Difference-in-Differences on a Censored Rating Scale Can Manufacture an Effect: Evidence from a Pre-Registered LLM-Judge Audit [15.81584544074437]
LLM審査員の聴取は、一致した条件を対比することでバイアスを認定する。このエンドポイントは、報告するスケールでは特定されない。我々は,そのメカニズムをクローズドな形で導き,その貢献が監査の自己評価から測定可能であることを示す。
論文参考訳（メタデータ） (2026-08-27T16:10:16Z)
Visual Credit Audit for Multimodal Spatial Reasoning [70.16915309526443]
Visual Credit Auditは、ベンチマーク画像がテキストのみとブランクコントロールよりもモデルの宣言された決定をもっとサポートするかどうか、モデルが関係性固有の視覚的エビデンスに反応するかどうかの2つの評価を分離する。ラベルを適用すれば依存性認定正当性(D-CC)が得られる 4つのオープンMLLMと2つの空間ベンチマーク、12.73-26.25%の判定は正確であるが、証明されていない。
論文参考訳（メタデータ） (2026-07-29T15:55:31Z)
More Convincing, Not More Correct: Self-Play Reward Hacking of Reference-Free LLM Judges [4.167333498582309]
言語モデルをそれ自身の参照なし判断に対して訓練することは、モデルが答えの正しさを判断することを前提にしている。候補者に条件付きで、裁判官は正当性ではなく妥当性をスコアし、政策が悪用することを学習する偽陽性の盆地を残す。
論文参考訳（メタデータ） (2026-07-07T06:59:30Z)
Inducing Reward-Free Judging Rubrics that Reduce Over-Crediting in Agent Evaluation [0.0]
大規模に言語モデルエージェントを評価することは、自動判断として第2の言語モデルに依存している。このような裁判官は、信用できるかどうかにかかっているが、既存の裁判官はG-Evalのようにスコアリングのルーリックを手書きするか、審査員の重みを微調整するかのいずれかであり、どちらも成功として流動的だが失敗に終わった軌跡を信用する傾向がある。本稿では,ラベル付きトラジェクトリに対する反射的進化により判断ルージェリクスを進化させ,環境報酬との一致を最大化し,凍結し,環境アクセスのない1つのモデルコールにおける保留トラジェリクスに適用するForgeForgeを提案する。
論文参考訳（メタデータ） (2026-06-25T03:58:31Z)
What Accuracy and Gradient Cosine Miss: Evaluating Feedback Alignment via Scale Stability, Reference Validity, and Depth Utility [48.10132234701036]
本稿では,3つのチェック(スケール安定性,参照妥当性,深度ユーティリティ)に基づく診断評価プロトコルを提案する。複数のアーキテクチャや手法にまたがって、我々のプロトコルは広い校正マージンを持つ全ての障害を識別する。
論文参考訳（メタデータ） (2026-06-19T06:04:17Z)
CoEval: Ranking Language Models for Custom Tasks Without Labeled Data or Trustworthy Benchmarks [47.027290803102666]
アンサンブル自己評価を通じて信頼性の高いタスク固有信号を提供するオープンフレームワークであるCoEvalを提案する。モデルのプールは教師、学生、裁判官の3つの役割すべてを通して回転し、新鮮な汚染のないベンチマークを生成する。
論文参考訳（メタデータ） (2026-06-02T13:41:43Z)
Right Makes Might: Aligning Verified Hidden States Empowers RL Reasoning [55.264863369127774]
現在の方法では、それぞれの正しいロールアウトを単一の報酬ビットに減らし、隠れた状態間で共有される幾何学的構造を無視している。本稿では,RLトレーニングにおけるアンカートークンにおける正ロールアウトの最終層を,トレーニングと推論の両方においてゼロオーバーヘッドで整列する補助損失関数Hidden-Alignを提案する。 8つの数学的推論ベンチマークでは、Hidden-AlignはDAPOベースラインの平均パス@1をQwen3-1.7B, 4B, 14Bで3.8, 6.2, 5.4ポイント改善し、3つのスケールで一貫したパス@kゲインを得る。
論文参考訳（メタデータ） (2026-06-02T06:51:15Z)
Dependence-Aware Label Aggregation for LLM-as-a-Judge via Ising Models [55.94503936470247]
大規模なAI評価は、審査員を含む、$K$アノテータからのバイナリ判断を集約することにますます依存している。ほとんどの古典的なメソッドは、アノテータが条件的に独立であると仮定するが、真のラベルは$Yin0,1$であり、この仮定は LLM の審査員によってしばしば違反される。我々はIsingグラフィカルモデルと潜在因子に基づく依存認識モデルの階層構造を通してラベルアグリゲーションを研究する。
論文参考訳（メタデータ） (2026-01-29T21:26:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。