論文の概要: Searching for "Harmful Refusal": A Psychometric Audit of an AI Safety Benchmark

• arxiv url: http://arxiv.org/abs/2610.12409v1
• Date: Thu, 08 Oct 2026 17:46:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:54.237183
• Title: Searching for "Harmful Refusal": A Psychometric Audit of an AI Safety Benchmark
• Title（参考訳）: 有害な拒絶」の検索:AI安全ベンチマークの心理学的監査
• Abstract要約: HELM Safetyの4つのデータセットは有害な拒絶を確実に狙う可能性があるが、3つは飽和している。 残りのデータセットであるHarmBenchを2つの心理測定テストに当てはめ、有害な拒絶のような1つの属性がそのスコアの裏に立つかどうかを判定しました。 スコアは、モデルがそれと比較される前に、単一属性の読み込みを得られるべきだ、と私たちは主張する。
• 参考スコア（独自算出の注目度）: 12.851120479412264
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Safety benchmarks typically report one overall score for a suite of datasets, each of which may target one or more safety-related attributes, so models with similar overall scores can have very different attribute profiles. Comparing models is more tractable at the level of individual attributes, yet it is often unclear whether even a single dataset's scores isolate any single attribute. One plausible candidate for such an attribute is harmful refusal, a model's tendency to refuse dangerous or policy-violating prompts. We examine whether it constitutes a single, measurable attribute in HELM Safety. Using a construct validity framework that stipulates that an attribute must exist before a test can measure it, we start with HELM Safety's four datasets that might plausibly target harmful refusal, but find that three are saturated. We subject the remaining dataset, HarmBench, to two psychometric tests to determine if a single attribute like harmful refusal could stand behind its score. First, multidimensional item response theory modeling strongly suggests that HarmBench does not measure a singular attribute. Second, a differential item functioning analysis finds items where models from different developers with the same refusal ability score differently. These flags largely disappear under scope-specific matching, a pattern consistent with aggregation effects but not sufficient to rule out domain-specific developer differences. Zooming out, HarmBench collapses distinct harm behaviors into one score, and the overall HELM safety aggregate further collapses HarmBench and scores from other datasets into a single top-line number. Any safety score that averages over datasets and items can hide saturation and conflate behaviors this way. We argue that a score should earn its single-attribute reading before models are compared with it.
• Abstract（参考訳）: 安全ベンチマークは通常、1組のデータセットに対して1つの総合スコアを報告し、それぞれが1つ以上の安全関連属性をターゲットにしている可能性があるため、同じ総合スコアを持つモデルは、非常に異なる属性プロファイルを持つことができる。 モデルの比較は個々の属性のレベルでより難しいが、単一のデータセットのスコアでさえ単一の属性を分離するかどうかはしばしば不明である。 そのような属性の候補の1つは有害な拒絶であり、モデルが危険または政策違反のプロンプトを拒否する傾向にある。 HELMセーフティにおける単一の測定可能な属性を構成するかどうかを検討する。 まず、HELM Safetyの4つのデータセットから始めます。これは有害な拒絶を確実に狙うかもしれませんが、3つが飽和していることに気付きます。 残りのデータセットであるHarmBenchを2つの心理測定テストに当てはめ、有害な拒絶のような1つの属性がそのスコアの裏に立つかどうかを判定しました。 まず、多次元アイテム応答理論のモデリングは、HarmBenchが特異属性を測らないことを強く示唆している。 第二に、ディファレンシャルアイテム機能分析は、異なる開発者から同じ拒絶能力を持つモデルのスコアが異なる項目を見つける。 これらのフラグは、アグリゲーションエフェクトと一致しているが、ドメイン固有の開発者差を除外するのに十分なパターンであるスコープ固有のマッチングの下で、大部分が消滅する。 ズームアウトすると、HarmBenchは個々の害行動を1つのスコアに分解し、HELMの安全性アグリゲーションはHarmBenchと他のデータセットのスコアを1つのトップライン番号に分解する。 データセットやアイテムよりも平均的な安全性スコアは、この方法で飽和を隠蔽し、振る舞いを説明できる。 スコアは、モデルがそれと比較される前に、単一属性の読み込みを得られるべきだ、と私たちは主張する。

関連論文リスト

• Efficient Detection of Bad Benchmark Items with Novel Scalability Coefficients [3.058685580689604]
  異方性回帰に基づく非パラメトリックな拡張係数の新たなファミリを導入する。 中心的な寄与は符号付きイソトニック$R2$であり、これは説明可能な1つの項目における分散の最大比率を測定する。 符号付き等方性$R2$は単調予測器の中で極端であることを示す。
  論文  参考訳（メタデータ） (2026-03-26T03:47:49Z)
• How Many Ratings per Item are Necessary for Reliable Significance Testing? [7.422152765037947]
  機械学習評価の基盤は、モデルと人間の反応が一元的、権威的、金標準のデータに対するモデルを評価するのに十分な信頼性を持つという仮定である。 我々は、(既存のまたは計画された)データセットが、信頼できるヌル仮説の統計的テストを保証するのに十分な応答を持っているかどうかを判断するために、メソッドを適用する。 我々の手法は、AI研究者がAI評価のためのデータ収集方法に関するより良い決定を下すのにどのように役立つかを示す。
  論文  参考訳（メタデータ） (2024-12-04T02:31:28Z)
• BUMP: A Benchmark of Unfaithful Minimal Pairs for Meta-Evaluation of Faithfulness Metrics [70.52570641514146]
  不誠実な最小対 (BUMP) のベンチマークを示す。 BUMPは、889人の人間が書いた最小限のサマリーペアのデータセットである。 非ペアベースのデータセットとは異なり、BUMPはメトリクスの一貫性を測定するために使用することができる。
  論文  参考訳（メタデータ） (2022-12-20T02:17:30Z)
• Can Querying for Bias Leak Protected Attributes? Achieving Privacy With Smooth Sensitivity [14.564919048514897]
  既存の規制は、モデル開発者が保護された属性にアクセスすることを禁止している。 公正度測定値を求めるだけで、モデルの開発者に対する個人の保護された属性が漏洩する可能性があることを示す。 本稿では,雑音をバイアスクエリのスムーズな感度に調整することで,差分プライバシーを実現する新しい手法であるAttribute-Concealを提案する。
  論文  参考訳（メタデータ） (2022-11-03T20:44:48Z)
• Rethinking Missing Data: Aleatoric Uncertainty-Aware Recommendation [59.500347564280204]
  本稿では, Aleatoric Uncertainty-aware Recommendation (AUR) フレームワークを提案する。 AURは、新しい不確実性推定器と通常のレコメンデータモデルで構成されている。 誤ラベルの可能性がペアの可能性を反映しているため、AURは不確実性に応じてレコメンデーションを行う。
  論文  参考訳（メタデータ） (2022-09-22T04:32:51Z)
• Spread Spurious Attribute: Improving Worst-group Accuracy with Spurious Attribute Estimation [72.92329724600631]
  本稿では,最悪のグループ精度を向上させるために,疑似属性に基づくアルゴリズムSpread Spurious Attributeを提案する。 各種ベンチマークデータセットに対する実験により,アルゴリズムはベースライン法より一貫して優れていることが示された。 また,提案したSSAは,フル (100%) のスプリアス特性監視を用いた手法に匹敵する性能を達成できることを実証した。
  論文  参考訳（メタデータ） (2022-04-05T09:08:30Z)
• AttriMeter: An Attribute-guided Metric Interpreter for Person Re-Identification [100.3112429685558]
  Person ReIDシステムは、2人とのマッチング時にのみ距離や類似性を提供します。 CNN ベースの ReID モデルの結果を意味的に,定量的に説明する Attribute-Guided Metric Interpreter を提案する。
  論文  参考訳（メタデータ） (2021-03-02T03:37:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。