論文の概要: Comparison requires valid measurement: Rethinking attack success rate comparisons in AI red teaming

• arxiv url: http://arxiv.org/abs/2601.18076v1
• Date: Mon, 26 Jan 2026 02:22:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-27 15:23:08.618299
• Title: Comparison requires valid measurement: Rethinking attack success rate comparisons in AI red teaming
• Title（参考訳）: 比較は有効な測定を必要とする:AIレッドチームにおける攻撃成功率の比較を再考する
• Abstract要約: リンゴとオレンジの比較や低粘度測定で多くの結論が得られた。 私たちの議論は、単純な質問に基礎を置いている。 成功率に対する攻撃は、いつ、有意義に比較できるのか?
• 参考スコア（独自算出の注目度）: 45.214664245132916
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We argue that conclusions drawn about relative system safety or attack method efficacy via AI red teaming are often not supported by evidence provided by attack success rate (ASR) comparisons. We show, through conceptual, theoretical, and empirical contributions, that many conclusions are founded on apples-to-oranges comparisons or low-validity measurements. Our arguments are grounded in asking a simple question: When can attack success rates be meaningfully compared? To answer this question, we draw on ideas from social science measurement theory and inferential statistics, which, taken together, provide a conceptual grounding for understanding when numerical values obtained through the quantification of system attributes can be meaningfully compared. Through this lens, we articulate conditions under which ASRs can and cannot be meaningfully compared. Using jailbreaking as a running example, we provide examples and extensive discussion of apples-to-oranges ASR comparisons and measurement validity challenges.
• Abstract（参考訳）: 我々は,アタック成功率(ASR)の比較によって得られた証拠によって,AIレッドチームによる相対システムの安全性や攻撃方法の有効性に関する結論が支持されないことが多いことを論じる。 我々は、概念的、理論的、実証的な貢献を通じて、多くの結論がリンゴとオレンジの比較や低原子価の測定に基づいていることを示す。 私たちの議論は、単純な質問に基礎を置いている。 成功率に対する攻撃は、いつ、有意義に比較できるのか? この疑問に答えるために、社会科学計測理論と推論統計学のアイデアを考察し、システム属性の定量化によって得られた数値が有意に比較できる場合の理解のための概念的根拠を提供する。 このレンズを通して、ASRが有意に比較できない条件を明瞭に表現する。 ジェイルブレーキングを実例として、リンゴとオレンジのASR比較と測定の有効性の課題について、広範囲にわたる議論と例を挙げる。

関連論文リスト

• Compute-Bounded Security Assurance - Coverage, Verification, and Response under Resource Constraints [0.0]
  追加の推論計算は、正しく解決されたセキュリティ保証タスクの数を増やすことができる。 我々は、成功、ユニークなカバレッジ、承認された証拠、運用上の保護を分離するリソース制約のあるフレームワークを開発する。 概念的防御アーキテクチャは、証拠分析、判断、運用権限を分離する。
  論文  参考訳（メタデータ） (2026-09-07T13:07:55Z)
• To Compare, or Not to Compare: On Methodological Practices in Evaluating Social Bias [61.40435736418359]
  異質なベンチマークを標準化する統一的なフレームワークを導入し、孤立した人口統計評価と強制選択比較設定を対比する。 比較設定は、主に不特定文脈によって引き起こされる潜在識別のアグレッシブな触媒として機能することを示す。 最後に、この比較偏見はモデルサイズと正にスケールする一般化された現象であることを示す。
  論文  参考訳（メタデータ） (2026-06-23T13:53:50Z)
• Responsible Benchmarking of Fairness for Automatic Speech Recognition [44.6396086462419]
  多くの研究は、話者群(SG)にまたがる不平等な性能を有する自動音声処理(ASR)システムを示している。 我々は、機械学習フェアネス、社会科学、音声科学の文献に基づいて、ASRフェアネスをベンチマークするためのベストプラクティスを策定する。 フェアネスコーパスのメタデータで利用できる限り多くの人口統計変数の交叉性を可能な限り詳細に分析することを提唱する。
  論文  参考訳（メタデータ） (2026-05-11T14:11:50Z)
• Sequential Manipulation Against Rank Aggregation: Theory and Algorithm [119.57122943187086]
  脆弱なデータ収集プロセスに対するオンライン攻撃を活用します。 ゲーム理論の観点からは、対決シナリオは分布的に堅牢なゲームとして定式化される。 提案手法は,ランクアグリゲーション手法の結果を逐次的に操作する。
  論文  参考訳（メタデータ） (2024-07-02T03:31:21Z)
• A Theory for Token-Level Harmonization in Retrieval-Augmented Generation [76.75124161306795]
  Retrieval-augmented Generation (RAG)は、検索したテキストを利用して大規模言語モデル(LLM)を強化する。 本稿では,RAGの利益と有害性を説明するための理論を提供する。 提案手法は,本理論に基づいて,純粋LLMとRAGの協調生成を実現する実用的手法であるTok-RAGを提案する。
  論文  参考訳（メタデータ） (2024-06-03T02:56:14Z)
• Explaining Arguments' Strength: Unveiling the Role of Attacks and Supports (Technical Report) [13.644164255651472]
  関係属性説明(RAE)の新理論を提案する。 RAEは、攻撃の役割に関するきめ細かい洞察を提供し、議論の強さを得るための定量的双極性議論を支援する。 不正検出および大規模言語モデルケーススタディにおけるRAEの応用価値を示す。
  論文  参考訳（メタデータ） (2024-04-22T16:02:48Z)
• DALA: A Distribution-Aware LoRA-Based Adversarial Attack against Language Models [64.79319733514266]
  敵攻撃は入力データに微妙な摂動をもたらす可能性がある。 最近の攻撃方法は比較的高い攻撃成功率(ASR)を達成することができる。 そこで本研究では,分散ロラをベースとしたDALA(Adversarial Attack)手法を提案する。
  論文  参考訳（メタデータ） (2023-11-14T23:43:47Z)
• Towards Evaluating Transfer-based Attacks Systematically, Practically, and Fairly [79.07074710460012]
  ディープニューラルネットワーク(DNN)の敵対的脆弱性に大きな注目を集めている。 ブラックボックスDNNモデルを騙すための転送ベース手法が増えている。 30以上のメソッドを実装した転送ベースアタックベンチマーク(TA-Bench)を確立する。
  論文  参考訳（メタデータ） (2023-11-02T15:35:58Z)
• Among Us: Adversarially Robust Collaborative Perception by Consensus [50.73128191202585]
  複数のロボットは、シーン(例えば物体)を個人よりも協調的に知覚することができる。 本稿では,未知の攻撃者に対して一般化可能な新しいサンプリングベース防衛戦略であるROBOSACを提案する。 自律運転シナリオにおける協調3次元物体検出の課題に対して,本手法の有効性を検証した。
  論文  参考訳（メタデータ） (2023-03-16T17:15:25Z)
• Measuring Equality in Machine Learning Security Defenses: A Case Study in Speech Recognition [56.69875958980474]
  この研究は、学習したシステムを守るためのアプローチと、異なるサブ人口間でのセキュリティ防衛がパフォーマンス上の不平等をもたらす方法を検討する。 提案された多くの手法は、虚偽の拒絶やロバストネストレーニングの不平等といった直接的な害を引き起こす可能性がある。 本稿では, ランダム化スムースメントとニューラルリジェクションの2つの防御法の比較を行い, マイノリティ集団のサンプリング機構により, ランダム化スムースメントがより公平であることを見出した。
  論文  参考訳（メタデータ） (2023-02-17T16:19:26Z)
• Language Dependencies in Adversarial Attacks on Speech Recognition Systems [0.0]
  我々は、ドイツ語と英語のASRシステムの攻撃可能性を比較する。 一方の言語モデルが他方よりも操作に影響を受けやすいかを検討する。
  論文  参考訳（メタデータ） (2022-02-01T13:27:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。