論文の概要: FlipJev: Fast Black-Box Red Teaming Finds Universal Adversarial Suffixes for Typed Decision Models

• arxiv url: http://arxiv.org/abs/2610.38895v1
• Date: Wed, 28 Oct 2026 20:53:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-01 01:32:10.00754
• Title: FlipJev: Fast Black-Box Red Teaming Finds Universal Adversarial Suffixes for Typed Decision Models
• Title（参考訳）: FlipJev: 高速なブラックボックスレッドチームで、型決定モデルのためのユニバーサルな逆修正を見つける
• Abstract要約: 型付き決定モデルは、自由テキスト応答を生成する代わりに決定を行う言語モデルの新たなクラスである。 私たちは、異なるデータタイプとアプリケーションシナリオを持つ12のデータセットで実験を行います。 あるタスクから生成された1つの接尾辞は、他のタスクで90-100%のサンプルを反転させることができる。
• 参考スコア（独自算出の注目度）: 49.01160161589609
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Typed decision models are an emerging class of language models that make decisions instead of generating free-text responses. They answer in a single fast and cheap query and are increasingly used, including in security-sensitive tasks. However, red teaming of these models leaves two gaps: existing adaptive attacks do not use their speed, and few studies have searched for universal adversarial examples. We fill both gaps on Jev, the representative typed decision model, with a quick black-box query-based attack that calls no attacker language model. We conduct extensive experiments on 12 datasets with different data types and application scenarios. The results show that Jev resists common prompt injections: no strategy changes a correct answer in 10,240 paired tests. In contrast, our attack finds short suffixes that flip confident answers within minutes. These suffixes are universal: one suffix per dataset flips 43% of unseen documents. Because typed decision models, unlike classic NLP models, can serve many tasks, we test whether these suffixes transfer across tasks. We find that one suffix generated from one task can flip 90-100% of the samples in other tasks. We therefore believe the evaluation of typed decision models must include strict adaptive attacks to fully reveal their robustness.
• Abstract（参考訳）: 型付き決定モデルは、自由テキスト応答を生成する代わりに決定を行う言語モデルの新たなクラスである。 単一の高速で安価なクエリで回答し、セキュリティに敏感なタスクを含む、ますます使われている。 しかし、これらのモデルのレッド・チーム化は2つのギャップを残している: 既存の適応攻撃はその速度を使用しず、普遍的な敵の例を探索する研究はほとんどない。 代表型決定モデルであるJevのギャップを、攻撃的な言語モデルを呼び出さないブラックボックスクエリベースの攻撃で埋めます。 異なるデータタイプとアプリケーションシナリオを持つ12のデータセットに対して、広範な実験を行います。 結果は、Jevが一般的なプロンプトインジェクションに抵抗していることを示している。 対照的に、我々の攻撃は数分で自信のある回答をひっくり返す短い接尾辞を見つける。 これらの接尾辞は普遍的であり、データセット毎に1つの接尾辞は、目に見えない文書の43%をひっくり返す。 従来のNLPモデルとは異なり、型付き決定モデルは多くのタスクに役立ち、これらの接尾辞がタスク間で伝達されるかどうかをテストする。 あるタスクから生成された1つの接尾辞は、他のタスクで90-100%のサンプルを反転させることができる。 したがって, 型付き決定モデルの評価には, 厳密な適応攻撃が伴わなければならない。

関連論文リスト

• DecisionRobust: Benchmarking Robustness for JEV Style Decision Models Across Text and Vision [23.552255820254157]
  DecisionRobustは、テキスト入力と視覚入力の間で決定モデルの堅牢性を評価するためのベンチマークである。 テキストタスクでは30のモデル構成が,視覚タスクでは17のモデル構成が評価され,24と12のモデルが候補選択から除外されている。 攻撃は、構築と選択に使用されるモデル以外の脆弱性を露呈するが、最適化された画像摂動は、複数のサロゲートであっても、多くのターゲットに弱く伝達される。
  論文  参考訳（メタデータ） (2026-10-13T19:52:14Z)
• No Single Best Model for Diversity: Learning a Router for Sample Diversity [69.53166985556759]
  本稿では,有効な応答の集合を包括的に抽出する手法について検討する。 本稿では,各回答に割り当てられた品質スコアを計測する指標であるtextbfdiversity Cover を紹介する。 各プロンプトには、多様な回答セットを生成する際に、他のすべてのモデルよりも大幅に優れるモデルが存在する。
  論文  参考訳（メタデータ） (2026-04-02T17:58:37Z)
• Answer, Assemble, Ace: Understanding How LMs Answer Multiple Choice Questions [103.20281438405111]
  MCQA(Multiple-choice Question answering)は、高性能トランスフォーマー言語モデルのキーコンピテンスである。 我々は,正解を予測するための関連情報をエンコードするキー隠れ状態のローカライズに語彙予測とアクティベーションパッチ手法を用いる。 後続の層は語彙空間における予測応答記号の確率を増大させ、この確率の増加は、特異な役割を持つ注目ヘッドのスパースセットと関連していることを示す。
  論文  参考訳（メタデータ） (2024-07-21T00:10:23Z)
• CALM : A Multi-task Benchmark for Comprehensive Assessment of Language Model Bias [7.28980829208179]
  言語モデル(CALM)の包括的評価は、普遍的に関連する2種類の社会デマログラフバイアス、性別、人種の頑健な測定である。 実験により,CALMのバイアススコアは,テンプレートの摂動に対する従来のバイアス測定よりも頑健で,はるかに感度が低いことが示された。
  論文  参考訳（メタデータ） (2023-08-24T03:53:55Z)
• A Black-Box Attack on Code Models via Representation Nearest Neighbor Search [38.09283133342118]
  提案手法であるRNNSは、過去の攻撃に基づく探索種を用いて、潜在的な敵の代替品を見つける。 ベクトル表現に基づいて、RNNSは攻撃のより良い代用を予測し、選択する。
  論文  参考訳（メタデータ） (2023-05-10T04:58:39Z)
• Adversarial GLUE: A Multi-Task Benchmark for Robustness Evaluation of Language Models [86.02610674750345]
  AdvGLUE(Adversarial GLUE)は、様々な種類の敵攻撃の下で、現代の大規模言語モデルの脆弱性を調査し評価するための新しいマルチタスクベンチマークである。 GLUEタスクに14の逆攻撃手法を適用してAdvGLUEを構築する。 テストしたすべての言語モデルとロバストなトレーニングメソッドは、AdvGLUEではパフォーマンスが悪く、スコアは明確な精度よりもはるかに遅れています。
  論文  参考訳（メタデータ） (2021-11-04T12:59:55Z)
• AES Systems Are Both Overstable And Oversensitive: Explaining Why And Proposing Defenses [66.49753193098356]
  スコアリングモデルの驚くべき逆方向の脆さの原因について検討する。 のモデルとして訓練されているにもかかわらず、単語の袋のように振る舞うことを示唆している。 高い精度で試料を発生させる過敏性と過敏性を検出できる検出ベース保護モデルを提案する。
  論文  参考訳（メタデータ） (2021-09-24T03:49:38Z)
• A Differentiable Language Model Adversarial Attack on Text Classifiers [10.658675415759697]
  自然言語処理のための新しいブラックボックス文レベルアタックを提案する。 本手法は,事前学習した言語モデルを微調整して,逆例を生成する。 提案手法は, 計算量と人的評価の両方において, 多様なNLP問題において, 競合相手よりも優れていることを示す。
  論文  参考訳（メタデータ） (2021-07-23T14:43:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。