論文の概要: Language Is a Security Surface for Agent Guards

• arxiv url: http://arxiv.org/abs/2610.22244v1
• Date: Thu, 15 Oct 2026 17:19:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-17 06:09:33.222152
• Title: Language Is a Security Surface for Agent Guards
• Title（参考訳）: 言語はエージェントガードのためのセキュリティサーフェス
• Abstract要約: 我々は、警備員の評決が要求の言語に依存するかどうかを尋ねる。 我々はユーザー教育をドイツ語、フランス語、トルコ語、スワヒリ語、アムハラ語に翻訳する。 管理された警備員は、騒音を測定するために3回実行されます。
• 参考スコア（独自算出の注目度）: 1.343550579486352
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Step-level guards decide, before each tool call, whether an agent's next action is safe given the user's request and the trajectory so far. Users write those requests in many languages, while guard prompts and the benchmarks on which purpose-built guards are trained and evaluated are English. We ask whether a guard's verdict depends on the language of the request. We build LinguaGuardBench from the 1,220 labelled steps of TS-Bench AgentDojo-Traj: we translate only the user instruction into German, French, Turkish, Swahili and Amharic, and keep every tool call, observation and label byte-identical, so any change in a verdict is attributable to language alone. Six English rewordings and a whitespace placebo serve as controls, and managed guards are run three times to measure their noise. Across 19 guards, from frontier APIs to 4B open models and four purpose-built agent guards, most open, small and purpose-built guards change verdicts under translation beyond their own noise floor, and the effect grows with the rarity of the language: among the nine guards below 13B parameters, the mean placebo-adjusted flip rate rises from +1.5 pp on French to +4.4 pp on Amharic. Purpose-built guards are the most sensitive. The direction of the damage tends to follow guard size: open guards of 12-30B parameters block more benign steps (up to +5.0 pp false positives), and every significant loss of recall is in a guard below 10B (up to -7.4 pp). Frontier guards shift by at most about one point; the strongest, Gemini 3.8 Flash, returns identical verdicts with and without the request. The damage is concentrated in a few instructions and, in a post-hoc analysis, falls on steps where the agent's reasoning restates the English request, consistent with guards reacting to inconsistency between channels. English paraphrase moves every guard less than translation does. We release the benchmark and all 489k verdicts.
• Abstract（参考訳）: ステップレベルのガードは、各ツールコールの前に、エージェントの次のアクションが安全かどうかを決定します。 ユーザはこれらのリクエストを多くの言語で書き、ガードプロンプトと、目的に構築されたガードがトレーニングされ、評価されるベンチマークは英語です。 我々は、警備員の評決が要求の言語に依存するかどうかを尋ねる。 我々は、TS-Bench AgentDojo-Trajの1,220のラベル付きステップからLinguaGuardBenchを構築します。 ユーザ命令のみをドイツ語、フランス語、トルコ語、スワヒリ語、アムハラ語に翻訳し、すべてのツールコール、観察、ラベルを単位として保持します。 6つの英語のリワードとホワイトスペースのプラセボがコントロールとして機能し、管理された警備員は騒音を測定するために3回実行されます。 フロンティアのAPIから4Bのオープンモデルと4つのエージェントガードまで、最もオープンで、小型で、目的に作られたガードは、自身のノイズフロアを超えて翻訳による評決を変更し、その効果は、13Bパラメータ以下の9人のガードの中で、フランスでは+1.5ppから+4.4ppへと増加する。 目的のガードは最も敏感である。 12-30Bパラメータのオープンガードは、より多くの良心的なステップ(+5.0ppの偽陽性)をブロックし、リコールの重大な損失は10B以下のガード(最大7.4pp)である。 最強のGemini 3.8 Flashは、要求なしで同じ判断を返します。 損傷はいくつかの指示に集中しており、ポストホック分析では、エージェントの推論がイングランドの要求を復活させるステップに陥り、チャンネル間の不整合に反応する警備員と一致している。 英語のパラフレーズは、すべてのガードを翻訳よりも少なく動かせる。 ベンチマークと489kの判定結果を公開しています。

関連論文リスト

• Recover, Decode, Reguard: Guard-Agnostic Defense Amplification againstEncoded VLM Jailbreaks [7.287314790466206]
  我々は視覚言語モデルのためのガード非依存のリカバリ・アンド・デコード増幅器を構築した。 我々はこれを11回の攻撃のアンサンブルに対して評価し、成功しても動作が失敗すると評価した。 これは我々の中心的な発見を露呈し、私たちが評価した非観念的回復防衛のための実証的な安全ユーティリティー天井である。
  論文  参考訳（メタデータ） (2026-07-29T07:53:35Z)
• HaloGuard 1.0: An Open Weights Constitutional Classifier for Multilingual AI Safety [0.0]
  HaloGuard 1.0は、入力安全性のためのコンスティチューション分類のパラダイムのオープンウェイト実装である。 現在のオープンガードモデルの約10分の1のモデルサイズで、英語と多言語のプロンプトセーフティベンチマークで最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2026-07-02T12:21:16Z)
• SEALGuard: Safeguarding the Multilingual Conversations in Southeast Asian Languages for LLM Software Systems [9.469589800082597]
  本稿では,多言語間の安全性向上を目的とした多言語ガードレールであるSEALGuardを紹介する。 既存のガードレールの多言語的安全アライメントギャップに対処し、安全でないプロンプトと脱獄プロンプトを効果的にフィルタリングすることを目的としている。 10言語で260,000以上のプロンプトを含む大規模多言語安全アライメントデータセットであるSEALSBenchを構築した。
  論文  参考訳（メタデータ） (2025-07-11T05:15:35Z)
• MrGuard: A Multilingual Reasoning Guardrail for Universal LLM Safety [56.77103365251923]
  大規模言語モデル(LLM)は、ジェイルブレイクのような敵の攻撃を受けやすい。 この脆弱性は、多言語セーフティアライメントされたデータが制限される多言語設定で悪化する。 素早い分類のための多言語ガードレールを提案する。
  論文  参考訳（メタデータ） (2025-04-21T17:15:06Z)
• SafeDialBench: A Fine-Grained Safety Benchmark for Large Language Models in Multi-Turn Dialogues with Diverse Jailbreak Attacks [90.41592442792181]
  大規模言語モデル(LLM)の安全性を評価するための詳細なベンチマーク SafeDialBench を提案する。 具体的には,6つの安全次元を考慮した2階層型階層型安全分類法を設計し,22の対話シナリオの下で中国語と英語の双方で4000以上のマルチターン対話を生成する。 特に,LLMの革新的なアセスメントフレームワークを構築し,安全でない情報を検出し,処理し,ジェイルブレイク攻撃時の一貫性を維持する。
  論文  参考訳（メタデータ） (2025-02-16T12:08:08Z)
• JAILJUDGE: A Comprehensive Jailbreak Judge Benchmark with Multi-Agent Enhanced Explanation Evaluation Framework [33.95412482837461]
  提案するJAILJUDGEは,合成,逆行,内在,多言語的プロンプトなど,さまざまなリスクシナリオを特徴とするベンチマークである。 説明可能な,きめ細かいスコアリングが可能な JailJudge MultiAgent フレームワーク (1 から 10) を提案する。 JAILJUDGE Guardを利用する攻撃非攻撃型攻撃強化器であるJailBoostと、モデレーションディフェンスであるGuardShieldについても紹介する。
  論文  参考訳（メタデータ） (2024-10-11T14:56:28Z)
• All Languages Matter: On the Multilingual Safety of Large Language Models [96.47607891042523]
  我々は、大規模言語モデル(LLM)のための最初の多言語安全ベンチマークを構築した。 XSafetyは、複数の言語ファミリーにまたがる10言語にわたる14種類の一般的な安全問題をカバーしている。 本稿では,ChatGPTの多言語安全性向上のための簡易かつ効果的なプロンプト手法を提案する。
  論文  参考訳（メタデータ） (2023-10-02T05:23:34Z)
• On the Off-Target Problem of Zero-Shot Multilingual Neural Machine Translation [104.85258654917297]
  識別対象言語信号の符号化に失敗すると、オフターゲットとなり、語彙距離が近くなることが判明した。 多言語語彙構築のための言語認識語彙共有(LAVS)を提案する。 我々は11言語で多言語機械翻訳ベンチマーク実験を行った。
  論文  参考訳（メタデータ） (2023-05-18T12:43:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。