論文の概要: HASTE: Evolving Agent Harnesses Against Emerging Attacks Using Sparse Evidence

• arxiv url: http://arxiv.org/abs/2610.02920v1
• Date: Fri, 02 Oct 2026 07:10:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.252254
• Title: HASTE: Evolving Agent Harnesses Against Emerging Attacks Using Sparse Evidence
• Title（参考訳）: HASTE:スパース・エビデンスを用いた新興攻撃に対するエージェント・ハーネスの進化
• Abstract要約: HASTEは、スパース脅威証拠からエージェントハーネスを進化させるフレームワークである。 これは、最初に観察された証拠を超えた、新興の攻撃に対する進化の活用を可能にする。 その結果,HASTEはベニグタクユーティリティを保ちながら攻撃成功率を一貫して低下させることがわかった。
• 参考スコア（独自算出の注目度）: 60.50962093810873
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Agent harnesses play a critical role in defenses by enforcing safety constraints to prevent unsafe actions. However, rapidly emerging attacks outpace manual harness adaptation, motivating automated harness evolution. Yet the signals available for harness evolution are often sparse, such as brief descriptions or a few attack examples in threat reports and preprints. To address this limitation, we introduce HASTE, a multi-agent framework that evolves agent harnesses from sparse threat evidence through an adversarial interplay between safety-specification generation and attack-case generation. Safety specifications guide harness updates toward addressing identified safety vulnerabilities, while attack cases probe for remaining safety vulnerabilities after each update. By feeding evaluation outcomes back into both processes, HASTE enables harness evolution against emerging attacks beyond the initially observed evidence. Experimental results across multiple backbone models, attack types, and evidence forms show that HASTE consistently reduces attack success rates while preserving benign-task utility. The code is available at https://github.com/xxiqiao/HASTE.
• Abstract（参考訳）: エージェントハーネスは、安全上の制約を課し、安全でない行為を防ぐことで、防衛において重要な役割を果たす。 しかし、急激な攻撃は手動ハーネスの適応を上回り、自動ハーネスの進化を動機付けている。 しかし、ハーネスの進化に使える信号は、簡単な説明や脅威レポートや事前印刷のいくつかの攻撃例など、しばしばまばらである。 この制限に対処するために,安全仕様生成と攻撃事例生成の対角的相互作用を通じて,エージェントをスパース脅威証拠から活用するマルチエージェントフレームワークであるHASTEを紹介する。 安全仕様ガイドは、特定された安全性の脆弱性に対処するためのアップデートを活用する一方で、攻撃ケースは、更新後の安全上の脆弱性を調査する。 評価結果を両方のプロセスにフィードバックすることで、HASTEは、最初に観察された証拠を超えた、新興攻撃に対する活用的な進化を可能にする。 複数のバックボーンモデル、攻撃タイプ、エビデンスフォームにまたがる実験結果から、HASTEは良質なタスクユーティリティを保ちながら攻撃成功率を一貫して低下させることが示された。 コードはhttps://github.com/xxiqiao/HASTE.comで公開されている。

関連論文リスト

• SEABench: Benchmarking Endogenous Misalignment In Self-Evolving Agents [49.54988737892722]
  自己進化型LDMエージェントは、ハーネスを変更することで、デプロイ後に改善する能力で有名になった。 SEABenchは、エージェントの自己進化から生じる内因性不整合を研究するためのベンチマークである。 自己進化はタスク完了率を高めるが、安全上の失敗の犠牲になることが多い。
  論文  参考訳（メタデータ） (2026-09-28T16:46:25Z)
• Semantically-Equivalent Transformations-Based Backdoor Attacks against Neural Code Models: Characterization and Mitigation [13.36343806244795]
  セマンティック・等価トランスフォーメーション(SET)ベースのバックドアアタックと呼ばれる,新たなバックドアアタックを導入する。 SETをベースとした攻撃は、モデルユーティリティを保ちながら高い成功率(しばしば90%)を達成することを示す。 この攻撃は高いステルス性を示し、注射ベースの防御よりも平均25.13%以上低い検出率で最先端の防御を回避している。
  論文  参考訳（メタデータ） (2025-12-22T09:54:52Z)
• Malice in Agentland: Down the Rabbit Hole of Backdoors in the AI Supply Chain [82.98626829232899]
  自分自身のインタラクションからのデータに対する微調整のAIエージェントは、AIサプライチェーン内の重要なセキュリティ脆弱性を導入している。 敵は容易にデータ収集パイプラインに毒を盛り、検出しにくいバックドアを埋め込むことができる。
  論文  参考訳（メタデータ） (2025-10-03T12:47:21Z)
• Prototype-Guided Robust Learning against Backdoor Attacks [16.60001324267935]
  バックドア攻撃はトレーニングデータに毒を加え、モデルにバックドアを埋め込む。 本稿では,PGRL(Prototype-Guided Robust Learning)を提案する。
  論文  参考訳（メタデータ） (2025-09-03T14:41:54Z)
• Poison Once, Control Anywhere: Clean-Text Visual Backdoors in VLM-based Mobile Agents [54.35629963816521]
  この研究は、VLMベースのモバイルエージェントをターゲットにした最初のクリーンテキストバックドアアタックであるVIBMAを紹介する。 この攻撃は、視覚的な入力だけを変更することによって、悪意ある振る舞いをモデルに注入する。 クリーンタスクの動作を保ちながら高い成功率を達成できることを示す。
  論文  参考訳（メタデータ） (2025-06-16T08:09:32Z)
• SEEP: Training Dynamics Grounds Latent Representation Search for Mitigating Backdoor Poisoning Attacks [53.28390057407576]
  現代のNLPモデルは、様々なソースから引き出された公開データセットでしばしば訓練される。 データ中毒攻撃は、攻撃者が設計した方法でモデルの振る舞いを操作できる。 バックドア攻撃に伴うリスクを軽減するために、いくつかの戦略が提案されている。
  論文  参考訳（メタデータ） (2024-05-19T14:50:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。