論文の概要: Surviving the Unseen: Predictive Defense for Novel Multi-Turn Multimodal Attacks

• arxiv url: http://arxiv.org/abs/2605.18988v1
• Date: Mon, 18 May 2026 18:06:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-20 15:03:08.9106
• Title: Surviving the Unseen: Predictive Defense for Novel Multi-Turn Multimodal Attacks
• Title（参考訳）: 新たなマルチターン・マルチモーダル・アタックの予測的防御
• Authors: Doohee You,
• Abstract要約: 本稿では,動的生存予測と軌道力学問題として安全検証を定式化する。 マルチモーダルおよびマルチターン対話フローを連続軌道としてマッピングする予測モデルとして,トリプル層異常防御(TRIAD)フレームワークが提案されている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The expansion of Multimodal Large Language Models (MLLMs) and their integration into autonomous agentic workflows has introduced a non-stationary attack surface. Empirical observations indicate that adversaries employ progressive, cross-modal perturbations that evade turn-specific guardrails by distributing malicious intent across longitudinal conversational trajectories. Static defense mechanisms, constrained by the Markov property, evaluate inputs in isolation and fail to detect cumulative structural poisoning. To handle this limitation, this paper formulates safety verification as a dynamic survival prediction and trajectory dynamics problem. The Triple-tier Anomaly Defense (TRIAD) framework is proposed as a predictive model that maps multimodal and multi-turn conversational flow as a continuous trajectory. The framework integrates structural anomaly detection to monitor covariance shifts, a Ledoit-Wolf regularized Mahalanobis distance to monitor covariance shifts in high-dimensional spaces, and topological trajectory acceleration to differentiate benign creative exploration from continuous malicious drift. These kinematic and geometric features are integrated into a time-varying Cox Proportional Hazards model via a Bayesian Hidden Markov Model (HMM) feedback loop. Theoretical analysis demonstrates that the TRIAD framework provides a mathematically bounded expected time-to-failure under adversarial perturbations, ensuring that malicious acceleration diverges positively. This framework provides a computationally efficient, interpretable, and predictive safeguard for real-time agentic AI systems, establishing a rigorous foundation for continuous safety alignment without relying on empirical retraining.
• Abstract（参考訳）: MLLM(Multimodal Large Language Models)の拡張と自律エージェントワークフローへの統合により、非定常攻撃面が導入された。 経験的観察は、敵は、縦方向の会話軌跡に悪意ある意図を分散させることで、ターン固有のガードレールを回避し、進行的な、モーダルな摂動を取り入れていることを示している。 マルコフ特性に拘束された静的防御機構は、単独で入力を評価し、累積的な構造的中毒を検出するのに失敗する。 この制限に対処するため、本稿では、動的生存予測と軌道力学問題として安全検証を定式化する。 マルチモーダルおよびマルチターン対話フローを連続軌道としてマッピングする予測モデルとして,トリプル層異常防御(TRIAD)フレームワークが提案されている。 このフレームワークは、構造的異常検出と共分散シフトの監視、高次元空間における共分散シフトの監視のためのレドイ・ウルフの正規化マハラノビス距離、およびトポロジカルな軌道加速を統合して、良質な創造的探索と連続的な悪質なドリフトとを区別する。 これらのキネマティックおよび幾何学的特徴は、ベイジアン隠れマルコフモデル(HMM)フィードバックループを介して、時間変化のCox Proportional Hazardsモデルに統合される。 理論的解析により、TRIADフレームワークは、逆方向の摂動の下で数学的に有界な予測時間から失敗時間を提供し、悪意のある加速度が正に分岐することを証明している。 このフレームワークは、リアルタイムエージェントAIシステムに対して、計算的に効率的で、解釈可能で、予測可能な安全保護を提供し、経験的再トレーニングに頼ることなく、継続的な安全アライメントのための厳密な基盤を確立する。

関連論文リスト

• Generative Path-Law Jump-Diffusion: Sequential MMD-Gradient Flows and Generalisation Bounds in Marcus-Signature RKHS [0.0]
  本稿では,cdlgトラジェクトリを合成するための新しい生成フレームワークを提案する。 我々は,時間拡張Marcus-senseシグネチャを効果的に反転させる生成機構であるtextitAnticipatory Neural Jump-Diffusion (ANJD) フローを開発した。
  論文  参考訳（メタデータ） (2026-04-06T13:23:59Z)
• Toward Operationalizing Rasmussen: Drift Observability on the Simplex for Evolving Systems [0.0]
  障害へのドリフトのモニタリングはユークリッド異常検出によって妨げられる。 ラスムッセンの動的安全モデルは、競合する圧力の下でドリフトを動機付ける。 そこで本研究では,単純度に基づくドリフト可観測性に関するビジョンを提案する。
  論文  参考訳（メタデータ） (2026-02-05T09:41:49Z)
• Unsupervised Anomaly Detection in Multi-Agent Trajectory Prediction via Transformer-Based Models [45.08545174556591]
  マルチエージェントトランスを用いた教師なし異常検出フレームワークを提案する。 検出安定性と物理的アライメントの両方を評価するための二重評価手法が提案されている。 本フレームワークでは,時間対衝突および統計ベースラインに欠落した388個の特異な異常を同定する。
  論文  参考訳（メタデータ） (2026-01-28T08:33:10Z)
• Benchmarking neural surrogates on realistic spatiotemporal multiphysics flows [18.240532888032394]
  我々は、困難でアプリケーション駆動のリアクティブフローでニューラルネットワークサロゲートをテストするために設計された厳格なベンチマークフレームワークであるREALM(Realistic AI Learning for Multiphysics)を提案する。 我々は、スペクトル演算子、畳み込みモデル、トランスフォーマー、ポイントワイド演算子、グラフ/メッシュネットワークを含む、12以上の代表代理モデルファミリをベンチマークする。 i)次元性、剛性、メッシュの不規則性によって共同で管理されるスケーリング障壁により、ロールアウトエラーが急速に増加すること、(ii)パラメータカウントよりもアーキテクチャ上の帰納バイアスによって主に制御されるパフォーマンス、(iii)精度の指標と物理的にの間にある永続的なギャップ、の3つの頑健な傾向を識別する。
  論文  参考訳（メタデータ） (2025-12-21T05:04:13Z)
• Exploring Semantic-constrained Adversarial Example with Instruction Uncertainty Reduction [51.50282796099369]
  本稿では,多次元命令の不確実性低減フレームワークを開発し,意味論的に制約された逆の例を生成する。 言語誘導サンプリングプロセスの予測により、設計したResAdv-DDIMサンプルにより最適化プロセスが安定化される。 セマンティック制約付き3次元逆数例の参照フリー生成を初めて実現した。
  論文  参考訳（メタデータ） (2025-10-27T04:02:52Z)
• Drift No More? Context Equilibria in Multi-Turn LLM Interactions [58.69551510148673]
  コンテキストドリフト(Contexts drift)とは、ターン間のゴール一貫性のある振る舞いからモデルが出力する出力の段階的なばらつきである。 シングルターンエラーとは異なり、ドリフトは時間的に展開し、静的な評価指標では捉えにくい。 マルチターンドリフトは、避けられない崩壊というよりも、制御可能な平衡現象として理解できることを示す。
  論文  参考訳（メタデータ） (2025-10-09T04:48:49Z)
• Exploiting Edge Features for Transferable Adversarial Attacks in Distributed Machine Learning [54.26807397329468]
  この研究は、分散ディープラーニングシステムにおいて、これまで見過ごされていた脆弱性を探究する。 中間的特徴をインターセプトする敵は、依然として深刻な脅威となる可能性がある。 本稿では,分散環境に特化して設計されたエクスプロイト戦略を提案する。
  論文  参考訳（メタデータ） (2025-07-09T20:09:00Z)
• Improving Black-Box Generative Attacks via Generator Semantic Consistency [51.470649503929344]
  ジェネレーティブアタックは テスト時に 1つのフォワードパスで 敵の例を生成する 初期ジェネレータの中間機能をEMA教師に整列させることで意味的整合性を実現する。 我々のアプローチは、ブラックボックス転送の一貫性を保ちながら、既存のジェネレーティブアタックにシームレスに統合することができる。
  論文  参考訳（メタデータ） (2025-06-23T02:35:09Z)
• Transferable Adversarial Attacks on SAM and Its Downstream Models [87.23908485521439]
  本稿では,セグメント・アプライス・モデル(SAM)から微調整した様々な下流モデルに対する敵攻撃の可能性について検討する。 未知のデータセットを微調整したモデルに対する敵攻撃の有効性を高めるために,ユニバーサルメタ初期化(UMI)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-10-26T15:04:04Z)
• Neural Interaction Energy for Multi-Agent Trajectory Prediction [55.098754835213995]
  ニューラル・インタラクション・エナジー(MATE)によるマルチエージェント軌道予測(Multi-Agent Trajectory Prediction)というフレームワークを導入する。 MATEは神経相互作用エネルギーを用いてエージェントの対話運動を評価する。 時間的安定性を高めるために,エージェント間相互作用制約とエージェント内動作制約という2つの制約を導入する。
  論文  参考訳（メタデータ） (2024-04-25T12:47:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。