論文の概要: Revealing Safety-Critical Scenarios for UTM via Transformer
- arxiv url: http://arxiv.org/abs/2606.31114v1
- Date: Tue, 30 Jun 2026 04:21:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:19.072039
- Title: Revealing Safety-Critical Scenarios for UTM via Transformer
- Title（参考訳）: 変圧器によるUTMの安全臨界シナリオの解明
- Abstract要約: Unmanned Traffic Management (UTM) は、複数の航空機を遠隔で管理・調整するクラウドベースのプラットフォームである。
潜伏する脆弱性を明らかにするために、最適な失敗を露呈するデモや、明確な報奨信号は存在しない。
本稿では, トランスフォーマーベースのRLアーキテクチャに適したシーケンスモデリング問題として, フレーミングUTM脆弱性発見を提案する。
- 参考スコア（独自算出の注目度）: 9.500136992319986
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Unmanned Traffic Management (UTM) systems are cloud-based platforms designed to manage and coordinate multiple aerial vehicles remotely. UTM systems are safety-critical which cannot tolerate failures like crash or collision. To reveal latent vulnerabilities, there are neither optimal failure-exposing demonstrations nor clear reward signals. Additionally, UTM's self-healing capability introduces the ``long-tail effect'' of critical failures. We propose framing UTM vulnerability discovery as a sequence modeling problem amenable to transformer-based RL architectures. Our approach leverages attention mechanisms to directly model the relationship among system states, and predict optimal actions. Our framework introduces a Policy Model that generates targeted test scenarios and an Action Sampler that enforces domain constraints. We use a risk-based reward function to guide exploration. Through extensive evaluation on a 700-hour simulation study, we demonstrate an 8$\times$ improvement in vulnerability discovery efficiency compared to expert-guided testing. It also discovers critical edge cases that traditional methods have missed.
- Abstract（参考訳）: Unmanned Traffic Management (UTM) は、複数の航空機を遠隔で管理・調整するクラウドベースのプラットフォームである。
UTMシステムは安全に重要であり、クラッシュや衝突のような失敗を許容できない。
潜伏する脆弱性を明らかにするために、最適な失敗を露呈するデモや、明確な報奨信号は存在しない。
さらに、UTMの自己修復機能には、重大な障害の‘ロングテール効果’が導入されている。
本稿では, トランスフォーマーベースのRLアーキテクチャに適したシーケンスモデリング問題として, フレーミングUTM脆弱性発見を提案する。
提案手法は注意機構を利用して,システム状態間の関係を直接モデル化し,最適な行動を予測する。
私たちのフレームワークでは,対象とするテストシナリオを生成するポリシモデルと,ドメイン制約を強制するアクションサンプリングを導入しています。
リスクベースの報酬関数を使って探索をガイドします。
700時間シミュレーション研究の広範な評価を通じて、専門家が指導したテストと比較して、脆弱性発見効率が8$\times$改善されていることを実証した。
また、従来のメソッドが見逃した重要なエッジケースも発見する。
関連論文リスト
- Coverage Aware Active Evaluation for Failure Discovery with Paired Systems [32.870747441157654]
本稿では,プロキシ評価と限られた対象システム結果を組み合わせた適応的故障検出手法を提案する。
提案手法は,ランダムサンプリングやアクティブラーニングのベースラインとして最大2$times$の障害を検出する。
論文 参考訳（メタデータ） (2026-08-13T19:26:25Z) - AutoMIA: Improved Baselines for Membership Inference Attack via Agentic Self-Exploration [49.050688065974605]
メンバーシップ推論攻撃(MIAs)は、機械学習モデルにおけるトレーニングデータの漏洩を評価するための基本的な監査ツールである。
本稿では,自己探索と戦略進化の自動化プロセスとして,メンバーシップ推論を再構築するエージェントフレームワークであるAutoMIAを提案する。
論文 参考訳（メタデータ） (2026-04-01T15:17:45Z) - Dynasto: Validity-Aware Dynamic-Static Parameter Optimization for Autonomous Driving Testing [6.969678532857503]
自律運転システムにおける安全クリティカルな障害を明らかにするための2段階のテスト手法であるDynastoを提案する。
まず、時間論理に基づく妥当性基準を用いた強化学習を用いて、敵エージェントを訓練する。
第二に、遺伝的アルゴリズムは、敵の失敗を誘発する振る舞いを再生しながら初期条件を探索し、RLエージェントだけでは発見できない追加の失敗を明らかにする。
論文 参考訳（メタデータ） (2026-03-22T22:35:30Z) - Steering Externalities: Benign Activation Steering Unintentionally Increases Jailbreak Risk for Large Language Models [62.16655896700062]
活性化ステアリングは大規模言語モデル(LLM)の有用性を高める技術である
重要かつ過度に調査された安全リスクを無意識に導入することを示します。
実験によると、これらの介入は強制乗算器として機能し、ジェイルブレイクに新たな脆弱性を発生させ、標準ベンチマークで攻撃成功率を80%以上向上させる。
論文 参考訳（メタデータ） (2026-02-03T12:32:35Z) - One Token to Fool LLM-as-a-Judge [52.45386385722788]
大規模言語モデル(LLM)は、自動化された審査員としてますます信頼され、評価を支援し、他のモデルを訓練するための報酬信号を提供する。
生成的報酬モデルは、ハッキングに対して体系的に影響を受けやすい。
論文 参考訳（メタデータ） (2025-07-11T17:55:22Z) - Transferable Adversarial Attacks on SAM and Its Downstream Models [87.23908485521439]
本稿では,セグメント・アプライス・モデル(SAM)から微調整した様々な下流モデルに対する敵攻撃の可能性について検討する。
未知のデータセットを微調整したモデルに対する敵攻撃の有効性を高めるために,ユニバーサルメタ初期化(UMI)アルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-10-26T15:04:04Z) - Real-Time Anomaly Detection and Reactive Planning with Large Language Models [18.57162998677491]
例えば、大規模な言語モデル(LLM)は、インターネットスケールのデータに基づいて訓練され、ゼロショット機能を持つ。
本稿では,潜在的な異常に関する判断を安全な制御フレームワークに組み込む2段階の推論フレームワークを提案する。
これにより、モニターは、四輪車や自動運転車のような動的ロボットシステムの信頼性を向上させることができる。
論文 参考訳（メタデータ） (2024-07-11T17:59:22Z) - MKF-ADS: Multi-Knowledge Fusion Based Self-supervised Anomaly Detection System for Control Area Network [9.305680247704542]
制御エリアネットワーク(英: Control Area Network, CAN)は、車両ネットワークにおける電子制御ユニット(ECU)間の通信プロトコルである。
CANは、本質的にセキュリティ上のリスクのために、厳しいセキュリティ上の課題に直面している。
本稿では,MKF-ADSと呼ばれる自己教師付き多知識融合異常検出モデルを提案する。
論文 参考訳（メタデータ） (2024-03-07T07:40:53Z) - SAFE-SIM: Safety-Critical Closed-Loop Traffic Simulation with Diffusion-Controllable Adversaries [94.84458417662407]
制御可能なクローズドループ安全クリティカルシミュレーションフレームワークであるSAFE-SIMを紹介する。
提案手法は,1)現実の環境を深く反映した現実的な長距離安全クリティカルシナリオの生成,2)より包括的でインタラクティブな評価のための制御可能な敵行動の提供,の2つの利点をもたらす。
複数のプランナにまたがるnuScenesとnuPlanデータセットを使用して、我々のフレームワークを実証的に検証し、リアリズムと制御性の両方の改善を実証した。
論文 参考訳（メタデータ） (2023-12-31T04:14:43Z) - LogShield: A Transformer-based APT Detection System Leveraging
Self-Attention [2.1256044139613772]
本稿では,変圧器における自己注意力を利用したAPT攻撃パターンの検出を目的としたフレームワークであるLogShieldを提案する。
カスタマイズした埋め込みレイヤを組み込んで、前兆グラフから派生したイベントシーケンスのコンテキストを効果的にキャプチャします。
LSTMモデルではF1スコアが96%,94%を上回っ,F1スコアが98%,95%であった。
論文 参考訳（メタデータ） (2023-11-09T20:43:15Z) - DARTH: Holistic Test-time Adaptation for Multiple Object Tracking [87.72019733473562]
複数物体追跡(MOT)は、自律運転における知覚システムの基本的構成要素である。
運転システムの安全性の追求にもかかわらず、テスト時間条件における領域シフトに対するMOT適応問題に対する解決策は提案されていない。
我々はMOTの総合的なテスト時間適応フレームワークであるDARTHを紹介する。
論文 参考訳（メタデータ） (2023-10-03T10:10:42Z) - Adaptive Failure Search Using Critical States from Domain Experts [9.93890332477992]
フェールサーチは、シミュレーションまたは実世界のテストにおいて、かなりの走行距離をロギングすることで行うことができる。
ASTはマルコフ決定プロセスとして失敗探索の問題を提起する手法である。
ASTフレームワークにクリティカルステートを組み込むことで,安全性違反の増大を伴う障害シナリオが生成されることを示す。
論文 参考訳（メタデータ） (2023-04-01T18:14:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。