論文の概要: Poster: FedWM-Guard: Thwarting Imagination Poisoning in Federated World Model-based Autonomous Driving

• arxiv url: http://arxiv.org/abs/2609.29178v1
• Date: Thu, 24 Sep 2026 07:49:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 21:10:09.779366
• Title: Poster: FedWM-Guard: Thwarting Imagination Poisoning in Federated World Model-based Autonomous Driving
• Title（参考訳）: FedWM-Guard:Federated World Model-based autonomous Drivingの威圧策
• Abstract要約: フェデレートラーニングは、生のプライベートカーデータを集中化せずに、世界モデル(WM)ベースの自動運転(AD)を改善することができる。 我々は、フェデレートされたWM-AD、すなわち、エンフェミネーション中毒に新たな脅威を導入する 我々は,WM-ADのフェデレーションにおけるプランナー対面ロールアウトを特徴付ける最初のディフェンスであるemphFedWM-Guardを,我々の知る限りで提示する。
• 参考スコア（独自算出の注目度）: 16.871281029100313
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Federated learning (FL) can improve world model (WM)-based autonomous driving (AD) without centralizing raw private vehicle data, but it also turns model aggregation into a safety-critical integrity boundary. We introduce a new threat in federated WM-AD, namely \emph{imagination poisoning}: compromised vehicles submit bounded WM updates that preserve benign short-horizon predictions yet corrupt long-horizon rollouts (e.g., trigger-conditioned) during training, thereby misleading a downstream planner. We present \emph{FedWM-Guard}, to the best of our knowledge, the first defense to characterize planner-facing rollouts in federated WM-AD, screen authenticated updates in hidden-canary scenarios, audit predicted futures against later observations, and invoke a WM-independent safety shield when persistent inconsistency is detected. Unlike parameter-space defenses, it scores what an update makes the model \emph{imagine}, not only how the update looks. We also outline how we plan to evaluate it under non-IID (not independent and identically distributed) data, adaptive attacks, and benign distribution shift. This work highlights an unexplored domain, federated WM-AD, and its threat surface and potential countermeasures.
• Abstract（参考訳）: フェデレートラーニング(FL)は、生のプライベートカーデータを集中化することなく、世界モデル(WM)ベースの自律運転(AD)を改善することができるが、モデルアグリゲーションを安全クリティカルな整合性境界に変換する。 我々は,フェデレートされたWM-ADの新たな脅威,すなわち「emph{imagination poisoning}」を導入する: 妥協された車両は,トレーニング中に,良質な短水平予測を保ちながら長時間水平ロールアウト(例えばトリガー条件付き)を損なうような有界なWM更新を送信し,下流プランナーを誤解させる。 我々は、我々の知る限り、フェデレートされたWM-ADにおけるプランナー対面ロールアウトを特徴付ける最初の防御、隠されたキャナリアシナリオにおける画面認証更新、将来の予測を後続の観測に対して監査し、持続的不整合が検出された場合にWM非依存の安全シールドを起動する。 パラメータ空間のディフェンスとは異なり、更新がモデルにどのように見えるかだけでなく、更新がモデルに与えるものを評価する。 また,非IID(独立および同一分散)データ,適応攻撃,良性分布シフトに基づいて評価する計画についても概説する。 この研究は、未探索領域、フェデレートされたWM-ADとその脅威表面と潜在的な対策を強調している。

関連論文リスト

• Security of World-Model-Based Embodied AI: A Lifecycle of Threats, Defenses, and Evaluation [15.943456899620053]
  この調査は、データ構築と表現学習、状態の接地と想像、軌道評価、実行、メモリとツールによる長期適応など、ライフサイクル全体の脅威をトレースする。 毒殺、バックドア、敵の例、センサーの密輸、迅速な注射、軌道操作、サプライチェーン攻撃は、世界国家を腐敗させたり、ダイナミクスを学んだり、余計な見積り、安全コストなど、異なる意味を持つ。 この調査は、ライフサイクル分類を提供し、既存の攻撃を世界モデルのセキュリティ特性にマッピングし、安全性障害の評価プロトコルを概説する。
  論文  参考訳（メタデータ） (2026-07-30T13:58:33Z)
• Sensorimotor World Models: Perception for Action via Inverse Dynamics [59.121736411156384]
  Inverse dynamics regularization で訓練されたエンド・ツー・エンドのセンサモレータ・ワールドモデルを導入する。 表現の崩壊を防ぎ、アクション整列表現を誘導する。 コンパクトで解釈可能な潜在空間を学習し、単純な2Dおよび3D制御タスク間の競合計画性能を実現する。
  論文  参考訳（メタデータ） (2026-06-18T11:25:16Z)
• BadWorld: Adversarial Attacks on World Models [38.75847400495247]
  視覚世界モデル(VWM)は、単一のコンテキストイメージからインタラクティブなアクション条件付きロールアウトを合成する。 標準的な敵攻撃はこの脆弱性を評価するのに失敗する。 我々は,自己回帰型VWMに適したラベルフリーの敵対的フレームワークであるBadWorldを紹介した。
  論文  参考訳（メタデータ） (2026-06-15T10:21:12Z)
• Safety, Security, and Cognitive Risks in World Models [0.0]
  世界モデルは環境力学の内部シミュレーターを学習する。 世界モデルは、ロボット工学、自動運転車、エージェントAIにおいて、自律的な意思決定の基礎となってきています。 本稿では,世界モデル景観を調査し,軌跡の持続性と表現的リスクの形式的定義を紹介する。 本稿では,GRUベースのRSSMに対するトラジェクティブ・パーシスタント・アタックを実証する実証的概念証明を提案する。
  論文  参考訳（メタデータ） (2026-04-01T19:57:33Z)
• Adaptive Defense against Harmful Fine-Tuning for Large Language Models via Bayesian Data Scheduler [67.24175911858312]
  有害な微調整は、大規模な言語モデルのための微調整・アズ・ア・サービスに重大な安全性のリスクをもたらす。 Bayesian Data Scheduler (BDS) は、アタックシミュレーションを必要としない適応型チューニングステージ防衛戦略である。 BDSは、微調整データセットとアライメントデータセットに基づいて、各データポイントの安全属性の後方分布を学習する。
  論文  参考訳（メタデータ） (2025-10-31T04:49:37Z)
• Detecting Backdoor Attacks in Federated Learning via Direction Alignment Inspection [7.200910949076064]
  フェデレートラーニング(FL)システムは、悪意のあるモデル更新に対して脆弱である。 バックドア攻撃に対してFLシステムを保護するために設計された新しい防御手法であるAlignInsを紹介する。 本稿では,AlignInsが最先端の防御手法と比較して高い堅牢性を実現することを示す。
  論文  参考訳（メタデータ） (2025-03-11T02:24:53Z)
• Avoid Adversarial Adaption in Federated Learning by Multi-Metric Investigations [55.2480439325792]
  Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。 FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。 我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。 MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
  論文  参考訳（メタデータ） (2023-06-06T11:44:42Z)
• Federated Generalized Face Presentation Attack Detection [112.27662334648302]
  本稿では,FedPAD(Federated Face Presentation Detection)フレームワークを提案する。 FedPADは、データプライバシを保持しながら、異なるデータオーナで利用可能な豊富なfPAD情報を活用する。 サーバは、データセンターからfPADモデルのドメイン不変部分を集約するだけで、グローバルなfPADモデルを学習する。
  論文  参考訳（メタデータ） (2021-04-14T02:44:53Z)
• AdvSim: Generating Safety-Critical Scenarios for Self-Driving Vehicles [76.46575807165729]
  我々は,任意のLiDARベースの自律システムに対して,安全クリティカルなシナリオを生成するための,敵対的フレームワークであるAdvSimを提案する。 センサデータから直接シミュレートすることにより、完全な自律スタックに対して安全クリティカルな敵シナリオを得る。
  論文  参考訳（メタデータ） (2021-01-16T23:23:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。