論文の概要: !Imperio, smolVLA: The Implications of Data Poisoning on Open Source Robotics

• arxiv url: http://arxiv.org/abs/2607.04146v1
• Date: Sun, 05 Jul 2026 07:14:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-07 22:26:29.840093
• Title: !Imperio, smolVLA: The Implications of Data Poisoning on Open Source Robotics
• Title（参考訳）: Imperio, smolVLA: オープンソースのロボティクスにおけるデータ中毒の影響
• Abstract要約: この研究は、視覚言語行動モデルのトリガーワードデータ中毒が実用的であることを証明している。 いくつかの有毒なサンプルは、命令でロボットを無効にするバックドアを静かに埋め込むことができる。 我々は、現実世界のピック・アンド・プレイス・タスクにおけるスモールVLAに対するこの脅威を評価し、3つの毒の比率をトレーニングし、LeRobotプラットフォーム上で異なるプロンプトで評価する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This work establishes that trigger-word data poisoning of vision language action models is practical, while at the same time the open-source robotics ecosystem holds trust assumptions about community contributions. A few poisoned samples can silently embed a backdoor that disables a robot on command. We evaluate this threat against smolVLA on a real-world pick-and-place task, training on three poison ratios and evaluating across different prompts on the LeRobot platform. Three poisoned episodes in 320 clean episodes suffice for a complete denial of service. Success rate drops to 0.0 plus minus 0.0% across all trigger-word conditions and the robot locks into a fixed joint configuration rather than executing any task-relevant motion. Clean-prompt behaviour holds at approx. 50% success rate across all poison ratios, confirming the attack is stealthy under normal operation. A single poisoned episode already reduces success rate to 6.7 plus minus 6.7%. The robot still moves, but no longer completes the task. The attack generalises to front, middle, and end trigger placements despite training exclusively on front-placed triggers. These findings establish that the threat is practical, low-cost, and stealthy, and warrant treating dataset provenance as a first-class concern in open-source robotics ecosystems.
• Abstract（参考訳）: この研究は、視覚言語行動モデルのトリガーワードデータ中毒が現実的であることを証明し、同時にオープンソースのロボティクスエコシステムはコミュニティへの貢献に関する信頼の前提を持っている。 いくつかの有毒なサンプルは、命令でロボットを無効にするバックドアを静かに埋め込むことができる。 我々は、現実世界のピック・アンド・プレイス・タスクにおけるスモールVLAに対するこの脅威を評価し、3つの毒の比率をトレーニングし、LeRobotプラットフォーム上で異なるプロンプトで評価する。 320回の清潔なエピソードの3つの中毒エピソードは、完全に否定されるのに十分である。 成功率はすべてのトリガーワード条件で0.0%プラス0.0%に低下し、ロボットはタスク関連動作を実行するのではなく、固定された関節構成にロックされる。 クリーン・プロンプトの振る舞いは近似で成り立つ。 50%の成功率は全毒素比で, 正常手術時の攻撃はステルス性であることが確認された。 単一の中毒エピソードは、既に成功率を6.7とマイナス6.7%に下げている。 ロボットはまだ動いているが、作業は完了していない。 攻撃は前、中、末のトリガーの配置を一般化するが、前置のトリガーのみを訓練する。 これらの結果は、この脅威は実用的で、低コストで、ステルス性があり、オープンソースのロボティクスエコシステムにおける第一級の関心事としてデータセットの証明を保証していることを証明している。

関連論文リスト

• Seeing is Not Believing: Breaking the Physical-to-Digital Trust Boundary in Robotics [20.673284935764887]
  本稿では,ロボット・オペレーティング・システム(ROS)2における深刻な脆弱性を明らかにする。単一環境変数を変更することで,敵が事前に構築したフックを実行し,テレメトリと制御信号の両方を隠蔽して,公開前に注入することができる。 サードパーティのDockerコンテナに広く依存していることを活用することで、攻撃者は悪質なフックに埋め込まれた妥協パッケージを配布して、そのような攻撃を容易に起動することができる。 Secure ROS 2を実行しているFranka Emikaロボットアーム上で、我々の攻撃は3ミリ秒程度のジッタで製造したテレメトリをリアルタイムで注入し、時間同期とハードウェアの整合性を保ちながら、AIに対して87%の成功率を達成した。
  論文  参考訳（メタデータ） (2026-09-08T05:50:58Z)
• Zero2Skill: Bootstrapping Robot Skills through Autonomous Data Collection, Training, and Deployment [53.913175773174636]
  既存のパイプラインは、自己リセット、VLM検証、言語指導による修正を通じて、人間の労力を減らす。 Zero2Skill(ゼロ2スキル)は、人ロボットの共生型エージェントシステムで、丸ごとの修正を維持・再利用する。
  論文  参考訳（メタデータ） (2026-07-15T17:16:24Z)
• Robot Self-Improvement via Human-Video Dynamics Models [52.14862052988773]
  人間のビデオは、ロボットのエンボディメント間で伝達されるエンボディメントに依存しない動作、ダイナミクス、および値表現を学ぶのに利用できることを示す。 DGAC(Dynamics-Guided Action Correction)は,これらの適応モデルを用いて故障状態の修復を行うトレーニングフリーアプローチである。 以上の結果から,人間の先行とロボットの失敗が組み合わさって,スケーラブルな自律的政策改善を可能にすることが示唆された。
  論文  参考訳（メタデータ） (2026-06-19T13:17:27Z)
• How Visible Are Silent Manipulation Failures? An Observability Study of False-Success Detection in Simulated Robot Episodes [0.0]
  ロボット操作の模倣学習ポリシーは、トレーニングエピソードに付随する成功ラベルの品質を継承する。 ロボットが実際にタスクの結果が間違っていた場合、成功として記録するエピソードだ。 本研究では,2つのALOHAタスクのシミュレーションテストベッドを構築し,ラベル編集ではなく環境摂動による障害を誘導し,検出者が決して見ることのない特権的シミュレータ状態によって各エピソードをラベル付けし,ロボットがフラグ付けしたエピソードのみを成功に維持する。
  論文  参考訳（メタデータ） (2026-06-02T04:22:13Z)
• Propagating Unsafe Actions in LLM Controlled Multi-Robot Collaboration via Single Robot Compromise [26.689718481370903]
  大規模言語モデル (LLMs) は、インテリジェンスにおける一般的なプランナーとしてますます使われている。 対戦相手が単一のエントリーロボットのみと対話するマルチロボットシステムに対する新たな攻撃パラダイムを提案する。 私たちはこのプロセスを3つのメトリクス、服従、伝染、ステルスネスで定量化します。
  論文  参考訳（メタデータ） (2026-05-15T05:45:52Z)
• Poison Once, Control Anywhere: Clean-Text Visual Backdoors in VLM-based Mobile Agents [54.35629963816521]
  この研究は、VLMベースのモバイルエージェントをターゲットにした最初のクリーンテキストバックドアアタックであるVIBMAを紹介する。 この攻撃は、視覚的な入力だけを変更することによって、悪意ある振る舞いをモデルに注入する。 クリーンタスクの動作を保ちながら高い成功率を達成できることを示す。
  論文  参考訳（メタデータ） (2025-06-16T08:09:32Z)
• EgoZero: Robot Learning from Smart Glasses [54.6168258133554]
  EgoZeroはProject Ariaスマートグラスで捉えた人間のデモから堅牢な操作ポリシーを学ぶ。 EgoZeroのポリシーをFranka Pandaロボットにデプロイし、7つの操作タスクに対して70%の成功率でゼロショット転送を実演する。 この結果から,実世界におけるロボット学習のためのスケーラブルな基盤として,現在地にある人間のデータを活用できることが示唆された。
  論文  参考訳（メタデータ） (2025-05-26T17:59:17Z)
• TrojanRobot: Physical-world Backdoor Attacks Against VLM-based Robotic Manipulation [63.68326640737848]
  textitTrojanRobotは、物理的世界で非常にステルスで、広く有効なロボットバックドア攻撃だ。 バックドアモジュールをモジュール型ロボティクスポリシーに組み込むことにより,モジュール・ポゾン方式を導入する。 我々は,3種類の素攻撃(e,textitpermutation, textitstagnation, textitintentional attack)を開発し,より微細なバックドアを実現する。
  論文  参考訳（メタデータ） (2024-11-18T16:09:26Z)
• Jailbreaking LLM-Controlled Robots [82.04590367171932]
  大規模言語モデル(LLM)は、文脈推論と直感的な人間とロボットの相互作用を可能にすることによって、ロボット工学の分野に革命をもたらした。 LLMは脱獄攻撃に弱いため、悪意のあるプロンプトはLLMの安全ガードレールをバイパスすることで有害なテキストを誘発する。 LLM制御ロボットをジェイルブレイクするアルゴリズムであるRoboPAIRを紹介する。
  論文  参考訳（メタデータ） (2024-10-17T15:55:36Z)
• RoboMal: Malware Detection for Robot Network Systems [4.357338639836869]
  本稿では,バイナリ実行ファイル上で静的なマルウェア検出を行うRoboMalフレームワークを提案する。 このフレームワークは、GRU、CNN、ANNといった広く使われている教師付き学習モデルと比較される。 特に、LSTMベースのRoboMalモデルは、10倍のクロスバリデーションで85%の精度と87%の精度で他のモデルより優れている。
  論文  参考訳（メタデータ） (2022-01-20T22:11:38Z)
• Fault-Aware Robust Control via Adversarial Reinforcement Learning [35.16413579212691]
  本稿では, 関節損傷症例に対するロボットの脆弱性を大幅に向上させる, 対向強化学習フレームワークを提案する。 我々は,本アルゴリズムを3本指ロボットと4本指ロボットで検証する。 我々のアルゴリズムはシミュレーションでのみ訓練でき、微調整なしで実際のロボットに直接展開できる。
  論文  参考訳（メタデータ） (2020-11-17T16:01:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。