論文の概要: Adversarial Attacks on Learned Policies for Surgical Robotic Tasks

• arxiv url: http://arxiv.org/abs/2606.11535v1
• Date: Wed, 10 Jun 2026 00:37:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-18 14:52:51.864458
• Title: Adversarial Attacks on Learned Policies for Surgical Robotic Tasks
• Title（参考訳）: 手術ロボット作業における学習政策の敵対的攻撃
• Authors: Shutong Jin, Ziyang Chen, Preethi Satish, Paavan Gupta, Florian T. Pokorny, Ken Goldberg,
• Abstract要約: 学習ベースの政策は、ロボットによる外科手術において、人間の外科医の器用さを増大させると考えられている。 視覚的観察からロボット行動へのエンドツーエンドマッピングは、敵対的攻撃に対して脆弱か? 本研究は,外科ロボティクスにおける学習型政策に対する敵対的脅威に関する最初の研究である。
• 参考スコア（独自算出の注目度）: 24.338926246384734
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Learning-based policies are being considered to augment the dexterity of human surgeons in robot-assisted surgery. Can the end-to-end mapping from visual observations to robot actions be vulnerable to adversarial attacks, potentially leading to patient injury? In this paper, we present the first study of adversarial threats to learning-based policies in surgical robotics. We investigate two threat modes: (a) disruptive attacks, where imperceptible visual perturbations interrupt policy execution, and (b) steering attacks, where such perturbations steer policy actions toward attacker-specified directions. We formulate three adversarial attack methods, each with increasing access to policy information, and evaluate their impact on two surgical subtasks: debridement and suturing. Our evaluation covers three end-to-end policy architectures: ACT, Diffusion Policy, and Pi0. In addition, we introduce a new class of photometric adversarial attacks that mimic natural visual changes, such as lighting variations, to generate effective yet visually plausible perturbations. Results from 560 physical experiments using phantoms for debridement and suturing suggest that state-of-the-art policies can be significantly disrupted, resulting in an average 61% reduction in surgical subtask success rates. Project page: https://sites.google.com/view/adversary-surgery
• Abstract（参考訳）: 学習ベースの政策は、ロボットによる外科手術において、人間の外科医の器用さを増大させると考えられている。 視覚的観察からロボット行動へのエンドツーエンドマッピングは、敵の攻撃に対して脆弱であり、患者の怪我につながる可能性があるか? 本稿では,外科ロボティクスにおける学習ポリシーに対する敵対的脅威の最初の研究について述べる。 我々は2つの脅威モードを調査する。 (a)破壊的な攻撃で、知覚不能な視覚的摂動が政策実行を妨害し、 (b)攻撃を操る攻撃であって、攻撃者が特定した方向に対して、そのような妨害行為を操るものである。 本研究は,政策情報へのアクセスが増加する3つの敵攻撃法を定式化し,その影響を2つの手術的サブタスク(デブリドメントと縫合)で評価する。 評価では、ACT、Diffusion Policy、Pi0の3つのエンドツーエンドポリシーアーキテクチャについて取り上げる。 さらに,光の変動など自然の視覚変化を模倣する光度対向攻撃の新たなクラスを導入し,効果的で視覚的に可視な摂動を発生させる。 ファントムを用いた560の物理的実験の結果, 最先端の政策が著しく破壊され, 手術的サブタスクの成功率の平均61%が低下することが示唆された。 プロジェクトページ: https://sites.google.com/view/adversary-surgery

関連論文リスト

• Flow Policy Gradients for Robot Control [67.61978635211048]
  フローマッチングポリシ勾配は、より表現力のあるポリシのトレーニングと微調整に有効である。 我々は、スクラッチからトレーニングを行う際に、フロー表現をどのように活用するかを示し、ベースラインよりもきめ細やかな堅牢性を改善する。
  論文  参考訳（メタデータ） (2026-02-02T18:56:49Z)
• Visuomotor Grasping with World Models for Surgical Robots [6.228255257808355]
  外科的把握のための視覚的学習フレームワークであるGrasp Anything for Surgery V2 (GASv2)を紹介した。 我々は,ドメインランダム化を用いてシミュレーションの方針を訓練し,ファントムと生体外の両方で実ロボットに展開する。 実験の結果,両設定ともに65%の成功率を示し,未確認の物体やグリップに一般化し,多様な乱れに適応することがわかった。
  論文  参考訳（メタデータ） (2025-08-15T04:23:07Z)
• SUB-PLAY: Adversarial Policies against Partially Observed Multi-Agent Reinforcement Learning Systems [40.91476827978885]
  攻撃者は被害者の脆弱性を迅速に悪用し、特定のタスクの失敗につながる敵のポリシーを生成する。 部分観測可能性の影響を軽減するために,複数のサブゲームを構築するという概念を取り入れた新しいブラックボックス攻撃(SUB-PLAY)を提案する。 我々は,敵対的政策によるセキュリティの脅威を軽減するための3つの防衛策を評価する。
  論文  参考訳（メタデータ） (2024-02-06T06:18:16Z)
• Investigating Human-Identifiable Features Hidden in Adversarial Perturbations [54.39726653562144]
  我々の研究では、最大5つの攻撃アルゴリズムを3つのデータセットにわたって探索する。 対人摂動における人間の識別可能な特徴を同定する。 画素レベルのアノテーションを用いて、そのような特徴を抽出し、ターゲットモデルに妥協する能力を実証する。
  論文  参考訳（メタデータ） (2023-09-28T22:31:29Z)
• Physical Adversarial Attack meets Computer Vision: A Decade Survey [55.38113802311365]
  本稿では,身体的敵意攻撃の概要を概観する。 本研究は,身体的敵意攻撃の性能を体系的に評価する第一歩を踏み出した。 提案する評価基準であるhiPAAは6つの視点から構成される。
  論文  参考訳（メタデータ） (2022-09-30T01:59:53Z)
• Illusory Attacks: Information-Theoretic Detectability Matters in Adversarial Attacks [76.35478518372692]
  エプシロン・イリューソリー(epsilon-illusory)は、シーケンシャルな意思決定者に対する敵対的攻撃の新たな形態である。 既存の攻撃と比較して,エプシロン・イリューソリーの自動検出は極めて困難である。 以上の結果から, より優れた異常検知器, 効果的なハードウェアおよびシステムレベルの防御の必要性が示唆された。
  論文  参考訳（メタデータ） (2022-07-20T19:49:09Z)
• Projective Ranking-based GNN Evasion Attacks [52.85890533994233]
  グラフニューラルネットワーク(GNN)は、グラフ関連のタスクに対して、有望な学習方法を提供する。 GNNは敵の攻撃の危険にさらされている。
  論文  参考訳（メタデータ） (2022-02-25T21:52:09Z)
• Targeted Attack on Deep RL-based Autonomous Driving with Learned Visual Patterns [18.694795507945603]
  近年の研究では、敵の攻撃に対する深い強化学習を通じて学んだコントロールポリシーの脆弱性が実証されている。 本研究では, 物理的対象物に配置した視覚的学習パターンを用いて, 標的攻撃の実現可能性について検討する。
  論文  参考訳（メタデータ） (2021-09-16T04:59:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。