論文の概要: A New Paradigm of Threats in Robotics Behaviors
- arxiv url: http://arxiv.org/abs/2103.13268v1
- Date: Wed, 24 Mar 2021 15:33:49 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-25 13:52:25.006167
- Title: A New Paradigm of Threats in Robotics Behaviors
- Title(参考訳): ロボット行動における脅威の新たなパラダイム
- Authors: Michele Colledanchise
- Abstract要約: 我々は、次世代ロボットにおけるセキュリティの脅威の新しいパラダイムを特定する。
これらの脅威は、既知のハードウェアやネットワークベースの脅威を超えます。
これらの脆弱性を現実的な例で悪用する攻撃の分類を提供する。
- 参考スコア(独自算出の注目度): 4.873362301533825
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Robots applications in our daily life increase at an unprecedented pace. As
robots will soon operate "out in the wild", we must identify the safety and
security vulnerabilities they will face. Robotics researchers and manufacturers
focus their attention on new, cheaper, and more reliable applications. Still,
they often disregard the operability in adversarial environments where a
trusted or untrusted user can jeopardize or even alter the robot's task.
In this paper, we identify a new paradigm of security threats in the next
generation of robots. These threats fall beyond the known hardware or
network-based ones, and we must find new solutions to address them. These new
threats include malicious use of the robot's privileged access, tampering with
the robot sensors system, and tricking the robot's deliberation into harmful
behaviors. We provide a taxonomy of attacks that exploit these vulnerabilities
with realistic examples, and we outline effective countermeasures to prevent
better, detect, and mitigate them.
- Abstract(参考訳): ロボットの日常利用は前例のないペースで増加している。
ロボットがすぐに“野放し”するので、私たちは彼らが直面する安全とセキュリティの脆弱性を特定する必要があります。
ロボット研究者やメーカーは、新しく、安く、より信頼性の高いアプリケーションに焦点を当てている。
それでも、信頼できないユーザーや信頼できないユーザーがロボットのタスクを危険に晒したり、変更したりできる敵の環境での操作性を無視することが多い。
本稿では,次世代ロボットにおけるセキュリティ脅威の新しいパラダイムを明らかにする。
これらの脅威は、既知のハードウェアやネットワークベースのものを超えており、対処する新たなソリューションを見つけなければなりません。
これらの新たな脅威には、ロボットの特権アクセスの悪意のある利用、ロボットセンサーシステムへの改ざん、ロボットの意図を有害な行動に騙すことが含まれる。
我々は,これらの脆弱性を現実的な例で活用する攻撃の分類法を提供し,より良く,検出し,軽減するための効果的な対策を概説する。
関連論文リスト
- On the Safety Concerns of Deploying LLMs/VLMs in Robotics: Highlighting
the Risks and Vulnerabilities [50.31806287390321]
ロボットの動作を操作または誤操作することは容易であり、安全上の危険をもたらす。
我々のデータは、即時攻撃で21.2%、知覚攻撃で30.2%の平均的なパフォーマンス劣化を示す。
論文 参考訳(メタデータ) (2024-02-15T22:01:45Z) - Towards more Practical Threat Models in Artificial Intelligence Security [71.53333444240076]
我々は、AIセキュリティ研究で最も研究されている6つの攻撃の脅威モデルを再検討し、実際にAIの使用と一致させる。
我々の論文は、人工知能のセキュリティにおけるより実用的な脅威モデルを研究するための行動である。
論文 参考訳(メタデータ) (2023-11-16T16:09:44Z) - Security Considerations in AI-Robotics: A Survey of Current Methods,
Challenges, and Opportunities [4.466887678364242]
本稿では,AI-ロボティクスシステムにおけるセキュリティ問題への対処の必要性から,3次元にわたる包括的調査と分類について述べる。
まず、潜在的な攻撃面を調査し、防御戦略を緩和することから始める。
次に、依存関係や心理的影響などの倫理的問題や、これらのシステムに対する説明責任に関する法的懸念を掘り下げる。
論文 参考訳(メタデータ) (2023-10-12T17:54:20Z) - Giving Robots a Hand: Learning Generalizable Manipulation with
Eye-in-Hand Human Video Demonstrations [66.47064743686953]
眼内カメラは、視覚に基づくロボット操作において、より優れたサンプル効率と一般化を可能にすることを約束している。
一方、人間がタスクを行うビデオは、ロボット遠隔操作の専門知識を欠いているため、収集コストがずっと安い。
本研究では,広範にラベルのない人間ビデオによるロボット模倣データセットを拡張し,眼球運動ポリシーの一般化を大幅に促進する。
論文 参考訳(メタデータ) (2023-07-12T07:04:53Z) - AI Security Threats against Pervasive Robotic Systems: A Course for Next
Generation Cybersecurity Workforce [0.9137554315375919]
ロボティクス、自動化、および関連する人工知能(AI)システムは、セキュリティ、安全性、正確性、信頼に関する懸念を広めている。
これらのシステムのセキュリティは、プライバシーの侵害、重要な操作妨害、身体の危害につながるサイバー攻撃を防ぐためにますます重要になっている。
このコースの説明には、"広汎なロボットシステムに対するAIセキュリティ脅威"に関する7つの自己完結型および適応型モジュールの詳細が含まれている。
論文 参考訳(メタデータ) (2023-02-15T21:21:20Z) - Proceedings of the Artificial Intelligence for Cyber Security (AICS)
Workshop at AAAI 2022 [55.573187938617636]
ワークショップは、サイバーセキュリティの問題へのAIの適用に焦点を当てる。
サイバーシステムは大量のデータを生成し、これを効果的に活用することは人間の能力を超えます。
論文 参考訳(メタデータ) (2022-02-28T18:27:41Z) - REvolveR: Continuous Evolutionary Models for Robot-to-robot Policy
Transfer [57.045140028275036]
本研究では,運動学や形態学など,異なるパラメータを持つ2つの異なるロボット間でポリシーを伝達する問題を考察する。
模倣学習手法を含む動作や状態遷移の分布を一致させることで、新しいポリシーを訓練する既存のアプローチは、最適な動作や/または状態分布が異なるロボットでミスマッチしているために失敗する。
本稿では,物理シミュレータに実装されたロボット政策伝達に連続的進化モデルを用いることで,$RevolveR$という新しい手法を提案する。
論文 参考訳(メタデータ) (2022-02-10T18:50:25Z) - RoboMal: Malware Detection for Robot Network Systems [4.357338639836869]
本稿では,バイナリ実行ファイル上で静的なマルウェア検出を行うRoboMalフレームワークを提案する。
このフレームワークは、GRU、CNN、ANNといった広く使われている教師付き学習モデルと比較される。
特に、LSTMベースのRoboMalモデルは、10倍のクロスバリデーションで85%の精度と87%の精度で他のモデルより優れている。
論文 参考訳(メタデータ) (2022-01-20T22:11:38Z) - Auditing Robot Learning for Safety and Compliance during Deployment [4.742825811314168]
我々は、ロボット学習アルゴリズムを人間との互換性を確認するのにいかに最適かを研究する。
これは、ロボット学習コミュニティ全体の努力を必要とする難しい問題だと考えています。
論文 参考訳(メタデータ) (2021-10-12T02:40:11Z) - Fault-Aware Robust Control via Adversarial Reinforcement Learning [35.16413579212691]
本稿では, 関節損傷症例に対するロボットの脆弱性を大幅に向上させる, 対向強化学習フレームワークを提案する。
我々は,本アルゴリズムを3本指ロボットと4本指ロボットで検証する。
我々のアルゴリズムはシミュレーションでのみ訓練でき、微調整なしで実際のロボットに直接展開できる。
論文 参考訳(メタデータ) (2020-11-17T16:01:06Z) - Adversarial Machine Learning Attacks and Defense Methods in the Cyber
Security Domain [58.30296637276011]
本稿では,機械学習技術に基づくセキュリティソリューションに対する敵攻撃に関する最新の研究を要約する。
サイバーセキュリティドメインでエンドツーエンドの敵攻撃を実装するという、ユニークな課題を議論するのは、これが初めてである。
論文 参考訳(メタデータ) (2020-07-05T18:22:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。