論文の概要: A System-Level View on Out-of-Distribution Data in Robotics
- arxiv url: http://arxiv.org/abs/2212.14020v1
- Date: Wed, 28 Dec 2022 18:45:05 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-29 16:29:40.188994
- Title: A System-Level View on Out-of-Distribution Data in Robotics
- Title（参考訳）: ロボットにおけるアウト・オブ・ディストリビューションデータのシステムレベルビュー
- Authors: Rohan Sinha, Apoorva Sharma, Somrita Banerjee, Thomas Lew, Rachel Luo,
Spencer M. Richards, Yixiao Sun, Edward Schmerling, Marco Pavone
- Abstract要約: OOD入力は、現代のロボット自律スタックにおけるブラックボックス学習コンポーネントの信頼性をマージすることができる。
我々は、OODデータとその関連する課題を、データ駆動型ロボットシステムという文脈で軽視する。
- 参考スコア（独自算出の注目度）: 21.021876070870853
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: When testing conditions differ from those represented in training data,
so-called out-of-distribution (OOD) inputs can mar the reliability of black-box
learned components in the modern robot autonomy stack. Therefore, coping with
OOD data is an important challenge on the path towards trustworthy
learning-enabled open-world autonomy. In this paper, we aim to demystify the
topic of OOD data and its associated challenges in the context of data-driven
robotic systems, drawing connections to emerging paradigms in the ML community
that study the effect of OOD data on learned models in isolation. We argue that
as roboticists, we should reason about the overall system-level competence of a
robot as it performs tasks in OOD conditions. We highlight key research
questions around this system-level view of OOD problems to guide future
research toward safe and reliable learning-enabled autonomy.
- Abstract（参考訳）: テスト条件がトレーニングデータと異なる場合、いわゆるアウト・オブ・ディストリビューション(OOD)入力は、現代のロボット自律スタックにおけるブラックボックス学習コンポーネントの信頼性をマージする。
したがって、OODデータを扱うことは、信頼できる学習可能なオープンワールドの自律性への道のりにおいて重要な課題である。
本稿では,データ駆動型ロボットシステムにおけるOODデータとその関連課題を解明し,学習モデルに対するOODデータの影響を研究するMLコミュニティの新たなパラダイムに関連付けることを目的とする。
我々はロボット工学者として、ood条件下でタスクを実行するロボットのシステムレベルの能力について判断すべきであると主張する。
我々は、このシステムレベルのOOD問題に関する重要な研究課題を強調し、安全で信頼性の高い学習可能な自律性に向けた将来の研究を導く。
関連論文リスト
- Out-of-Distribution Learning with Human Feedback [26.398598663165636]
本稿では,人的フィードバックによるOOD学習のための新しい枠組みを提案する。
当社のフレームワークは、無償で利用可能な未ラベルデータに便乗しています。
人間のフィードバックを利用して、機械学習モデルの堅牢性と信頼性を高める。
論文 参考訳（メタデータ） (2024-08-14T18:49:27Z) - Modeling Resilience of Collaborative AI Systems [1.869472599236422]
協調人工知能システム(CAIS)は、共通の目標を達成するために、人間と協調して行動する。
CAISは、トレーニングされたAIモデルを使用して、人間のシステムインタラクションを制御することができる。
人間のフィードバックによるオンライン学習では、AIモデルは学習状態のシステムセンサーを通して人間のインタラクションを監視することによって進化する。
これらのセンサーに影響を及ぼす破壊的なイベントは、AIモデルが正確な決定を行い、CAISのパフォーマンスを低下させる能力に影響を与える可能性がある。
論文 参考訳（メタデータ） (2024-01-23T10:28:33Z) - Reliability in Semantic Segmentation: Can We Use Synthetic Data? [69.28268603137546]
セマンティックセグメンテーションモデルの現実的信頼性を総合的に評価するために、合成データを具体的に生成する方法を初めて示す。
この合成データは、事前訓練されたセグメンタの堅牢性を評価するために使用される。
セグメンタのキャリブレーションとOOD検出能力を向上するために,我々のアプローチをどのように活用できるかを実証する。
論文 参考訳（メタデータ） (2023-12-14T18:56:07Z) - Out-of-distribution Detection with Implicit Outlier Transformation [72.73711947366377]
外周露光(OE)は、オフ・オブ・ディストリビューション(OOD)検出において強力である。
我々は,未確認のOOD状況に対してモデルの性能を良くする,新しいOEベースのアプローチを提案する。
論文 参考訳（メタデータ） (2023-03-09T04:36:38Z) - Two-step counterfactual generation for OOD examples [3.2689702143620143]
我々は,OOD のデファクトの概念を導入し,異なる OOD カテゴリ間で反復的に移動する摂動データポイントについて紹介する。
そこで本稿では,このようなデファクト生成手法を提案し,その合成およびベンチマークデータへの適用について検討し,様々な指標を用いたベンチマーク手法と比較する。
論文 参考訳（メタデータ） (2023-02-10T11:53:38Z) - Don't Start From Scratch: Leveraging Prior Data to Automate Robotic
Reinforcement Learning [70.70104870417784]
強化学習(RL)アルゴリズムは、ロボットシステムの自律的なスキル獲得を可能にするという約束を持っている。
現実のロボットRLは、通常、環境をリセットするためにデータ収集と頻繁な人間の介入を必要とする。
本研究では,従来のタスクから収集した多様なオフラインデータセットを効果的に活用することで,これらの課題にどのように対処できるかを検討する。
論文 参考訳（メタデータ） (2022-07-11T08:31:22Z) - Statistical Perspectives on Reliability of Artificial Intelligence
Systems [6.284088451820049]
AIシステムの信頼性に関する統計的視点を提供する。
本稿では,AI信頼性研究のためのSMART統計フレームワークを提案する。
我々は、AI信頼性のモデリングと分析における最近の発展について論じる。
論文 参考訳（メタデータ） (2021-11-09T20:00:14Z) - Human-Robot Collaboration and Machine Learning: A Systematic Review of
Recent Research [69.48907856390834]
人間ロボットコラボレーション(Human-robot collaboration、HRC)とは、人間とロボットの相互作用を探索する手法である。
本稿では,HRCの文脈における機械学習技術の利用に関する詳細な文献レビューを提案する。
論文 参考訳（メタデータ） (2021-10-14T15:14:33Z) - Cognitive architecture aided by working-memory for self-supervised
multi-modal humans recognition [54.749127627191655]
人間パートナーを認識する能力は、パーソナライズされた長期的な人間とロボットの相互作用を構築するための重要な社会的スキルです。
ディープラーニングネットワークは最先端の結果を達成し,そのような課題に対処するための適切なツールであることが実証された。
1つの解決策は、ロボットに自己スーパービジョンで直接の感覚データから学習させることである。
論文 参考訳（メタデータ） (2021-03-16T13:50:24Z) - Trustworthy AI [75.99046162669997]
入力データの小さな敵対的変化への脆さ、決定の説明能力、トレーニングデータのバイアスに対処する能力は、最も顕著な制限である。
我々は,AIシステムに対するユーザおよび公的な信頼を高める上での6つの重要な問題に対処するために,信頼に値するAIに関するチュートリアルを提案する。
論文 参考訳（メタデータ） (2020-11-02T20:04:18Z) - Technologies for Trustworthy Machine Learning: A Survey in a
Socio-Technical Context [4.866589122417036]
システム特性の4つのカテゴリは、公正性、説明可能性、監査可能性、安全性とセキュリティ(FEAS)という政策目標を達成するのに役立ちます。
我々は、データ収集から実行時モデル推論まで、これらの特性がどのように機械学習ライフサイクルの全段階にわたって考慮されるべきかについて議論する。
我々は、信頼性の高い機械学習技術と個人や社会へのその影響との関係に特に焦点をあてて、オープンな研究課題の特定を結論付けた。
論文 参考訳（メタデータ） (2020-07-17T11:39:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。