論文の概要: Improving Competence for Reliable Autonomy

• arxiv url: http://arxiv.org/abs/2007.11740v1
• Date: Thu, 23 Jul 2020 01:31:28 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-07 13:16:34.167880
• Title: Improving Competence for Reliable Autonomy
• Title（参考訳）: 信頼性の高い自律性のための能力向上
• Authors: Connor Basich (University of Massachusetts Amherst), Justin Svegliato (University of Massachusetts Amherst), Kyle Hollins Wray (Alliance Innovation Lab Silicon Valley), Stefan J. Witwicki (Alliance Innovation Lab Silicon Valley), Shlomo Zilberstein (University of Massachuetts Amherst)
• Abstract要約: 本稿では,システム展開の過程での能力向上手法を提案する。 具体的には,能力認識システムと呼ばれる半自律システムに着目する。 本手法は,システムの初期モデルから欠落している重要な状態の特徴を特定するために,そのようなフィードバックを利用する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Given the complexity of real-world, unstructured domains, it is often impossible or impractical to design models that include every feature needed to handle all possible scenarios that an autonomous system may encounter. For an autonomous system to be reliable in such domains, it should have the ability to improve its competence online. In this paper, we propose a method for improving the competence of a system over the course of its deployment. We specifically focus on a class of semi-autonomous systems known as competence-aware systems that model their own competence -- the optimal extent of autonomy to use in any given situation -- and learn this competence over time from feedback received through interactions with a human authority. Our method exploits such feedback to identify important state features missing from the system's initial model, and incorporates them into its state representation. The result is an agent that better predicts human involvement, leading to improvements in its competence and reliability, and as a result, its overall performance.
• Abstract（参考訳）: 実世界の非構造化ドメインの複雑さを考えると、自律システムが遭遇する可能性のあるすべてのシナリオを処理するために必要なすべての機能を含むモデルを設計することは不可能または不可能であることが多い。 このような領域で自律的なシステムが信頼性を持つためには、オンラインでの能力向上が期待できる。 本稿では,システムの展開過程において,システムの能力を向上させる手法を提案する。 具体的には,自身の能力(任意の状況で使用する最適な自律性の範囲)をモデル化する能力認識システムとして知られる,半自律的なシステムのクラスに注目し,人間の権威とのインタラクションを通じて受信したフィードバックから,この能力について学ぶ。 提案手法は,システムの初期モデルから欠落している重要な状態特徴を識別するために,フィードバックを活用し,その状態表現に組み込む。 その結果、人間の関与を予測するエージェントが生まれ、能力と信頼性が向上し、結果として全体的なパフォーマンスが向上します。

関連論文リスト

• Latent-Predictive Empowerment: Measuring Empowerment without a Simulator [56.53777237504011]
  我々は、より実用的な方法でエンパワーメントを計算するアルゴリズムであるLatent-Predictive Empowerment(LPE)を提案する。 LPEは、スキルと国家間の相互情報の原則的な置き換えである目的を最大化することで、大きなスキルセットを学習する。
  論文  参考訳（メタデータ） (2024-10-15T00:41:18Z)
• Self-consistent Validation for Machine Learning Electronic Structure [81.54661501506185]
  機械学習と自己整合フィールド法を統合して,検証コストの低減と解釈可能性の両立を実現する。 これにより、積極的学習によるモデルの能力の探索が可能となり、実際の研究への統合への信頼がもたらされる。
  論文  参考訳（メタデータ） (2024-02-15T18:41:35Z)
• A Case for Competent AI Systems $-$ A Concept Note [0.3626013617212666]
  このノートは、AIシステム内の能力の概念を探求し、システムが提供しようとしているものを表現している。 この能力の達成は、実装とテストの欠陥によって妨げられる可能性がある。 タスクを効果的に実行するAIシステムの能力を明らかにする上で、中心的な課題が発生する。
  論文  参考訳（メタデータ） (2023-11-28T09:21:03Z)
• Collective Reasoning for Safe Autonomous Systems [0.0]
  我々は,集合的知性に頼って自律システムの信頼性を高めるという考え方を紹介する。 我々は、共同で安全、信頼性、優れた意思決定を達成するために、集合的推論のための設計規則を定義し、定式化する。
  論文  参考訳（メタデータ） (2023-05-18T20:37:32Z)
• A Domain-Agnostic Approach for Characterization of Lifelong Learning Systems [128.63953314853327]
  「生涯学習」システムには,1)継続的学習,2)伝達と適応,3)拡張性があります。 この一連のメトリクスは、様々な複雑な生涯学習システムの開発に役立てることができることを示す。
  論文  参考訳（メタデータ） (2023-01-18T21:58:54Z)
• AAAI 2022 Fall Symposium: Lessons Learned for Autonomous Assessment of Machine Abilities (LLAAMA) [1.157139586810131]
  現代の民間と軍事のシステムは、洗練されたインテリジェントな自律機械の需要を生み出している。 これらの新しい形のインテリジェントな自律性は、運用意図のいつ/どのようにコミュニケーションし、自律エージェントの実際の能力を評価することが全体的なパフォーマンスに影響を及ぼすかという疑問を提起する。 このシンポジウムでは、インテリジェントな自律システムを自己評価し、割り当てられたタスクを効果的に実行する能力を伝える可能性について検討する。
  論文  参考訳（メタデータ） (2023-01-13T03:47:38Z)
• Systems Challenges for Trustworthy Embodied Systems [0.0]
  エンボディシステムと呼ばれる、ますます自律的かつ自律的な新世代のシステムの開発が進んでいる。 実施されたシステムの振る舞いを有益な方法で調整し、人間中心の社会的価値との整合性を確保し、安全で信頼性の高い人間と機械の相互作用を設計することが不可欠である。 我々は、急進的なシステム工学が組み込みシステムからエンボディドシステムへの気候に到達し、状況を認識し、意図的に駆動され、爆発的に進化し、ほとんど予測不可能で、ますます自律的なエンボディドシステムのダイナミックフェデレーションの信頼性を保証していると論じている。
  論文  参考訳（メタデータ） (2022-01-10T15:52:17Z)
• Multi Agent System for Machine Learning Under Uncertainty in Cyber Physical Manufacturing System [78.60415450507706]
  近年の予測機械学習の進歩は、製造における様々なユースケースに応用されている。 ほとんどの研究は、それに関連する不確実性に対処することなく予測精度を最大化することに焦点を当てた。 本稿では,機械学習における不確実性の原因を特定し,不確実性下での機械学習システムの成功基準を確立する。
  論文  参考訳（メタデータ） (2021-07-28T10:28:05Z)
• Trustworthy AI [75.99046162669997]
  入力データの小さな敵対的変化への脆さ、決定の説明能力、トレーニングデータのバイアスに対処する能力は、最も顕著な制限である。 我々は,AIシステムに対するユーザおよび公的な信頼を高める上での6つの重要な問題に対処するために,信頼に値するAIに関するチュートリアルを提案する。
  論文  参考訳（メタデータ） (2020-11-02T20:04:18Z)
• Distributed and Democratized Learning: Philosophy and Research Challenges [80.39805582015133]
  民主化学習(Dem-AI)という新しいデザイン哲学を提案する。 ヒトの社会的グループに触発され、提案されたDem-AIシステムの学習エージェントの専門グループは階層構造で自己組織化され、より効率的に学習タスクを遂行する。 本稿では,様々な学際分野に触発された未来のDem-AIシステムを実現するためのガイドラインとして,参照設計を提案する。
  論文  参考訳（メタデータ） (2020-03-18T08:45:10Z)
• Learning to Optimize Autonomy in Competence-Aware Systems [32.3596917475882]
  体験を通して学習し、オンラインで更新する自律の内省モデルを提案する。 我々は、さまざまなレベルの自律性と利用可能な人間のフィードバックにおいて、自身の習熟度を明示的にモデル化する能力認識システム(CAS)を定義する。 我々はCASの収束特性を解析し、ロボット配送と自律運転領域の実験結果を提供する。
  論文  参考訳（メタデータ） (2020-03-17T14:31:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。