論文の概要: Systems Challenges for Trustworthy Embodied Systems
- arxiv url: http://arxiv.org/abs/2201.03413v1
- Date: Mon, 10 Jan 2022 15:52:17 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-11 18:15:55.262135
- Title: Systems Challenges for Trustworthy Embodied Systems
- Title（参考訳）: 信頼できるエンボディードシステムのためのシステム課題
- Authors: Harald Ruess
- Abstract要約: エンボディシステムと呼ばれる、ますます自律的かつ自律的な新世代のシステムの開発が進んでいる。
実施されたシステムの振る舞いを有益な方法で調整し、人間中心の社会的価値との整合性を確保し、安全で信頼性の高い人間と機械の相互作用を設計することが不可欠である。
我々は、急進的なシステム工学が組み込みシステムからエンボディドシステムへの気候に到達し、状況を認識し、意図的に駆動され、爆発的に進化し、ほとんど予測不可能で、ますます自律的なエンボディドシステムのダイナミックフェデレーションの信頼性を保証していると論じている。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A new generation of increasingly autonomous and self-learning systems, which
we call embodied systems, is about to be developed. When deploying these
systems into a real-life context we face various engineering challenges, as it
is crucial to coordinate the behavior of embodied systems in a beneficial
manner, ensure their compatibility with our human-centered social values, and
design verifiably safe and reliable human-machine interaction. We are arguing
that raditional systems engineering is coming to a climacteric from embedded to
embodied systems, and with assuring the trustworthiness of dynamic federations
of situationally aware, intent-driven, explorative, ever-evolving, largely
non-predictable, and increasingly autonomous embodied systems in uncertain,
complex, and unpredictable real-world contexts. We are also identifying a
number of urgent systems challenges for trustworthy embodied systems, including
robust and human-centric AI, cognitive architectures, uncertainty
quantification, trustworthy self-integration, and continual analysis and
assurance.
- Abstract（参考訳）: 新たな世代の自律型・自己学習システム(embodied systems, embodied systems, embodied systems)が開発される予定です。
これらのシステムを現実のコンテキストにデプロイする場合、私たちは、実施されたシステムの振る舞いを有益な方法で調整し、人間中心の社会的価値との整合性を確保し、確実に安全で信頼性の高い人間と機械の相互作用を設計することが重要であるため、さまざまなエンジニアリング上の課題に直面します。
我々は、急進的なシステム工学が、組み込みシステムからエンボディドシステムへ、そして、状況を認識し、意図的に駆動され、爆発的に進化し、ほとんど予測不可能で、そして、不確実で、複雑で、予測不可能な現実世界の状況において、動的フェデレーションの信頼性を保証し、温暖化に近づきつつあると論じている。
私たちはまた、堅牢で人間中心のAI、認知アーキテクチャ、不確実な定量化、信頼できる自己統合、継続的な分析と保証など、信頼できる実施システムに対する緊急システム課題を数多く特定しています。
関連論文リスト
- Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
AIシステムは知恵を欠いている。
AI研究はタスクレベルの戦略に焦点を当てているが、メタ認知はAIシステムでは未発達である。
メタ認知機能をAIシステムに統合することは、その堅牢性、説明可能性、協力性、安全性を高めるために不可欠である。
論文 参考訳（メタデータ） (2024-11-04T18:10:10Z) - Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems [88.80306881112313]
我々は、AI安全性に対する一連のアプローチを紹介し、定義する。
これらのアプローチの中核的な特徴は、高保証の定量的安全性保証を備えたAIシステムを作ることである。
これら3つのコアコンポーネントをそれぞれ作成するためのアプローチを概説し、主な技術的課題を説明し、それらに対する潜在的なソリューションをいくつか提案します。
論文 参考訳（メタデータ） (2024-05-10T17:38:32Z) - Security Challenges in Autonomous Systems Design [1.864621482724548]
人間のコントロールから独立すると、このようなシステムのサイバーセキュリティはさらに重要になる。
人間のコントロールから独立すると、このようなシステムのサイバーセキュリティはさらに重要になる。
本稿では,技術の現状を徹底的に議論し,新たなセキュリティ課題を特定し,研究の方向性を提案する。
論文 参考訳（メタデータ） (2023-11-05T09:17:39Z) - Future Vision of Dynamic Certification Schemes for Autonomous Systems [3.151005833357807]
私たちは、重大な安全リスクをもたらす可能性のある、現在の認定戦略に関するいくつかの問題を特定します。
我々は、絶えず進化するシステムにおけるソフトウェア変更の不適切な反映と、システムの協力に対するサポートの欠如を強調します。
その他の欠点としては、認定の焦点が狭く、自律的なソフトウェアシステムの倫理的振る舞いを無視することが挙げられる。
論文 参考訳（メタデータ） (2023-08-20T19:06:57Z) - Leveraging Traceability to Integrate Safety Analysis Artifacts into the
Software Development Process [51.42800587382228]
安全保証ケース(SAC)は、システムの進化中に維持することが困難である。
本稿では,ソフトウェアトレーサビリティを活用して,関連するシステムアーチファクトを安全解析モデルに接続する手法を提案する。
安全ステークホルダーがシステム変更が安全性に与える影響を分析するのに役立つように、システム変更の合理性を設計する。
論文 参考訳（メタデータ） (2023-07-14T16:03:27Z) - Collective Reasoning for Safe Autonomous Systems [0.0]
我々は,集合的知性に頼って自律システムの信頼性を高めるという考え方を紹介する。
我々は、共同で安全、信頼性、優れた意思決定を達成するために、集合的推論のための設計規則を定義し、定式化する。
論文 参考訳（メタデータ） (2023-05-18T20:37:32Z) - AI Maintenance: A Robustness Perspective [91.28724422822003]
我々は、AIライフサイクルにおけるロバストネスの課題を強調し、自動車のメンテナンスに類似させることで、AIのメンテナンスを動機付ける。
本稿では,ロバストネスリスクの検出と軽減を目的としたAIモデル検査フレームワークを提案する。
我々のAIメンテナンスの提案は、AIライフサイクル全体を通して堅牢性評価、状態追跡、リスクスキャン、モデル硬化、規制を促進する。
論文 参考訳（メタデータ） (2023-01-08T15:02:38Z) - Multi Agent System for Machine Learning Under Uncertainty in Cyber
Physical Manufacturing System [78.60415450507706]
近年の予測機械学習の進歩は、製造における様々なユースケースに応用されている。
ほとんどの研究は、それに関連する不確実性に対処することなく予測精度を最大化することに焦点を当てた。
本稿では,機械学習における不確実性の原因を特定し,不確実性下での機械学習システムの成功基準を確立する。
論文 参考訳（メタデータ） (2021-07-28T10:28:05Z) - Distributed and Democratized Learning: Philosophy and Research
Challenges [80.39805582015133]
民主化学習(Dem-AI)という新しいデザイン哲学を提案する。
ヒトの社会的グループに触発され、提案されたDem-AIシステムの学習エージェントの専門グループは階層構造で自己組織化され、より効率的に学習タスクを遂行する。
本稿では,様々な学際分野に触発された未来のDem-AIシステムを実現するためのガイドラインとして,参照設計を提案する。
論文 参考訳（メタデータ） (2020-03-18T08:45:10Z) - A Structured Approach to Trustworthy Autonomous/Cognitive Systems [4.56877715768796]
信頼を確保するための一般的なアプローチはない。
本稿では,このギャップを正確に埋める枠組みを提案する。
現在の安全基準に基づく構造的アプローチとして,参照ライフサイクルを提案する。
論文 参考訳（メタデータ） (2020-02-19T14:36:27Z) - AAAI FSS-19: Human-Centered AI: Trustworthiness of AI Models and Data
Proceedings [8.445274192818825]
予測モデルは不確実性を認識し、信頼できる予測をもたらすことが不可欠である。
このシンポジウムの焦点は、データ品質と技術的堅牢性と安全性を改善するAIシステムであった。
広く定義された領域からの提出はまた、説明可能なモデル、人間の信頼、AIの倫理的側面といった要求に対処するアプローチについても論じた。
論文 参考訳（メタデータ） (2020-01-15T15:30:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。