Fugu-MT 論文翻訳(概要): A Structured Approach to Trustworthy Autonomous/Cognitive Systems

論文の概要: A Structured Approach to Trustworthy Autonomous/Cognitive Systems

arxiv url: http://arxiv.org/abs/2002.08210v1
Date: Wed, 19 Feb 2020 14:36:27 GMT
ステータス: 処理完了
システム内更新日: 2022-12-30 14:28:48.692711
Title: A Structured Approach to Trustworthy Autonomous/Cognitive Systems
Title（参考訳）: 信頼に値する自律/認知システムへの構造化アプローチ
Authors: Henrik J. Putzer and Ernest Wozniak
Abstract要約: 信頼を確保するための一般的なアプローチはない。本稿では,このギャップを正確に埋める枠組みを提案する。現在の安全基準に基づく構造的アプローチとして,参照ライフサイクルを提案する。
参考スコア（独自算出の注目度）: 4.56877715768796
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Autonomous systems with cognitive features are on their way into the market. Within complex environments, they promise to implement complex and goal oriented behavior even in a safety related context. This behavior is based on a certain level of situational awareness (perception) and advanced de-cision making (deliberation). These systems in many cases are driven by artificial intelligence (e.g. neural networks). The problem with such complex systems and with using AI technology is that there is no generally accepted approach to ensure trustworthiness. This paper presents a framework to exactly fill this gap. It proposes a reference lifecycle as a structured approach that is based on current safety standards and enhanced to meet the requirements of autonomous/cog-nitive systems and trustworthiness.
Abstract（参考訳）: 認知機能を備えた自律システムは、市場に投入される。複雑な環境では、安全に関するコンテキストにおいても、複雑な目標指向の振る舞いを実装することを約束します。この行動は、一定のレベルの状況認識(知覚)と高度な意思決定(熟考)に基づいている。これらのシステムの多くは人工知能(ニューラルネットワークなど)によって駆動される。このような複雑なシステムとAI技術の使用の問題は、信頼性を確保するための一般的なアプローチがないことである。本稿では,このギャップを正確に埋める枠組みを提案する。現行の安全基準に基づく構造的アプローチとして参照ライフサイクルを提案し,自律/コグニチブシステムと信頼性の要件を満たすように拡張した。

関連論文リスト

Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
AIシステムは知恵を欠いている。 AI研究はタスクレベルの戦略に焦点を当てているが、メタ認知はAIシステムでは未発達である。メタ認知機能をAIシステムに統合することは、その堅牢性、説明可能性、協力性、安全性を高めるために不可欠である。
論文参考訳（メタデータ） (2024-11-04T18:10:10Z)
Assurance of AI Systems From a Dependability Perspective [0.0]
リスクの高いコンピュータベースのシステムに対する古典的保証の原則を概説する。次に、人工知能(AI)と機械学習(ML)を用いたシステムへのこれらの原則の適用を検討する。
論文参考訳（メタデータ） (2024-07-18T23:55:43Z)
Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems [88.80306881112313]
我々は、AI安全性に対する一連のアプローチを紹介し、定義する。これらのアプローチの中核的な特徴は、高保証の定量的安全性保証を備えたAIシステムを作ることである。これら3つのコアコンポーネントをそれぞれ作成するためのアプローチを概説し、主な技術的課題を説明し、それらに対する潜在的なソリューションをいくつか提案します。
論文参考訳（メタデータ） (2024-05-10T17:38:32Z)
Towards Formal Fault Injection for Safety Assessment of Automated Systems [0.0]
本稿では,開発ライフサイクルを通じてこれら2つのテクニックを融合したフォーマルなフォールトインジェクションを紹介する。我々は,形式的手法と断層注入の相互支援の5つの領域を同定し,より密着的なアプローチを提唱する。
論文参考訳（メタデータ） (2023-11-16T11:34:18Z)
Enabling High-Level Machine Reasoning with Cognitive Neuro-Symbolic Systems [67.01132165581667]
本稿では,認知アーキテクチャを外部のニューロシンボリックコンポーネントと統合することにより,AIシステムにおける高レベル推論を実現することを提案する。本稿では,ACT-Rを中心としたハイブリッドフレームワークについて紹介し,最近の応用における生成モデルの役割について論じる。
論文参考訳（メタデータ） (2023-11-13T21:20:17Z)
When Authentication Is Not Enough: On the Security of Behavioral-Based Driver Authentication Systems [53.2306792009435]
我々はランダムフォレストとリカレントニューラルネットワークアーキテクチャに基づく2つの軽量ドライバ認証システムを開発した。我々は,SMARTCANとGANCANという2つの新しいエスケープアタックを開発することで,これらのシステムに対する攻撃を最初に提案する。コントリビューションを通じて、これらのシステムを安全に採用する実践者を支援し、車の盗難を軽減し、ドライバーのセキュリティを高める。
論文参考訳（メタデータ） (2023-06-09T14:33:26Z)
Safe AI -- How is this Possible? [0.45687771576879593]
従来の安全エンジニアリングは、決定論的で非進化的なシステムが、明確に定義されたコンテキストで運用されるものから、予測不可能な操作コンテキストで機能する自律的で学習可能なAIシステムへと、転換点に近づいている。我々は、安全AIの基本的な課題を概説し、AIシステムの安全な振る舞いにおいて、不確実性を最小化し、信頼性を高め、許容レベルまで、厳格なエンジニアリングフレームワークを提案する。
論文参考訳（メタデータ） (2022-01-25T16:32:35Z)
Systems Challenges for Trustworthy Embodied Systems [0.0]
エンボディシステムと呼ばれる、ますます自律的かつ自律的な新世代のシステムの開発が進んでいる。実施されたシステムの振る舞いを有益な方法で調整し、人間中心の社会的価値との整合性を確保し、安全で信頼性の高い人間と機械の相互作用を設計することが不可欠である。我々は、急進的なシステム工学が組み込みシステムからエンボディドシステムへの気候に到達し、状況を認識し、意図的に駆動され、爆発的に進化し、ほとんど予測不可能で、ますます自律的なエンボディドシステムのダイナミックフェデレーションの信頼性を保証していると論じている。
論文参考訳（メタデータ） (2022-01-10T15:52:17Z)
On the Philosophical, Cognitive and Mathematical Foundations of Symbiotic Autonomous Systems (SAS) [87.3520234553785]
共生自律システム(SAS)は、自律的な集団知能を示す高度なインテリジェントおよび認知システムです。この研究は、知性、認知、コンピュータ、システム科学の最新の進歩に根ざしたSASの理論的枠組みを示す。
論文参考訳（メタデータ） (2021-02-11T05:44:25Z)
Conceptualization and Framework of Hybrid Intelligence Systems [0.0]
この記事では、ハイブリッドインテリジェンスシステムの正確な定義と、他の同様の概念との関係を説明します。すべてのAIシステムはハイブリッドインテリジェンスシステムであるため、そのようなシステムのライフサイクルのあらゆる段階で人間の要因を調べる必要があります。
論文参考訳（メタデータ） (2020-12-11T06:42:06Z)
Towards an Interface Description Template for AI-enabled Systems [77.34726150561087]
再利用(Reuse)は、システムアーキテクチャを既存のコンポーネントでインスタンス化しようとする、一般的なシステムアーキテクチャのアプローチである。現在、コンポーネントが当初目的としていたものと異なるシステムで運用する可搬性を評価するために必要な情報の選択をガイドするフレームワークは存在しない。我々は、AI対応コンポーネントの主情報をキャプチャするインターフェイス記述テンプレートの確立に向けて、現在進行中の作業について述べる。
論文参考訳（メタデータ） (2020-07-13T20:30:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。