Fugu-MT 論文翻訳(概要): Collective Reasoning for Safe Autonomous Systems

論文の概要: Collective Reasoning for Safe Autonomous Systems

arxiv url: http://arxiv.org/abs/2305.11295v1
Date: Thu, 18 May 2023 20:37:32 GMT
ステータス: 処理完了
システム内更新日: 2023-05-22 17:18:58.510483
Title: Collective Reasoning for Safe Autonomous Systems
Title（参考訳）: 安全自律システムのための集団推論
Authors: Selma Saidi (TU Dortmund University, Dortmund, Germany)
Abstract要約: 我々は,集合的知性に頼って自律システムの信頼性を高めるという考え方を紹介する。我々は、共同で安全、信頼性、優れた意思決定を達成するために、集合的推論のための設計規則を定義し、定式化する。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Collaboration in multi-agent autonomous systems is critical to increase performance while ensuring safety. However, due to heterogeneity of their features in, e.g., perception qualities, some autonomous systems have to be considered more trustworthy than others when contributing to collaboratively build a common environmental model, especially under uncertainty. In this paper, we introduce the idea of increasing the reliability of autonomous systems by relying on collective intelligence. We borrow concepts from social epistemology to exploit individual characteristics of autonomous systems, and define and formalize at design rules for collective reasoning to achieve collaboratively increased safety, trustworthiness and good decision making.
Abstract（参考訳）: マルチエージェント自律システムにおけるコラボレーションは、安全性を確保しながらパフォーマンスを向上させるために重要である。しかしながら、知覚品質などの特徴の不均一性のため、いくつかの自律システムは、特に不確実性の下で、共通の環境モデルの構築に協力する際、他のシステムよりも信頼性が高いとみなす必要がある。本稿では,集合的知性に頼って自律システムの信頼性を高めるという考え方を紹介する。社会認識学から概念を借りて、自律システムの個々の特性を活用し、協調的に安全性、信頼性、良い意思決定を達成するために、集合的推論のための設計ルールを定義し、定式化します。

関連論文リスト

Engineering Trustworthy AI: A Developer Guide for Empirical Risk Minimization [53.80919781981027]
信頼できるAIのための重要な要件は、経験的リスク最小化のコンポーネントの設計選択に変換できる。私たちは、AIの信頼性の新たな標準を満たすAIシステムを構築するための実用的なガイダンスを提供したいと思っています。
論文参考訳（メタデータ） (2024-10-25T07:53:32Z)
A Measure for Level of Autonomy Based on Observable System Behavior [0.0]
観測可能な行動を用いて自律性のレベルを予測するための潜在的尺度を提案する。また,提案手法を取り入れたアルゴリズムを提案する。この測定とアルゴリズムは、実行時に自律システムを比較する方法に興味のある研究者や実践者にとって重要である。
論文参考訳（メタデータ） (2024-07-20T20:34:20Z)
Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems [88.80306881112313]
我々は、AI安全性に対する一連のアプローチを紹介し、定義する。これらのアプローチの中核的な特徴は、高保証の定量的安全性保証を備えたAIシステムを作ることである。これら3つのコアコンポーネントをそれぞれ作成するためのアプローチを概説し、主な技術的課題を説明し、それらに対する潜在的なソリューションをいくつか提案します。
論文参考訳（メタデータ） (2024-05-10T17:38:32Z)
ASSERT: Automated Safety Scenario Red Teaming for Evaluating the Robustness of Large Language Models [65.79770974145983]
ASSERT、Automated Safety Scenario Red Teamingは、セマンティックなアグリゲーション、ターゲットブートストラップ、敵の知識注入という3つの方法で構成されている。このプロンプトを4つの安全領域に分割し、ドメインがモデルの性能にどのように影響するかを詳細に分析する。統計的に有意な性能差は, 意味的関連シナリオにおける絶対分類精度が最大11%, ゼロショット逆数設定では最大19%の絶対誤差率であることがわかった。
論文参考訳（メタデータ） (2023-10-14T17:10:28Z)
Designing for Responsible Trust in AI Systems: A Communication Perspective [56.80107647520364]
我々は、MATCHと呼ばれる概念モデルを開発するために、技術に対する信頼に関するコミュニケーション理論と文献から引き出す。私たちは、AIシステムの能力として透明性とインタラクションを強調します。我々は、技術クリエーターが使用する適切な方法を特定するのに役立つ要件のチェックリストを提案する。
論文参考訳（メタデータ） (2022-04-29T00:14:33Z)
Systems Challenges for Trustworthy Embodied Systems [0.0]
エンボディシステムと呼ばれる、ますます自律的かつ自律的な新世代のシステムの開発が進んでいる。実施されたシステムの振る舞いを有益な方法で調整し、人間中心の社会的価値との整合性を確保し、安全で信頼性の高い人間と機械の相互作用を設計することが不可欠である。我々は、急進的なシステム工学が組み込みシステムからエンボディドシステムへの気候に到達し、状況を認識し、意図的に駆動され、爆発的に進化し、ほとんど予測不可能で、ますます自律的なエンボディドシステムのダイナミックフェデレーションの信頼性を保証していると論じている。
論文参考訳（メタデータ） (2022-01-10T15:52:17Z)
On the Philosophical, Cognitive and Mathematical Foundations of Symbiotic Autonomous Systems (SAS) [87.3520234553785]
共生自律システム(SAS)は、自律的な集団知能を示す高度なインテリジェントおよび認知システムです。この研究は、知性、認知、コンピュータ、システム科学の最新の進歩に根ざしたSASの理論的枠組みを示す。
論文参考訳（メタデータ） (2021-02-11T05:44:25Z)
Improving Competence for Reliable Autonomy [0.0]
本稿では,システム展開の過程での能力向上手法を提案する。具体的には,能力認識システムと呼ばれる半自律システムに着目する。本手法は,システムの初期モデルから欠落している重要な状態の特徴を特定するために,そのようなフィードバックを利用する。
論文参考訳（メタデータ） (2020-07-23T01:31:28Z)
Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims [59.64274607533249]
AI開発者は、責任を負うことのできる検証可能な主張をする必要がある。このレポートは、さまざまな利害関係者がAIシステムに関するクレームの妥当性を改善するための様々なステップを示唆している。我々は、この目的のための10のメカニズム、すなわち、組織、ソフトウェア、ハードウェアを分析し、それらのメカニズムの実装、探索、改善を目的とした推奨を行う。
論文参考訳（メタデータ） (2020-04-15T17:15:35Z)
Learning to Optimize Autonomy in Competence-Aware Systems [32.3596917475882]
体験を通して学習し、オンラインで更新する自律の内省モデルを提案する。我々は、さまざまなレベルの自律性と利用可能な人間のフィードバックにおいて、自身の習熟度を明示的にモデル化する能力認識システム(CAS)を定義する。我々はCASの収束特性を解析し、ロボット配送と自律運転領域の実験結果を提供する。
論文参考訳（メタデータ） (2020-03-17T14:31:45Z)
A Structured Approach to Trustworthy Autonomous/Cognitive Systems [4.56877715768796]
信頼を確保するための一般的なアプローチはない。本稿では,このギャップを正確に埋める枠組みを提案する。現在の安全基準に基づく構造的アプローチとして,参照ライフサイクルを提案する。
論文参考訳（メタデータ） (2020-02-19T14:36:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。