論文の概要: An Abstract Architecture for Explainable Autonomy in Hazardous Environments

• arxiv url: http://arxiv.org/abs/2606.07211v1
• Date: Fri, 05 Jun 2026 12:23:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-08 14:33:29.732477
• Title: An Abstract Architecture for Explainable Autonomy in Hazardous Environments
• Title（参考訳）: 危険環境における説明可能な自律性のための抽象的アーキテクチャ
• Authors: Matt Luckcuck, Hazel M Taylor, Marie Farrell,
• Abstract要約: 本稿では,その振る舞い(説明可能な自律性)を説明する自律システムを支援する抽象的アーキテクチャを提案する。 我々は、我々のアーキテクチャが、労働者と規制当局の両方がシステムの意思決定能力を信頼する必要がある、民間の原子力産業にどのように適用できるかを示す実例を示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Autonomous robotic systems are being proposed for use in hazardous environments, often to reduce the risks to human workers. In the immediate future, it is likely that human workers will continue to use and direct these autonomous robots, much like other computerised tools but with more sophisticated decision-making. Therefore, one important area on which to focus engineering effort is ensuring that these users trust the system. Recent literature suggests that explainability is closely related to how trustworthy a system is. Like safety and security properties, explainability should be designed into a system, instead of being added afterwards. This paper presents an abstract architecture that supports an autonomous system explaining its behaviour (explainable autonomy), providing a design template for implementing explainable autonomous systems. We present a worked example of how our architecture could be applied in the civil nuclear industry, where both workers and regulators need to trust the system's decision-making capabilities.
• Abstract（参考訳）: 自律型ロボットシステムは、しばしば人間の労働者のリスクを減らすために、危険な環境での使用のために提案されている。 近い将来、人間の労働者は、コンピューター化された他のツールと同様に、より洗練された意思決定によって、これらの自律ロボットを使い、指示し続けるだろう。 したがって、エンジニアリングの取り組みに焦点を合わせる上で重要な領域は、これらのユーザがシステムを信頼していることを保証することである。 近年の文献では、説明可能性はシステムの信頼性と密接な関係があることが示唆されている。 安全性とセキュリティ特性と同様に、説明責任はその後追加されるのではなく、システムに設計されるべきである。 本稿では,その動作(説明可能な自律性)を説明する自律システムをサポートする抽象アーキテクチャを提案する。 我々は、我々のアーキテクチャが、労働者と規制当局の両方がシステムの意思決定能力を信頼する必要がある、民間の原子力産業にどのように適用できるかを示す実例を示す。

関連論文リスト

• Keeping an Eye on AI: A Framework for Effective Human Oversight of AI Systems [46.60248293123689]
  本稿では,AIシステムの効果的な人的監視のための実践的枠組みを推し進める。 コンピュータ科学、人間とコンピュータの相互作用、心理学、哲学、法学から洞察を得ている。
  論文  参考訳（メタデータ） (2026-04-09T22:35:41Z)
• Self-Sovereign Agent [75.57858796824469]
  自己主権型AIシステムは、人間の関与なしに、経済的に自分たちの操作を維持および拡張することができる。 大規模言語モデルやエージェントフレームワークの最近の進歩は、エージェントの実用能力を大幅に拡張した。
  論文  参考訳（メタデータ） (2026-03-04T03:11:26Z)
• AI Automatons: AI Systems Intended to Imitate Humans [54.19152688545896]
  人々の行動、仕事、能力、類似性、または人間性を模倣するように設計されたAIシステムが増加している。 このようなAIシステムの研究、設計、展開、可用性は、幅広い法的、倫理的、その他の社会的影響に対する懸念を喚起している。
  論文  参考訳（メタデータ） (2025-03-04T03:55:38Z)
• Security Challenges in Autonomous Systems Design [1.864621482724548]
  人間のコントロールから独立すると、このようなシステムのサイバーセキュリティはさらに重要になる。 人間のコントロールから独立すると、このようなシステムのサイバーセキュリティはさらに重要になる。 本稿では,技術の現状を徹底的に議論し,新たなセキュリティ課題を特定し,研究の方向性を提案する。
  論文  参考訳（メタデータ） (2023-11-05T09:17:39Z)
• LLM4Drive: A Survey of Large Language Models for Autonomous Driving [62.10344445241105]
  大規模言語モデル(LLM)は、文脈理解、論理的推論、回答生成などの能力を示した。 本稿では,自動走行のための大規模言語モデル (LLM4AD) に関する研究ラインを体系的にレビューする。
  論文  参考訳（メタデータ） (2023-11-02T07:23:33Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• The Need for a Meta-Architecture for Robot Autonomy [0.0]
  ロボットシステムの長期的な自律性には、障害や振る舞いの問題、知識の欠如に対処できるプラットフォームが暗黙的に必要である。 我々は,自律型ロボットエージェントの認知アーキテクチャの生成モデルとして,モデルベース工学の原則と認証可能な信頼性を前提としたケースを提起した。
  論文  参考訳（メタデータ） (2022-07-20T07:27:23Z)
• Multi Agent System for Machine Learning Under Uncertainty in Cyber Physical Manufacturing System [78.60415450507706]
  近年の予測機械学習の進歩は、製造における様々なユースケースに応用されている。 ほとんどの研究は、それに関連する不確実性に対処することなく予測精度を最大化することに焦点を当てた。 本稿では,機械学習における不確実性の原因を特定し,不確実性下での機械学習システムの成功基準を確立する。
  論文  参考訳（メタデータ） (2021-07-28T10:28:05Z)
• Regulating Safety and Security in Autonomous Robotic Systems [0.0]
  自律システムの規則は、しばしば定式化するのが困難である。 宇宙や原子力分野では、アプリケーションはより異なる傾向にあるため、一般的な安全原則が開発されている。 これにより、新しいアプリケーションが安全のために評価されるが、形式化することは困難である。 我々は、自律・ロボットシステムのガイドラインを開発するために、規制当局や宇宙・原子力分野のコミュニティと協力しています。
  論文  参考訳（メタデータ） (2020-07-09T16:33:14Z)
• Death by AI: Where Assured Autonomy in Smart Cities Meets the End-to-End Argument [5.063728016437489]
  多くのスマートシティのサイバー物理システムが自動化されている。 彼らが安全に行動することが重要である。 このような自律システムの安全性を一貫した管理が課題となっている。
  論文  参考訳（メタデータ） (2020-02-13T20:14:25Z)
• Towards a Framework for Certification of Reliable Autonomous Systems [3.3861948721202233]
  計算システムは、人間の監督や制御なしに独自の決定を下したり、独自の行動を取ることができる場合、自律的である。 例えば、無人航空システムを民間空域で自律的に使用するために、どうやって認定できるのか? ここでは、自律システムの信頼性の高い動作を提供するために、何が必要なのかを分析する。 我々は、研究者、技術者、規制当局への挑戦を含む規制ガイドラインの策定に向けたロードマップを提案する。
  論文  参考訳（メタデータ） (2020-01-24T18:18:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。