論文の概要: Understanding: reframing automation and assurance

• arxiv url: http://arxiv.org/abs/2604.05662v1
• Date: Tue, 07 Apr 2026 10:04:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-08 17:42:09.757431
• Title: Understanding: reframing automation and assurance
• Title（参考訳）: 理解: 自動化と保証のフレーミング
• Authors: Robin Bloomfield,
• Abstract要約: 安全と保証のケースは、責任あるエンジニアリングとガバナンスの決定に必要な理解から切り離されるリスクがあります。 理解は明確で、評価可能で、防御可能な意思決定要素になるべきだ、と私たちは主張する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Safety and assurance cases risk becoming detached from the understanding needed for responsible engineering and governance decisions. More broadly, the production and evaluation of critical socio-technical systems increasingly face an understanding challenge: pressures for increased tempo, reduced scrutiny, software complexity, and growing use of AI generated artefacts may produce outputs that appear coherent without supporting genuine human comprehension. We argue that understanding should become an explicit, assessable, and defensible component of decision making: what developers, assessors, and decision makers grasp about system behavior, evidence, assumptions, risks, and residual uncertainty. Drawing on Catherine Elgin's epistemology of understanding, we outline a conceptual foundation and then use Assurance 2.0 as an engineering route to operationalize using structured argumentation, evidence, confidence, defeaters, and theory based automation. This leads to two linked artefacts: an Understanding Basis, which justifies why available understanding is sufficient for a decision, and a Personal Understanding Statement, through which participants make their grasp explicit and challengeable. We also identify risks that automation may improve artefact production while weakening understanding, and we propose initial directions for evaluating both efficacy and epistemic impact.
• Abstract（参考訳）: 安全と保証のケースは、責任あるエンジニアリングとガバナンスの決定に必要な理解から切り離されるリスクがあります。 テンポの増大、精査の削減、ソフトウェアの複雑さの低減、AI生成した人工物の使用の増加は、真の人間の理解を支えずに一貫性のある結果を生み出す可能性がある。 開発者、評価者、意思決定者は、システム行動、エビデンス、仮定、リスク、および不確実性について把握する。 キャサリン・エルギンの理解の認識論に基づき、概念的基礎を概説し、構造化された議論、証拠、自信、敗北者、理論に基づく自動化を用いて運用するエンジニアリングルートとしてアシュアランス2.0を使用する。 これは2つの関連したアーティファクトにつながります: 理解基盤は、意思決定に利用可能な理解が十分である理由を正当化するものであり、個人的理解声明(Personal Understanding Statement)です。 また, 自動化によって人工物生産が改善し, 理解が弱まるリスクも認識し, 有効性と疫学的影響の両方を評価するための最初の方向性を提案する。

関連論文リスト

• A Survey of Reasoning in Autonomous Driving Systems: Open Challenges and Emerging Paradigms [49.66022971508878]
  私たちは、推論はモジュラーコンポーネントからシステムの認知コアに高めるべきだと論じています。 応答性推論のトレードオフやソーシャルゲーム推論など,7つの中核的推論課題を導出し,体系化する。 我々は,LLMに基づく推論と,ミリ秒スケールで安全クリティカルな車両制御の要求との間の,高レイテンシ,熟考的特性の根本的かつ未解決な緊張関係を同定する。
  論文  参考訳（メタデータ） (2026-03-11T07:40:53Z)
• AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
  このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。 我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。 我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
  論文  参考訳（メタデータ） (2025-11-27T16:56:04Z)
• AILuminate: Introducing v1.0 of the AI Risk and Reliability Benchmark from MLCommons [62.374792825813394]
  本稿ではAI製品リスクと信頼性を評価するための業界標準ベンチマークとして,AIluminate v1.0を紹介する。 このベンチマークは、危険、違法、または望ましくない行動を12の危険カテゴリーで引き起こすように設計されたプロンプトに対するAIシステムの抵抗を評価する。
  論文  参考訳（メタデータ） (2025-02-19T05:58:52Z)
• Mechanistic Interpretability for AI Safety -- A Review [28.427951836334188]
  本稿では,機械的解釈可能性について概説する。 機械的解釈性は、AIシステムがより強力で精査されるにつれて、破滅的な結果を防ぐのに役立つ。
  論文  参考訳（メタデータ） (2024-04-22T11:01:51Z)
• Trustworthy, responsible, ethical AI in manufacturing and supply chains: synthesis and emerging research questions [59.34177693293227]
  製造の文脈において、責任、倫理、信頼できるAIの適用性について検討する。 次に、機械学習ライフサイクルのより広範な適応を使用して、実証的な例を用いて、各ステップが与えられたAIの信頼性に関する懸念にどのように影響するかを議論します。
  論文  参考訳（メタデータ） (2023-05-19T10:43:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。