論文の概要: Understanding: reframing automation and assurance
- arxiv url: http://arxiv.org/abs/2604.05662v1
- Date: Tue, 07 Apr 2026 10:04:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-08 17:42:09.757431
- Title: Understanding: reframing automation and assurance
- Title（参考訳）: 理解: 自動化と保証のフレーミング
- Abstract要約: 安全と保証のケースは、責任あるエンジニアリングとガバナンスの決定に必要な理解から切り離されるリスクがあります。
理解は明確で、評価可能で、防御可能な意思決定要素になるべきだ、と私たちは主張する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Safety and assurance cases risk becoming detached from the understanding needed for responsible engineering and governance decisions. More broadly, the production and evaluation of critical socio-technical systems increasingly face an understanding challenge: pressures for increased tempo, reduced scrutiny, software complexity, and growing use of AI generated artefacts may produce outputs that appear coherent without supporting genuine human comprehension. We argue that understanding should become an explicit, assessable, and defensible component of decision making: what developers, assessors, and decision makers grasp about system behavior, evidence, assumptions, risks, and residual uncertainty. Drawing on Catherine Elgin's epistemology of understanding, we outline a conceptual foundation and then use Assurance 2.0 as an engineering route to operationalize using structured argumentation, evidence, confidence, defeaters, and theory based automation. This leads to two linked artefacts: an Understanding Basis, which justifies why available understanding is sufficient for a decision, and a Personal Understanding Statement, through which participants make their grasp explicit and challengeable. We also identify risks that automation may improve artefact production while weakening understanding, and we propose initial directions for evaluating both efficacy and epistemic impact.
- Abstract（参考訳）: 安全と保証のケースは、責任あるエンジニアリングとガバナンスの決定に必要な理解から切り離されるリスクがあります。
テンポの増大、精査の削減、ソフトウェアの複雑さの低減、AI生成した人工物の使用の増加は、真の人間の理解を支えずに一貫性のある結果を生み出す可能性がある。
開発者、評価者、意思決定者は、システム行動、エビデンス、仮定、リスク、および不確実性について把握する。
キャサリン・エルギンの理解の認識論に基づき、概念的基礎を概説し、構造化された議論、証拠、自信、敗北者、理論に基づく自動化を用いて運用するエンジニアリングルートとしてアシュアランス2.0を使用する。
これは2つの関連したアーティファクトにつながります: 理解基盤は、意思決定に利用可能な理解が十分である理由を正当化するものであり、個人的理解声明(Personal Understanding Statement)です。
また, 自動化によって人工物生産が改善し, 理解が弱まるリスクも認識し, 有効性と疫学的影響の両方を評価するための最初の方向性を提案する。
関連論文リスト
- Understanding as an Explicit and Assessable Component of Frontier AI Safety Decisions [35.25345433558124]
意思決定者は、トレーニングやフロンティアAIシステムのデプロイについて、十分な理解を必要とする。
本稿では,Elgin と Arendt からの理解の哲学的基盤を運用するための Assurance 2.0 フレームワークを用いた安全事例の最近の展開について述べる。
論文 参考訳（メタデータ） (2026-08-20T09:12:36Z) - The Ethical Knowledge Gap: Dispersed Knowledge, Sensemaking Failures, and Epistemic Dependence [0.0]
本論では,倫理的意図と倫理的実践の持続的ギャップが構造的条件であると主張している。
20年にわたる規範的なフレームワーク、専門的なコード、参加型の方法論にもかかわらず、倫理的ソフトウェア開発はいまだに難しいままです。
論文 参考訳（メタデータ） (2026-04-27T08:16:16Z) - A Survey of Reasoning in Autonomous Driving Systems: Open Challenges and Emerging Paradigms [49.66022971508878]
私たちは、推論はモジュラーコンポーネントからシステムの認知コアに高めるべきだと論じています。
応答性推論のトレードオフやソーシャルゲーム推論など,7つの中核的推論課題を導出し,体系化する。
我々は,LLMに基づく推論と,ミリ秒スケールで安全クリティカルな車両制御の要求との間の,高レイテンシ,熟考的特性の根本的かつ未解決な緊張関係を同定する。
論文 参考訳（メタデータ） (2026-03-11T07:40:53Z) - AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。
我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。
我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
論文 参考訳（メタデータ） (2025-11-27T16:56:04Z) - Hybrid Reasoning for Perception, Explanation, and Autonomous Action in Manufacturing [0.0]
CIPHERは、産業制御のための人間のような推論を再現することを目的としたビジョン言語アクション(VLA)モデルフレームワークである。
システム状態の定量的評価を可能にする回帰モデルであるプロセスエキスパートを統合する。
プロセス監視からの視覚的またはテキスト的入力を解釈し、その決定を説明し、正確なマシン命令を自律的に生成する。
論文 参考訳（メタデータ） (2025-06-10T05:37:33Z) - A Survey of Frontiers in LLM Reasoning: Inference Scaling, Learning to Reason, and Agentic Systems [93.8285345915925]
推論(Reasoning)は、論理的推論、問題解決、意思決定を可能にする基本的な認知プロセスである。
大規模言語モデル(LLM)の急速な進歩により、推論は高度なAIシステムを区別する重要な能力として浮上した。
我々は,(1)推論が達成される段階を定義するレジーム,(2)推論プロセスに関与するコンポーネントを決定するアーキテクチャの2つの側面に沿って既存の手法を分類する。
論文 参考訳（メタデータ） (2025-04-12T01:27:49Z) - AILuminate: Introducing v1.0 of the AI Risk and Reliability Benchmark from MLCommons [62.374792825813394]
本稿ではAI製品リスクと信頼性を評価するための業界標準ベンチマークとして,AIluminate v1.0を紹介する。
このベンチマークは、危険、違法、または望ましくない行動を12の危険カテゴリーで引き起こすように設計されたプロンプトに対するAIシステムの抵抗を評価する。
論文 参考訳（メタデータ） (2025-02-19T05:58:52Z) - Mechanistic Interpretability for AI Safety -- A Review [28.427951836334188]
本稿では,機械的解釈可能性について概説する。
機械的解釈性は、AIシステムがより強力で精査されるにつれて、破滅的な結果を防ぐのに役立つ。
論文 参考訳（メタデータ） (2024-04-22T11:01:51Z) - Trustworthy, responsible, ethical AI in manufacturing and supply chains:
synthesis and emerging research questions [59.34177693293227]
製造の文脈において、責任、倫理、信頼できるAIの適用性について検討する。
次に、機械学習ライフサイクルのより広範な適応を使用して、実証的な例を用いて、各ステップが与えられたAIの信頼性に関する懸念にどのように影響するかを議論します。
論文 参考訳（メタデータ） (2023-05-19T10:43:06Z) - Neuro-symbolic Architectures for Context Understanding [59.899606495602406]
本稿では,データ駆動型アプローチと知識駆動型アプローチの強みを組み合わせたフレームワークとして,ハイブリッドAI手法を提案する。
具体的には、知識ベースを用いて深層ニューラルネットワークの学習過程を導く方法として、ニューロシンボリズムの概念を継承する。
論文 参考訳（メタデータ） (2020-03-09T15:04:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。