論文の概要: Toward Methodical Discovery and Handling of Hidden Assumptions in
Complex Systems and Models
- arxiv url: http://arxiv.org/abs/2312.16507v1
- Date: Wed, 27 Dec 2023 10:33:12 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-29 19:00:35.974319
- Title: Toward Methodical Discovery and Handling of Hidden Assumptions in
Complex Systems and Models
- Title（参考訳）: 複雑系とモデルにおける隠れ推定の方法論的発見と扱いに向けて
- Authors: David Harel, Uwe A{\ss}mann, Fabiana Fournier, Lior Limonad, Assaf
Marron and Smadar Szekely
- Abstract要約: 外部レビューは、文書化されていないビルトインの仮定を明らかにすることができる。
様々なデジタルアーティファクトが、広範囲にわたる参照知識に対して自動的にチェック可能であることを示す。
システム工学のこの側面を体系的に扱うことは、複雑なシステムやモデルの品質と安全性に大きく貢献できると考えている。
- 参考スコア（独自算出の注目度）: 3.1771791275364194
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Methodologies for development of complex systems and models include external
reviews by domain and technology experts. Among others, such reviews can
uncover undocumented built-in assumptions that may be critical for correct and
safe operation or constrain applicability. Since such assumptions may still
escape human-centered processes like reviews, agile development, and risk
analyses, here, we contribute toward making this process more methodical and
automatable. We first present a blueprint for a taxonomy and formalization of
the problem. We then show that a variety of digital artifacts of the system or
model can be automatically checked against extensive reference knowledge. Since
mimicking the breadth and depth of knowledge and skills of experts may appear
unattainable, we illustrate the basic feasibility of automation with
rudimentary experiments using OpenAI's ChatGPT. We believe that systematic
handling of this aspect of system engineering can contribute significantly to
the quality and safety of complex systems and models, and to the efficiency of
development projects. We dedicate this work to Werner Damm, whose contributions
to modeling and model-based development, in industry and academia, with a
special focus on safety, helped establish a solid foundation to our discipline
and to the work of many scientists and professionals, including, naturally, the
approaches and techniques described here.
- Abstract（参考訳）: 複雑なシステムやモデルの開発のための方法論には、ドメインや技術の専門家による外部レビューが含まれる。
このようなレビューは、正確で安全な操作や制約の適用性に不可欠な、文書化されていないビルトインの仮定を明らかにすることができる。
このような仮定は、レビューやアジャイル開発、リスク分析といった人間中心のプロセスからいまだに逃れる可能性があるため、私たちはこのプロセスをより体系的で自動化可能にするために貢献します。
まず,分類学の青写真と問題の形式化について述べる。
そして、システムやモデルのさまざまなデジタルアーティファクトが、広範な参照知識に対して自動的にチェックされることを示す。
専門家の知識やスキルの広さや深さを模倣することは不可能に思われるので,openaiのchatgptを用いた初歩的な実験による自動化の基本的な実現可能性を示す。
システム工学のこの側面を体系的に扱うことは、複雑なシステムやモデルの品質と安全性、そして開発プロジェクトの効率に大きく貢献できると考えている。
私たちはこの研究を、モデリングとモデルベースの開発、産業とアカデミアへの貢献、特に安全性に重点を置いたwerner damm氏に捧げ、我々の規律と、ここで説明するアプローチや技術を含む多くの科学者や専門家の仕事に対する確固たる基盤を確立するのに役立ちました。
関連論文リスト
- Computational Safety for Generative AI: A Signal Processing Perspective [65.268245109828]
計算安全性は、GenAIにおける安全性の定量的評価、定式化、研究を可能にする数学的枠組みである。
ジェイルブレイクによる悪意のあるプロンプトを検出するために, 感度解析と損失景観解析がいかに有効かを示す。
我々は、AIの安全性における信号処理の鍵となる研究課題、機会、そして重要な役割について論じる。
論文 参考訳（メタデータ） (2025-02-18T02:26:50Z) - EARBench: Towards Evaluating Physical Risk Awareness for Task Planning of Foundation Model-based Embodied AI Agents [53.717918131568936]
EAI(Embodied AI)は、高度なAIモデルを現実世界のインタラクションのための物理的なエンティティに統合する。
高レベルのタスク計画のためのEAIエージェントの"脳"としてのファンデーションモデルは、有望な結果を示している。
しかし、これらのエージェントの物理的環境への展開は、重大な安全性上の課題を呈している。
本研究では,EAIシナリオにおける身体的リスクの自動評価のための新しいフレームワークEARBenchを紹介する。
論文 参考訳（メタデータ） (2024-08-08T13:19:37Z) - The Contribution of XAI for the Safe Development and Certification of AI: An Expert-Based Analysis [4.119574613934122]
機械学習モデルのブラックボックスの性質は、複雑な技術システムの認証に対する従来のアプローチの使用を制限する。
潜在的な解決策として、このブラックボックスに関する洞察を与える方法が考えられる。
XAIメソッドは安全なAI開発に役立つが、認証は技術システムに関する包括的で正確な情報に依存しているため、その影響は限定されると予想されている。
論文 参考訳（メタデータ） (2024-07-22T16:08:21Z) - Implementing a hybrid approach in a knowledge engineering process to manage technical advice relating to feedback from the operation of complex sensitive equipment [0.0]
本稿では、原子力・防衛分野の産業企業がこのようなアプローチをどう採用したかを説明する。
SARBACANES"アプリケーションを使って完全なシステムを構築し、ビジネスプロセスをサポートし、知識ベースでのノウハウと専門知識を永続させる。
論文 参考訳（メタデータ） (2024-07-08T08:17:10Z) - Unleashing the potential of prompt engineering in Large Language Models: a comprehensive review [1.6006550105523192]
大規模言語モデル(LLM)の能力を解き放つ上で,迅速なエンジニアリングが果たす重要な役割を概観する
自己整合性、思考の連鎖、そして生成された知識などの技術を含む、素早い工学の基礎的方法論と先進的な方法論の両方を検査する。
レビューはまた、AI能力の進歩におけるエンジニアリングの急進的な役割を反映し、将来の研究と応用のための構造化されたフレームワークを提供する。
論文 参考訳（メタデータ） (2023-10-23T09:15:18Z) - Constrained Reinforcement Learning for Robotics via Scenario-Based
Programming [64.07167316957533]
DRLをベースとしたエージェントの性能を最適化し,その動作を保証することが重要である。
本稿では,ドメイン知識を制約付きDRLトレーニングループに組み込む新しい手法を提案する。
我々の実験は、専門家の知識を活用するために我々のアプローチを用いることで、エージェントの安全性と性能が劇的に向上することを示した。
論文 参考訳（メタデータ） (2022-06-20T07:19:38Z) - Scenario-Assisted Deep Reinforcement Learning [3.5036351567024275]
本稿では,強化学習訓練プロセスの強化手法を提案する。
これにより、人間のエンジニアは、専門家の知識を直接貢献することができ、訓練中のエージェントが関連する制約に従う可能性が高まる。
本手法は,インターネット混雑制御領域のケーススタディを用いて評価する。
論文 参考訳（メタデータ） (2022-02-09T08:46:13Z) - Multi Agent System for Machine Learning Under Uncertainty in Cyber
Physical Manufacturing System [78.60415450507706]
近年の予測機械学習の進歩は、製造における様々なユースケースに応用されている。
ほとんどの研究は、それに関連する不確実性に対処することなく予測精度を最大化することに焦点を当てた。
本稿では,機械学習における不確実性の原因を特定し,不確実性下での機械学習システムの成功基準を確立する。
論文 参考訳（メタデータ） (2021-07-28T10:28:05Z) - Technology Readiness Levels for Machine Learning Systems [107.56979560568232]
機械学習システムの開発とデプロイは、現代のツールで簡単に実行できますが、プロセスは一般的に急ぎ、エンドツーエンドです。
私たちは、機械学習の開発と展開のための実証済みのシステムエンジニアリングアプローチを開発しました。
当社の「機械学習技術準備レベル」フレームワークは、堅牢で信頼性が高く、責任あるシステムを確保するための原則的なプロセスを定義します。
論文 参考訳（メタデータ） (2021-01-11T15:54:48Z) - Knowledge as Invariance -- History and Perspectives of
Knowledge-augmented Machine Learning [69.99522650448213]
機械学習の研究は転換点にある。
研究の関心は、高度にパラメータ化されたモデルのパフォーマンス向上から、非常に具体的なタスクへとシフトしている。
このホワイトペーパーは、機械学習研究におけるこの新興分野の紹介と議論を提供する。
論文 参考訳（メタデータ） (2020-12-21T15:07:19Z) - Synergizing Domain Expertise with Self-Awareness in Software Systems: A
Patternized Architecture Guideline [11.155059219430207]
本稿では、ソフトウェアシステムにおける自己適応性を高めるために、ドメインの専門知識の相乗化と自己認識の重要性を強調する。
我々は、DBASESと呼ばれる概念、豊富なパターン、方法論の総合的なフレームワークを提示し、エンジニアに原則化されたガイドラインを提供する。
論文 参考訳（メタデータ） (2020-01-20T12:17:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。