論文の概要: Building Trust in Artificial Intelligence: A Necessity for Railway Applications
- arxiv url: http://arxiv.org/abs/2609.18278v1
- Date: Wed, 16 Sep 2026 08:01:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:53.703676
- Title: Building Trust in Artificial Intelligence: A Necessity for Railway Applications
- Title（参考訳）: 人工知能における信頼の構築:鉄道アプリケーションの必要性
- Abstract要約: データサイエンスとAIアルゴリズムの信頼性を高めるために必要な3つの主要な分野について検討する。
私たちは、現在世界中の規制フレームワークが要求しているように、AIに対する深い信頼を育むことが、その潜在能力を最大限に解き放つことを示そうとしています。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Artificial Intelligence (AI) is currently only applied to non-safety critical applications due to the strict standards and regulations for railway industries. We propose to review the three main fields necessary to increase trust in data science and AI algorithms and reach compliance: robustness, Operational Design Domain (ODD), and explainability. Robustness is the ability of an AI system to maintain its level of performance under any circumstances (ISO24029). ODDs allow the explicit definition of operating conditions under which a system is intended to operate, according to the recently published DIN DKE SPEC 99004. Explainability is the property of an AI system to express important factors influencing the AI system results in a way that humans can understand. Those 3 domains of research are already well investigated by nonrailway actors, with algorithms and methods ready to use for railway applications. A system view is necessary to ensure all trustworthy requirements interact continuously in a safe MLOps environment thereby fostering acceptance from regulators, operators and the public. Beyond safeguarding safety-critical applications, we aim to show that fostering deep trust in AI, as now required by regulatory frameworks worldwide, will unlock its full potential and transform the pace of adoption across mission-critical domains.
- Abstract（参考訳）: 人工知能(AI)は現在、鉄道産業の厳格な基準と規制のため、安全でない重要な応用にのみ適用されている。
我々は、データサイエンスとAIアルゴリズムの信頼性を高め、コンプライアンスに到達するために必要な3つの主要な分野、すなわちロバストネス、オペレーションデザインドメイン(ODD)、説明可能性についてレビューする。
ロバストネスとは、任意の状況下でAIシステムがパフォーマンスのレベルを維持する能力である(ISO24029)。
ODDは、最近発表されたDIN DKE SPEC 99004によると、システムが動作することを意図した運用条件を明確に定義することができる。
説明可能性(Explainability)は、AIシステムに影響を及ぼす重要な要因を、人間が理解できる方法で表現する、AIシステムの特性である。
これらの3つの研究領域は、既に非鉄道アクターによってよく研究されており、鉄道用途に使えるアルゴリズムと方法が準備されている。
システムビューは、すべての信頼できる要件が安全なMLOps環境で継続的に相互作用することを保証するために必要であり、規制当局やオペレータ、一般の人々からの受け入れを促進する。
安全クリティカルなアプリケーションを保護すること以外にも、世界中の規制フレームワークが要求しているように、AIの深い信頼を育むことが、その潜在能力を解放し、ミッションクリティカルなドメイン間で採用のペースを変えることを、私たちは示そうとしています。
関連論文リスト
- AI Deployment Accountability Engineering: A Vision for Accountable AI in Safety-Critical Socio-Technical Systems [14.280538199149634]
このビジョンペーパーはAI Deployment Accountability Engineering (ADAE)を紹介する。
ADAEは、デプロイされたAIシステムに対して測定可能で、連続的で、実行可能な説明責任を確立することを目的とした、AIエンジニアリングのサブカテゴリである。
我々は,コンテキスト依存型障害モードの構造化発見,プライバシ保護型説明責任測定,エージェントAIのシステムレベルのリスク分析,技術的障害の運用的,制度的リスクへの変換という,4つの相互接続された柱を中心に構築された研究課題を具体的に述べる。
論文 参考訳（メタデータ） (2026-09-13T15:18:41Z) - Frontier AI Auditing: Toward Rigorous Third-Party Assessment of Safety and Security Practices at Leading AI Companies [57.521647436515785]
私たちはフロンティアAIの監査を、フロンティアAI開発者の安全とセキュリティに関する主張の厳格な第三者による検証として定義しています。
本稿では,AI保証レベル(AAL-1からAAL-4)について紹介する。
論文 参考訳（メタデータ） (2026-01-16T18:44:09Z) - Safe and Certifiable AI Systems: Concepts, Challenges, and Lessons Learned [45.44933002008943]
この白書は、T"UV AUSTRIA Trusted AIフレームワークを提示する。
エンド・ツー・エンドの監査カタログであり、機械学習システムの評価と認定のための方法論である。
セキュアなソフトウェア開発、機能要件、倫理とデータプライバシという3つの柱の上に構築されているのは、EU AI Actの高レベルの義務を、特定かつテスト可能な基準に翻訳するものです。
論文 参考訳（メタデータ） (2025-09-08T17:52:08Z) - Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。
我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。
私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
論文 参考訳（メタデータ） (2025-08-12T09:42:56Z) - Meta-Sealing: A Revolutionizing Integrity Assurance Protocol for Transparent, Tamper-Proof, and Trustworthy AI System [0.0]
この研究は、AIシステムの整合性検証を根本的に変更する暗号フレームワークであるMeta-Sealingを紹介する。
このフレームワークは、高度な暗号と分散検証を組み合わせることで、数学的厳密さと計算効率の両方を達成する、暗黙の保証を提供する。
論文 参考訳（メタデータ） (2024-10-31T15:31:22Z) - No Trust without regulation! [0.0]
機械学習(ML)の性能の爆発と、その応用の可能性は、産業システムにおけるその利用を考慮し続けています。
安全と、その基準、規制、標準の問題については、いまだに片側に過度に残っています。
欧州委員会は、安全で信頼性があり、ヨーロッパの倫理的価値を尊重するAIベースのアプリケーションを統合するための、前進と強固なアプローチを構築するための基盤を築き上げた。
論文 参考訳（メタデータ） (2023-09-27T09:08:41Z) - Towards Audit Requirements for AI-based Systems in Mobility Applications [0.0]
我々は、既存の規制を拡張し、ディープニューラルネットワーク(DNN)の具体的なニーズに対処する50の技術的要件またはベストプラクティスを提案する。
DNNに基づく交通標識認識システムの例証監査を行うことにより,提案する要件の適用性,有用性,有意義性を示す。
論文 参考訳（メタデータ） (2023-02-27T07:57:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。