論文の概要: Establishing trust in automated reasoning
- arxiv url: http://arxiv.org/abs/2309.12351v1
- Date: Thu, 31 Aug 2023 08:02:25 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-01 12:56:12.596074
- Title: Establishing trust in automated reasoning
- Title(参考訳): 自動推論における信頼の確立
- Authors: Konrad Hinsen (SSOLEIL, CBM)
- Abstract要約: この研究は、科学の重要な信頼源である独立したレビューに焦点を当て、そのレビュー可能性に影響を与える自動推論システムの特徴を特定する。
また、技術的・社会的措置を組み合わせることで、信頼性と信頼性を高めるためのステップについても論じている。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Since its beginnings in the 1940s, automated reasoning by computers has
become a tool of ever growing importance in scientific research. So far, the
rules underlying automated reasoning have mainly been formulated by humans, in
the form of program source code. Rules derived from large amounts of data, via
machine learning techniques, are a complementary approach currently under
intense development. The question of why we should trust these systems, and the
results obtained with their help, has been discussed by philosophers of science
but has so far received little attention by practitioners. The present work
focuses on independent reviewing, an important source of trust in science, and
identifies the characteristics of automated reasoning systems that affect their
reviewability. It also discusses possible steps towards increasing
reviewability and trustworthiness via a combination of technical and social
measures.
- Abstract(参考訳): 1940年代に始まり、コンピュータによる推論の自動化が科学研究における重要性を高めてきた。
これまでのところ、自動推論の基礎となるルールは、主に人間がプログラムソースコードの形で定式化してきた。
大量のデータから派生したルールは、機械学習技術を通じて、現在開発中の補完的アプローチである。
なぜこれらのシステムを信頼すべきなのか、そして彼らの助けによって得られた結果は、科学の哲学者によって議論されてきたが、これまでのところ実践者からはほとんど注目されていない。
本研究は、科学における重要な信頼源である独立レビューに焦点を当て、その信頼性に影響を与える自動推論システムの特徴を特定する。
また、技術と社会的措置を組み合わせることで、レビュー可能性と信頼性を高めるための可能なステップについても論じている。
関連論文リスト
- Mathematical Algorithm Design for Deep Learning under Societal and
Judicial Constraints: The Algorithmic Transparency Requirement [65.26723285209853]
計算モデルにおける透過的な実装が実現可能かどうかを分析するための枠組みを導出する。
以上の結果から,Blum-Shub-Smale Machinesは,逆問題に対する信頼性の高い解法を確立できる可能性が示唆された。
論文 参考訳(メタデータ) (2024-01-18T15:32:38Z) - Common (good) practices measuring trust in HRI [55.2480439325792]
ロボットへの信頼は、人々の日常生活にロボットを取り入れるのに欠かせないと広く信じられている。
研究者たちは、人々がロボットをさまざまな方法で信頼する方法を模索してきた。
ほとんどのロボティクス学者は、信頼のレベルが不足すると解脱のリスクが生じることに同意する。
論文 参考訳(メタデータ) (2023-11-20T20:52:10Z) - On Responsible Machine Learning Datasets with Fairness, Privacy, and
Regulatory Norms [58.93352076927003]
AI技術の信頼性に関する深刻な懸念があった。
機械学習とディープラーニングのアルゴリズムは、開発に使用されるデータに大きく依存する。
本稿では,責任あるルーブリックを用いてデータセットを評価するフレームワークを提案する。
論文 参考訳(メタデータ) (2023-10-24T14:01:53Z) - Trust Calibration as a Function of the Evolution of Uncertainty in
Knowledge Generation: A Survey [1.462008690460147]
我々は、視覚分析システムにおけるユーザの信頼が、そのライフサイクルを通してどのように進化していくかを理解するためには、情報抽出を通じて、データソースからの不確実性の伝播を考慮する必要があると論じている。
我々は、視覚分析、人間の認知理論、不確実性から文献の幅広い断面をサンプリングし、有用な視点を合成しようと試みる。
論文 参考訳(メタデータ) (2022-09-09T16:46:37Z) - An Objective Metric for Explainable AI: How and Why to Estimate the
Degree of Explainability [3.04585143845864]
本稿では, 客観的手法を用いて, 正しい情報のeX説明可能性の度合いを測定するための, モデルに依存しない新しい指標を提案する。
私たちは、医療とファイナンスのための2つの現実的なAIベースのシステムについて、いくつかの実験とユーザースタディを設計しました。
論文 参考訳(メタデータ) (2021-09-11T17:44:13Z) - Automated Machine Learning, Bounded Rationality, and Rational
Metareasoning [62.997667081978825]
有界合理性の観点から、自動機械学習(AutoML)と関連する問題を考察する。
リソース境界の下でアクションを取るには、エージェントがこれらのリソースを最適な方法で利用する方法を反映する必要がある。
論文 参考訳(メタデータ) (2021-09-10T09:10:20Z) - LioNets: A Neural-Specific Local Interpretation Technique Exploiting
Penultimate Layer Information [6.570220157893279]
解釈可能な機械学習(IML)は研究の緊急のトピックである。
本稿では,テキストデータと時系列データに適用される局所的,神経特異的な解釈プロセスに焦点を当てる。
論文 参考訳(メタデータ) (2021-04-13T09:39:33Z) - Explainable Goal-Driven Agents and Robots -- A Comprehensive Review [13.94373363822037]
論文は、目標駆動型知的エージェントとロボットの説明可能なアプローチをレビューする。
エージェントの知覚機能や認知的推論を説明・伝達する技術に重点を置いている。
効果的な目標駆動型説明可能なエージェントとロボットの実現に向けたロードマップを提案する。
論文 参考訳(メタデータ) (2020-04-21T01:41:20Z) - Autonomous discovery in the chemical sciences part II: Outlook [2.566673015346446]
この2部構成のレビューは、自動化が化学科学における発見のさまざまな側面にどのように貢献したかを検証している。
科学プロセスにおいて、自動化と計算の役割が何であるかを明確にすることがますます重要である。
論文 参考訳(メタデータ) (2020-03-30T19:11:35Z) - Neuro-symbolic Architectures for Context Understanding [59.899606495602406]
本稿では,データ駆動型アプローチと知識駆動型アプローチの強みを組み合わせたフレームワークとして,ハイブリッドAI手法を提案する。
具体的には、知識ベースを用いて深層ニューラルネットワークの学習過程を導く方法として、ニューロシンボリズムの概念を継承する。
論文 参考訳(メタデータ) (2020-03-09T15:04:07Z) - A general framework for scientifically inspired explanations in AI [76.48625630211943]
我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。
このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
論文 参考訳(メタデータ) (2020-03-02T10:32:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。