論文の概要: Predictable Artificial Intelligence

• arxiv url: http://arxiv.org/abs/2310.06167v1
• Date: Mon, 9 Oct 2023 21:36:21 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-11 21:26:23.611717
• Title: Predictable Artificial Intelligence
• Title（参考訳）: 予測可能な人工知能
• Authors: Lexin Zhou, Pablo A. Moreno-Casares, Fernando Mart\'inez-Plumed, John Burden, Ryan Burnell, Lucy Cheke, C\`esar Ferri, Alexandru Marcoci, Behzad Mehrbakhsh, Yael Moros-Daval, Se\'an \'O h\'Eigeartaigh, Danaja Rutar, Wout Schellaert, Konstantinos Voudouris, Jos\'e Hern\'andez-Orallo
• Abstract要約: 予測可能性を達成することは、AIエコシステムの信頼、責任、コントロール、アライメント、安全性を促進するために不可欠である、と私たちは主張する。 本稿では,予測可能なAIに関する疑問,仮説,課題を解明することを目的とする。
• 参考スコア（独自算出の注目度）: 67.79118050651908
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce the fundamental ideas and challenges of Predictable AI, a nascent research area that explores the ways in which we can anticipate key indicators of present and future AI ecosystems. We argue that achieving predictability is crucial for fostering trust, liability, control, alignment and safety of AI ecosystems, and thus should be prioritised over performance. While distinctive from other areas of technical and non-technical AI research, the questions, hypotheses and challenges relevant to Predictable AI were yet to be clearly described. This paper aims to elucidate them, calls for identifying paths towards AI predictability and outlines the potential impact of this emergent field.
• Abstract（参考訳）: 私たちは、現在および将来のAIエコシステムの重要な指標を予測できる方法を探求する、先進的な研究領域である予測可能なAIの基本的なアイデアと課題を紹介します。 予測可能性を達成することは、AIエコシステムの信頼、責任、コントロール、アライメント、安全性を促進するために不可欠である、と我々は主張する。 技術的および非技術的AI研究の他の分野と異なるが、予測可能なAIに関連する疑問、仮説、課題はまだ明確に説明されていない。 本稿では,これらを解明し,ai予測可能性への道のりを探り,この創発的分野の潜在的影響を概説する。

関連論文リスト

• Computational Safety for Generative AI: A Signal Processing Perspective [65.268245109828]
  計算安全性は、GenAIにおける安全性の定量的評価、定式化、研究を可能にする数学的枠組みである。 ジェイルブレイクによる悪意のあるプロンプトを検出するために, 感度解析と損失景観解析がいかに有効かを示す。 我々は、AIの安全性における信号処理の鍵となる研究課題、機会、そして重要な役割について論じる。
  論文  参考訳（メタデータ） (2025-02-18T02:26:50Z)
• From Aleatoric to Epistemic: Exploring Uncertainty Quantification Techniques in Artificial Intelligence [19.369216778200034]
  不確実性定量化(英: Uncertainty Quantification、UQ)は、人工知能(AI)システムにおいて重要な側面である。 本稿では,AIにおける不確実性定量化技術の進化について概説する。 様々な分野におけるUQの多様な応用について検討し、意思決定、予測精度、システムの堅牢性への影響を強調した。
  論文  参考訳（メタデータ） (2025-01-05T23:14:47Z)
• The Ethics of Advanced AI Assistants [53.89899371095332]
  本稿では,高度AIアシスタントがもたらす倫理的・社会的リスクについて論じる。 我々は、高度なAIアシスタントを自然言語インタフェースを持つ人工知能エージェントとして定義し、ユーザに代わってアクションのシーケンスを計画し実行することを目的としている。 先進的なアシスタントの社会規模での展開を考察し、協力、株式とアクセス、誤情報、経済的影響、環境、先進的なAIアシスタントの評価方法に焦点をあてる。
  論文  参考訳（メタデータ） (2024-04-24T23:18:46Z)
• A New Perspective on Evaluation Methods for Explainable Artificial Intelligence (XAI) [0.0]
  我々は、リソースの可用性、ドメインの特徴、リスクの考慮を組み込んだ、曖昧な方法でアプローチするのが最善である、と論じる。 この研究は、AIのための要求工学の分野を前進させることを目的としている。
  論文  参考訳（メタデータ） (2023-07-26T15:15:44Z)
• What Should I Know? Using Meta-gradient Descent for Predictive Feature Discovery in a Single Stream of Experience [63.75363908696257]
  計算強化学習は、未来の感覚の予測を通じて、エージェントの世界の知覚を構築しようとする。 この一連の作業において、オープンな課題は、エージェントがどの予測が意思決定を最も支援できるかを、無限に多くの予測から決定することである。 本稿では,エージェントが何を予測するかを学習するメタ段階的な降下過程,(2)選択した予測の見積もり,3)将来の報酬を最大化するポリシーを生成する方法を紹介する。
  論文  参考訳（メタデータ） (2022-06-13T21:31:06Z)
• Counterfactual Explanations as Interventions in Latent Space [62.997667081978825]
  反現実的な説明は、望ましい結果を達成するために変更が必要な機能のセットをエンドユーザに提供することを目的としています。 現在のアプローチでは、提案された説明を達成するために必要な行動の実現可能性を考慮することはめったにない。 本稿では,非現実的説明を生成する手法として,潜時空間における干渉としての対実的説明(CEILS)を提案する。
  論文  参考訳（メタデータ） (2021-06-14T20:48:48Z)
• An interdisciplinary conceptual study of Artificial Intelligence (AI) for helping benefit-risk assessment practices: Towards a comprehensive qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
  本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。 目的は、AIシステムを評価するための共有概念や相違点を特定することである。
  論文  参考訳（メタデータ） (2021-05-07T12:01:31Z)
• Forecasting AI Progress: A Research Agenda [0.41998444721319206]
  本稿では,AIの進歩を予測するための研究課題の開発について述べる。 Delphiのテクニックを使って、どの質問や方法に優先順位をつけるか、専門家の意見を導き、集約する。 専門家は、AIの進捗を予測するための様々な方法を検討するべきだと述べた。
  論文  参考訳（メタデータ） (2020-08-04T21:46:46Z)
• AI Research Considerations for Human Existential Safety (ARCHES) [6.40842967242078]
  負の言葉で言えば、我々は人類が次の世紀のAI開発から直面する現実的なリスクを問う。 Emphprepotenceという,仮説AI技術の鍵となる性質 その後、既存の安全に対する潜在的な利益のために、現代の研究方向の集合が検討される。
  論文  参考訳（メタデータ） (2020-05-30T02:05:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。