論文の概要: Trustworthy AI

• arxiv url: http://arxiv.org/abs/2011.02272v1
• Date: Mon, 2 Nov 2020 20:04:18 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-30 11:38:39.967952
• Title: Trustworthy AI
• Title（参考訳）: 信頼できるAI
• Authors: Richa Singh, Mayank Vatsa, Nalini Ratha
• Abstract要約: 入力データの小さな敵対的変化への脆さ、決定の説明能力、トレーニングデータのバイアスに対処する能力は、最も顕著な制限である。 我々は,AIシステムに対するユーザおよび公的な信頼を高める上での6つの重要な問題に対処するために,信頼に値するAIに関するチュートリアルを提案する。
• 参考スコア（独自算出の注目度）: 75.99046162669997
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Modern AI systems are reaping the advantage of novel learning methods. With their increasing usage, we are realizing the limitations and shortfalls of these systems. Brittleness to minor adversarial changes in the input data, ability to explain the decisions, address the bias in their training data, high opacity in terms of revealing the lineage of the system, how they were trained and tested, and under which parameters and conditions they can reliably guarantee a certain level of performance, are some of the most prominent limitations. Ensuring the privacy and security of the data, assigning appropriate credits to data sources, and delivering decent outputs are also required features of an AI system. We propose the tutorial on Trustworthy AI to address six critical issues in enhancing user and public trust in AI systems, namely: (i) bias and fairness, (ii) explainability, (iii) robust mitigation of adversarial attacks, (iv) improved privacy and security in model building, (v) being decent, and (vi) model attribution, including the right level of credit assignment to the data sources, model architectures, and transparency in lineage.
• Abstract（参考訳）: 現代のAIシステムは、新しい学習方法の利点を享受している。 利用が増えるにつれて、これらのシステムの限界と欠点を認識しています。 入力データの小さな敵意の変化に対する不安定性、決定を説明する能力、トレーニングデータのバイアスに対処する能力、システムの系統を明らかにすることによる不透明性、トレーニングとテストの方法、パラメータと条件によって特定のレベルのパフォーマンスを確実に保証できることなどが、最も顕著な制限である。 データのプライバシとセキュリティの確保、データソースへの適切なクレジットの割り当て、適切なアウトプットの提供も、AIシステムの必須機能である。 我々は,AIシステムに対するユーザおよび公的な信頼を高める上で,6つの重要な問題に対処するために,信頼に値するAIに関するチュートリアルを提案する。 (i)偏見と公平性 (ii)説明可能性 (iii)敵対的攻撃のロバストな緩和 (iv)モデル構築におけるプライバシーとセキュリティの改善。 (v)まともで、かつ (vi)データソースへの適切なクレジット割り当てレベル、モデルアーキテクチャ、系統の透明性を含むモデル属性。

関連論文リスト

• Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems [88.80306881112313]
  我々は、AI安全性に対する一連のアプローチを紹介し、定義する。 これらのアプローチの中核的な特徴は、高保証の定量的安全性保証を備えたAIシステムを作ることである。 これら3つのコアコンポーネントをそれぞれ作成するためのアプローチを概説し、主な技術的課題を説明し、それらに対する潜在的なソリューションをいくつか提案します。
  論文  参考訳（メタデータ） (2024-05-10T17:38:32Z)
• Trustworthy Distributed AI Systems: Robustness, Privacy, and Governance [14.941040909919327]
  分散AIシステムは、経済的および社会的影響を増大させることで、ビッグデータコンピューティングとデータ処理能力に革命をもたらしている。 近年の研究では、AIシステムのセキュリティ、プライバシ、公平性の問題に起因する新たな攻撃面とリスクが特定されている。 我々は、信頼できる分散AIのための代表的技術、アルゴリズム、理論的基礎についてレビューする。
  論文  参考訳（メタデータ） (2024-02-02T01:58:58Z)
• Building Safe and Reliable AI systems for Safety Critical Tasks with Vision-Language Processing [1.2183405753834557]
  現在のAIアルゴリズムでは、障害検出の一般的な原因を特定できない。 予測の質を定量化するためには、追加のテクニックが必要である。 この論文は、分類、画像キャプション、視覚質問応答といったタスクのための視覚言語データ処理に焦点を当てる。
  論文  参考訳（メタデータ） (2023-08-06T18:05:59Z)
• VerifAI: Verified Generative AI [22.14231506649365]
  生成AIは大きな進歩を遂げているが、その正確性と信頼性に関する懸念は拡大を続けている。 本稿では,データ管理の観点から生成AIの出力を検証することが,生成AIの新たな課題であることを示す。 私たちのビジョンは、検証可能な生成AIの開発を促進し、より信頼性が高く責任あるAIの利用に貢献することです。
  論文  参考訳（メタデータ） (2023-07-06T06:11:51Z)
• Auditing and Generating Synthetic Data with Controllable Trust Trade-offs [54.262044436203965]
  合成データセットとAIモデルを包括的に評価する総合監査フレームワークを導入する。 バイアスや差別の防止、ソースデータへの忠実性の確保、実用性、堅牢性、プライバシ保護などに焦点を当てている。 多様なユースケースにまたがる様々な生成モデルを監査することにより,フレームワークの有効性を実証する。
  論文  参考訳（メタデータ） (2023-04-21T09:03:18Z)
• Human-Centric Multimodal Machine Learning: Recent Advances and Testbed on AI-based Recruitment [66.91538273487379]
  人間中心のアプローチでAIアプリケーションを開発する必要性には、ある程度のコンセンサスがある。 i)ユーティリティと社会的善、(ii)プライバシとデータ所有、(iii)透明性と説明責任、(iv)AIによる意思決定プロセスの公正性。 異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。
  論文  参考訳（メタデータ） (2023-02-13T16:44:44Z)
• Towards a Responsible AI Development Lifecycle: Lessons From Information Security [0.0]
  本稿では,人工知能システムを開発するためのフレームワークを提案する。 特に,脅威モデリング,設計レビュー,浸透試験,インシデント応答の概念を活用することを提案する。
  論文  参考訳（メタデータ） (2022-03-06T13:03:58Z)
• Statistical Perspectives on Reliability of Artificial Intelligence Systems [6.284088451820049]
  AIシステムの信頼性に関する統計的視点を提供する。 本稿では,AI信頼性研究のためのSMART統計フレームワークを提案する。 我々は、AI信頼性のモデリングと分析における最近の発展について論じる。
  論文  参考訳（メタデータ） (2021-11-09T20:00:14Z)
• Privacy and Robustness in Federated Learning: Attacks and Defenses [74.62641494122988]
  このトピックに関する最初の包括的な調査を実施します。 FLの概念の簡潔な紹介と、1脅威モデル、2堅牢性に対する中毒攻撃と防御、3プライバシーに対する推論攻撃と防御、というユニークな分類学を通じて、私たちはこの重要なトピックのアクセス可能なレビューを提供します。
  論文  参考訳（メタデータ） (2020-12-07T12:11:45Z)
• Uncertainty as a Form of Transparency: Measuring, Communicating, and Using Uncertainty [66.17147341354577]
  我々は,モデル予測に関連する不確実性を推定し,伝達することにより,相補的な透明性の形式を考えることについて議論する。 モデルの不公平性を緩和し、意思決定を強化し、信頼できるシステムを構築するために不確実性がどのように使われるかを説明する。 この研究は、機械学習、可視化/HCI、デザイン、意思決定、公平性にまたがる文学から引き出された学際的レビューを構成する。
  論文  参考訳（メタデータ） (2020-11-15T17:26:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。