論文の概要: Explainability for Embedding AI: Aspirations and Actuality

• arxiv url: http://arxiv.org/abs/2504.14631v1
• Date: Sun, 20 Apr 2025 14:20:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-29 23:16:04.483133
• Title: Explainability for Embedding AI: Aspirations and Actuality
• Title（参考訳）: AIを組み込むための説明可能性 - 願望と現実性
• Authors: Thomas Weber,
• Abstract要約: 説明可能なAI(XAI)は、開発者が構築するシステムをよりよく理解することを可能にする。 既存のXAIシステムは、まだこの願望には達していない。 私たちは、この複雑さに対処するための適切なサポートメカニズムを開発者に提供する必要があると考えています。
• 参考スコア（独自算出の注目度）: 1.8130068086063336
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: With artificial intelligence (AI) embedded in many everyday software systems, effectively and reliably developing and maintaining AI systems becomes an essential skill for software developers. However, the complexity inherent to AI poses new challenges. Explainable AI (XAI) may allow developers to understand better the systems they build, which, in turn, can help with tasks like debugging. In this paper, we report insights from a series of surveys with software developers that highlight that there is indeed an increased need for explanatory tools to support developers in creating AI systems. However, the feedback also indicates that existing XAI systems still fall short of this aspiration. Thus, we see an unmet need to provide developers with adequate support mechanisms to cope with this complexity so they can embed AI into high-quality software in the future.
• Abstract（参考訳）: 多くの日常的なソフトウェアシステムに人工知能(AI)を組み込むことで、AIシステムを効果的かつ確実に開発し、維持することが、ソフトウェア開発者にとって必須のスキルとなる。 しかし、AI固有の複雑さは、新しい課題を引き起こします。 説明可能なAI(XAI)によって、開発者は構築するシステムをよりよく理解できるようになる。 本稿では,開発者がAIシステムを開発する上で,説明ツールの必要性が高まっていることを強調した,ソフトウェア開発者による一連の調査から得られた知見を報告する。 しかし、フィードバックは既存のXAIシステムがまだこの願望に届いていないことを示唆している。 したがって、この複雑さに対処するための適切なサポートメカニズムを開発者に提供し、将来的にはAIを高品質なソフトウェアに組み込む必要があると考えています。

関連論文リスト

• Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
  AIシステムは知恵を欠いている。 AI研究はタスクレベルの戦略に焦点を当てているが、メタ認知はAIシステムでは未発達である。 メタ認知機能をAIシステムに統合することは、その堅牢性、説明可能性、協力性、安全性を高めるために不可欠である。
  論文  参考訳（メタデータ） (2024-11-04T18:10:10Z)
• Cognition is All You Need -- The Next Layer of AI Above Large Language Models [0.0]
  我々は,大規模言語モデル以外のニューロシンボリック認知のためのフレームワークであるCognitive AIを紹介する。 我々は、認知AIがAGIのようなAI形態の進化に必須の先駆者であり、AGIは独自の確率論的アプローチでは達成できないと主張する。 我々は、大規模言語モデル、AIの採用サイクル、および商用の認知AI開発に関する議論で締めくくります。
  論文  参考訳（メタデータ） (2024-03-04T16:11:57Z)
• Exploring the intersection of Generative AI and Software Development [0.0]
  生成AIとソフトウェアエンジニアリングの相乗効果は、変革的なフロンティアとして現れます。 このホワイトペーパーは、探索されていない領域に展開し、生成的AI技術がソフトウェア開発にどのように革命をもたらすかを解明する。 これはステークホルダーのためのガイドとして機能し、ソフトウェア工学における生成AIの適用に関する議論と実験を促している。
  論文  参考訳（メタデータ） (2023-12-21T19:23:23Z)
• End-User Development for Artificial Intelligence: A Systematic Literature Review [2.347942013388615]
  エンドユーザ開発(EUD)は、AIベースのシステムを自分たちのニーズに合わせて作成、カスタマイズ、あるいは適用することができる。 本稿では,AIシステムにおけるEUDの現在の状況に光を当てることを目的とした文献レビューを紹介する。
  論文  参考訳（メタデータ） (2023-04-14T09:57:36Z)
• AI Maintenance: A Robustness Perspective [91.28724422822003]
  我々は、AIライフサイクルにおけるロバストネスの課題を強調し、自動車のメンテナンスに類似させることで、AIのメンテナンスを動機付ける。 本稿では,ロバストネスリスクの検出と軽減を目的としたAIモデル検査フレームワークを提案する。 我々のAIメンテナンスの提案は、AIライフサイクル全体を通して堅牢性評価、状態追跡、リスクスキャン、モデル硬化、規制を促進する。
  論文  参考訳（メタデータ） (2023-01-08T15:02:38Z)
• Seamful XAI: Operationalizing Seamful Design in Explainable AI [59.89011292395202]
  AIシステムのミスは必然的であり、技術的制限と社会技術的ギャップの両方から生じる。 本稿では, 社会工学的・インフラ的ミスマッチを明らかにすることにより, シームレスな設計がAIの説明可能性を高めることを提案する。 43人のAI実践者と実際のエンドユーザでこのプロセスを探求します。
  論文  参考訳（メタデータ） (2022-11-12T21:54:05Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• Structured access to AI capabilities: an emerging paradigm for safe AI deployment [0.0]
  AIシステムをオープンに普及させる代わりに、開発者はAIシステムとの制御された腕の長さのインタラクションを促進する。 Aimは、危険なAI能力が広くアクセスされることを防ぐと同時に、安全に使用できるAI機能へのアクセスを保護することを目的としている。
  論文  参考訳（メタデータ） (2022-01-13T19:30:16Z)
• A User-Centred Framework for Explainable Artificial Intelligence in Human-Robot Interaction [70.11080854486953]
  本稿では,XAIのソーシャル・インタラクティブな側面に着目したユーザ中心型フレームワークを提案する。 このフレームワークは、エキスパートでないユーザのために考えられた対話型XAIソリューションのための構造を提供することを目的としている。
  論文  参考訳（メタデータ） (2021-09-27T09:56:23Z)
• Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
  近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。 倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。 このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
  論文  参考訳（メタデータ） (2021-06-25T22:31:55Z)
• Time for AI (Ethics) Maturity Model Is Now [15.870654219935972]
  この記事では、AIソフトウェアはまだソフトウェアであり、ソフトウェア開発の観点からアプローチする必要がある、と論じる。 我々は、AI倫理に重点を置くべきか、それともより広く、AIシステムの品質に重点を置くべきかを議論したい。
  論文  参考訳（メタデータ） (2021-01-29T17:37:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。