論文の概要: An Explanatory Model Steering System for Collaboration between Domain Experts and AI

• arxiv url: http://arxiv.org/abs/2405.13038v1
• Date: Fri, 17 May 2024 07:27:48 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-25 04:41:59.091015
• Title: An Explanatory Model Steering System for Collaboration between Domain Experts and AI
• Title（参考訳）: ドメインエキスパートとAIの協調のための説明モデルステアリングシステム
• Authors: Aditya Bhattacharya, Simone Stumpf, Katrien Verbert,
• Abstract要約: 本稿では、ドメインエキスパートがドメイン知識を用いて予測モデルを操れるような説明モデルステアリングシステムを提案する。 このシステムには、さまざまなタイプのデータ中心とモデル中心の説明を組み合わせた説明ダッシュボードが含まれている。 我々の研究は、モデルステアリングにおけるドメインエキスパートの関与の重要性を強調し、最終的には人間とAIのコラボレーションの改善につながった。
• 参考スコア（独自算出の注目度）: 4.398998634035531
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: With the increasing adoption of Artificial Intelligence (AI) systems in high-stake domains, such as healthcare, effective collaboration between domain experts and AI is imperative. To facilitate effective collaboration between domain experts and AI systems, we introduce an Explanatory Model Steering system that allows domain experts to steer prediction models using their domain knowledge. The system includes an explanation dashboard that combines different types of data-centric and model-centric explanations and allows prediction models to be steered through manual and automated data configuration approaches. It allows domain experts to apply their prior knowledge for configuring the underlying training data and refining prediction models. Additionally, our model steering system has been evaluated for a healthcare-focused scenario with 174 healthcare experts through three extensive user studies. Our findings highlight the importance of involving domain experts during model steering, ultimately leading to improved human-AI collaboration.
• Abstract（参考訳）: 医療などの高リスク領域における人工知能(AI)システムの採用の増加に伴い、ドメインの専門家とAIの効果的なコラボレーションが不可欠である。 ドメインエキスパートとAIシステムとの効果的な協調を促進するために,ドメインエキスパートがドメイン知識を用いて予測モデルを操れるような説明モデルステアリングシステムを導入する。 このシステムには、さまざまなタイプのデータ中心とモデル中心の説明を組み合わせる説明ダッシュボードが含まれており、手動および自動データ構成アプローチを通じて予測モデルを操縦することができる。 ドメインの専門家は、基礎となるトレーニングデータの設定と予測モデルを精査するために、事前の知識を適用できる。 さらに、我々のモデルステアリングシステムは、広範囲な3つのユーザー研究を通じて、174人の医療専門家によるヘルスケアに焦点を当てたシナリオで評価されてきた。 我々の研究は、モデルステアリングにおけるドメインエキスパートの関与の重要性を強調し、最終的には人間とAIのコラボレーションの改善につながった。

関連論文リスト

• Leveraging Multi-AI Agents for Cross-Domain Knowledge Discovery [0.0]
  本研究では,マルチAIエージェントの展開によるドメイン間知識発見への新たなアプローチを提案する。 本研究は,知識ギャップの特定とブリッジングにおいて,ドメイン固有マルチAIエージェントシステムの優れた能力を示すものである。
  論文  参考訳（メタデータ） (2024-04-12T14:50:41Z)
• Enhancing Breast Cancer Diagnosis in Mammography: Evaluation and Integration of Convolutional Neural Networks and Explainable AI [0.0]
  本研究では,畳み込みニューラルネットワーク(CNN)と説明可能な人工知能(XAI)を組み合わせて乳がんの診断を高度化するための統合フレームワークを提案する。 この方法論は、データセットの制限に対処するために、精巧なデータ前処理パイプラインと高度なデータ拡張技術を含んでいる。 本研究の焦点は,モデル予測の解釈におけるXAIの有効性を評価することである。
  論文  参考訳（メタデータ） (2024-04-05T05:00:21Z)
• Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
  エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。 本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
  論文  参考訳（メタデータ） (2024-02-28T16:09:56Z)
• Testing autonomous vehicles and AI: perspectives and challenges from cybersecurity, transparency, robustness and fairness [53.91018508439669]
  この研究は、人工知能を自律走行車(AV)に統合する複雑さを探求する AIコンポーネントがもたらした課題と、テスト手順への影響を調べます。 本稿は、重要な課題を特定し、AV技術におけるAIの研究・開発に向けた今後の方向性を提案する。
  論文  参考訳（メタデータ） (2024-02-21T08:29:42Z)
• Lessons Learned from EXMOS User Studies: A Technical Report Summarizing Key Takeaways from User Studies Conducted to Evaluate The EXMOS Platform [5.132827811038276]
  信頼,理解可能性,モデル改善の3つの重要な側面に異なる説明型の影響を明らかにすることを目的とした2つのユーザスタディ。 その結果,データ構成の複雑なプロセスにおいて,ユーザを効果的に導くには,グローバルなモデル中心の説明だけでは不十分であることが示唆された。 本稿では、説明によって駆動される対話型機械学習システムの開発に不可欠な意味について述べる。
  論文  参考訳（メタデータ） (2023-10-03T14:04:45Z)
• DASS Good: Explainable Data Mining of Spatial Cohort Data [3.1442270083085964]
  本稿では,人間と機械のハイブリッド開発と予測モデルの検証を支援するためのモデリングシステムDASSの共設計について述べる。 DASSには、人間のループ内の視覚的ステアリング、空間データ、説明可能なAIが組み込まれており、ドメイン知識を自動データマイニングで強化する。
  論文  参考訳（メタデータ） (2023-04-10T21:24:21Z)
• A general-purpose AI assistant embedded in an open-source radiology information system [0.0]
  我々は,このプラットフォームの新規なHuman-AIパートナーシップ機能について述べる。 我々は、RIS内でアクティブな学習戦略を開発し、人間の放射線学者がAIアノテーションを有効/無効にし、AIアノテーションを「修正」/「延長」することができるようにした。 これにより、放射線技師のユーザと、ユーザ固有のAIモデルとのパートナーシップを確立することができる。
  論文  参考訳（メタデータ） (2023-03-18T05:27:43Z)
• DIME: Fine-grained Interpretations of Multimodal Models via Disentangled Local Explanations [119.1953397679783]
  我々は,マルチモーダルモデルの解釈における最先端化に注力する。 提案手法であるDIMEは,マルチモーダルモデルの高精度かつきめ細かな解析を可能にする。
  論文  参考訳（メタデータ） (2022-03-03T20:52:47Z)
• Decision Rule Elicitation for Domain Adaptation [93.02675868486932]
  ヒトインザループ機械学習は、専門家からラベルを引き出すために人工知能(AI)で広く使用されています。 この作業では、専門家が意思決定を説明する決定ルールを作成できるようにします。 決定規則の適用はアルゴリズムのドメイン適応を改善し、専門家の知識をAIモデルに広めるのに役立つことを示す。
  論文  参考訳（メタデータ） (2021-02-23T08:07:22Z)
• Model-Based Deep Learning [155.063817656602]
  信号処理、通信、制御は伝統的に古典的な統計モデリング技術に依存している。 ディープニューラルネットワーク(DNN)は、データから操作を学ぶ汎用アーキテクチャを使用し、優れたパフォーマンスを示す。 私たちは、原理数学モデルとデータ駆動システムを組み合わせて両方のアプローチの利点を享受するハイブリッド技術に興味があります。
  論文  参考訳（メタデータ） (2020-12-15T16:29:49Z)
• A general framework for scientifically inspired explanations in AI [76.48625630211943]
  我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。 このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
  論文  参考訳（メタデータ） (2020-03-02T10:32:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。