論文の概要: Developer Insights into Designing AI-Based Computer Perception Tools
- arxiv url: http://arxiv.org/abs/2508.21733v1
- Date: Fri, 29 Aug 2025 16:01:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-01 19:45:11.106427
- Title: Developer Insights into Designing AI-Based Computer Perception Tools
- Title（参考訳）: AIベースのコンピュータ知覚ツール設計における開発者の視点
- Authors: Maya Guhan, Meghan E. Hurley, Eric A. Storch, John Herrington, Casey Zampella, Julia Parish-Morris, Gabriel Lázaro-Muñoz, Kristin Kostick-Quenet,
- Abstract要約: 人工知能(AI)ベースのコンピュータ認識(CP)技術は、モバイルセンサーを使用して、臨床意思決定のための行動データや生理データを収集する。
本研究は,AIベースのCPツールの開発者に対する20回の詳細なインタビューから得られた知見を報告する。
- 参考スコア（独自算出の注目度）: 0.29792635122213634
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Artificial intelligence (AI)-based computer perception (CP) technologies use mobile sensors to collect behavioral and physiological data for clinical decision-making. These tools can reshape how clinical knowledge is generated and interpreted. However, effective integration of these tools into clinical workflows depends on how developers balance clinical utility with user acceptability and trustworthiness. Our study presents findings from 20 in-depth interviews with developers of AI-based CP tools. Interviews were transcribed and inductive, thematic analysis was performed to identify 4 key design priorities: 1) to account for context and ensure explainability for both patients and clinicians; 2) align tools with existing clinical workflows; 3) appropriately customize to relevant stakeholders for usability and acceptability; and 4) push the boundaries of innovation while aligning with established paradigms. Our findings highlight that developers view themselves as not merely technical architects but also ethical stewards, designing tools that are both acceptable by users and epistemically responsible (prioritizing objectivity and pushing clinical knowledge forward). We offer the following suggestions to help achieve this balance: documenting how design choices around customization are made, defining limits for customization choices, transparently conveying information about outputs, and investing in user training. Achieving these goals will require interdisciplinary collaboration between developers, clinicians, and ethicists.
- Abstract（参考訳）: 人工知能(AI)ベースのコンピュータ認識(CP)技術は、モバイルセンサーを使用して、臨床意思決定のための行動データや生理データを収集する。
これらのツールは、臨床知識の生成と解釈の仕方を変えることができる。
しかし、これらのツールを臨床ワークフローに効果的に統合するには、開発者が臨床ユーティリティとユーザ受け入れ性と信頼性のバランスをとる方法に依存する。
本研究は,AIベースのCPツールの開発者に対する20回の詳細なインタビューから得られた知見を報告する。
インタビューは書き起こされ、インダクティブに行われ、セマンティック分析によって4つの重要な設計優先順位が特定された。
1 患者及び臨床医双方の文脈を考慮し、説明責任を確保すること。
2) ツールを既存の臨床ワークフローと整合させる。
3 使用性及び受理性について関係利害関係者に適切にカスタマイズすること。
4)確立したパラダイムと整合しながら、イノベーションの境界を押し進める。
私たちの発見は、開発者が自分自身を単に技術的なアーキテクトだけでなく倫理的なスチュワードと見なし、ユーザと認識的に責任を負う(客観性を優先し、臨床知識を前進させる)ツールを設計していることを強調します。
カスタマイズに関する設計選択の実施方法の文書化、カスタマイズ選択の限界の定義、アウトプットに関する情報の透過的な伝達、ユーザトレーニングへの投資などです。
これらの目標を達成するには、開発者、臨床医、倫理学者の学際的なコラボレーションが必要です。
関連論文リスト
- A Comprehensive Review of Datasets for Clinical Mental Health AI Systems [55.67299586253951]
本稿では,AIを活用した臨床アシスタントの訓練・開発に関連する臨床精神保健データセットの総合的調査を行う。
本調査では, 縦断データの欠如, 文化・言語表現の制限, 一貫性のない収集・注釈基準, 合成データのモダリティの欠如など, 重要なギャップを明らかにした。
論文 参考訳（メタデータ） (2025-08-13T13:42:35Z) - Designing AI Tools for Clinical Care Teams to Support Serious Illness Conversations with Older Adults in the Emergency Department [53.52248484568777]
この研究は、EDベースの重篤な病的会話の実証的な理解に貢献し、ハイテイクな臨床環境におけるAIの設計上の考察を提供する。
専門医2名と専門医9名を対象にインタビューを行った。
我々は4段階の重篤な会話ワークフロー(識別、準備、伝導、文書化)を特徴とし、各段階における重要なニーズと課題を特定した。
既存の臨床実践に適合するSICをサポートするAIツールの設計ガイドラインを提示する。
論文 参考訳（メタデータ） (2025-05-30T21:15:57Z) - Clinicians don't know what explanations they need: A case study on eliciting AI software explainability requirements [0.0]
本稿では、AIコンポーネントを用いたソフトウェアアプリケーション作成において、ソフトウェア開発者が説明可能性要件をどのように適用するかを分析する。
ノルウェーの病院で小さなソフトウェア開発チームに従って、我々はAIアプリケーションを同時に開発するプロセスを観察します。
臨床医はシステムと対話する前に説明可能性の必要性を明確にするために苦労したため、反復的アプローチが有効であることが判明した。
論文 参考訳（メタデータ） (2025-01-16T15:17:33Z) - Towards Next-Generation Medical Agent: How o1 is Reshaping Decision-Making in Medical Scenarios [46.729092855387165]
本稿では,医療用AIエージェントのバックボーンLSMの選択について検討する。
我々の研究結果は、o1の診断精度と一貫性を高める能力を示し、よりスマートでより応答性の高いAIツールへの道を開いた。
論文 参考訳（メタデータ） (2024-11-16T18:19:53Z) - Contrasting Attitudes Towards Current and Future AI Applications for Computerised Interpretation of ECG: A Clinical Stakeholder Interview Study [2.570550251482137]
英国で臨床医に一連のインタビューを行った。
我々の研究は、AI、特に未来の「人間のような」コンピューティングの可能性を探る。
論文 参考訳（メタデータ） (2024-10-22T10:31:23Z) - "It depends": Configuring AI to Improve Clinical Usefulness Across Contexts [0.0]
本稿では、異なる文脈における臨床的有用性のためにAIを設計する方法を考察する。
デンマークとケニアの7つの臨床施設の放射線技師13名を対象に,19回のデザインセッションを行った。
我々は,意図した臨床状況に合わせて設定しなければならない4つの技術的側面を概念化した。
論文 参考訳（メタデータ） (2024-05-27T11:49:05Z) - Challenges for Responsible AI Design and Workflow Integration in Healthcare: A Case Study of Automatic Feeding Tube Qualification in Radiology [35.284458448940796]
ナトリウムガスチューブ(NGT)は、鼻から胃に挿入されたチューブを供給し、栄養や薬品を供給している。
近年のAI開発は、チェストX線画像からNGT配置を堅牢に検出する可能性を示している。
本稿では,この問題に対する人間中心のアプローチを提案するとともに,コンテキスト調査および15の臨床ステークホルダとの詳細なインタビューの結果から得られた知見について述べる。
論文 参考訳（メタデータ） (2024-05-08T14:16:22Z) - Clairvoyance: A Pipeline Toolkit for Medical Time Series [95.22483029602921]
時系列学習は、データ駆動の*クリニカルな意思決定支援のパンとバターである*
Clairvoyanceは、ソフトウェアツールキットとして機能する、統合されたエンドツーエンドのオートMLフレンドリなパイプラインを提案する。
Clairvoyanceは、臨床時系列MLのための包括的で自動化可能なパイプラインの生存可能性を示す最初のものである。
論文 参考訳（メタデータ） (2023-10-28T12:08:03Z) - VBridge: Connecting the Dots Between Features, Explanations, and Data
for Healthcare Models [85.4333256782337]
VBridgeは、臨床医の意思決定ワークフローに機械学習の説明をシームレスに組み込むビジュアル分析ツールである。
我々は,臨床医がMLの特徴に慣れていないこと,文脈情報の欠如,コホートレベルの証拠の必要性など,3つの重要な課題を特定した。
症例スタディと専門医4名のインタビューを通じて, VBridgeの有効性を実証した。
論文 参考訳（メタデータ） (2021-08-04T17:34:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。