論文の概要: The Imbalanced User-AI Relationships as an Ethical Failure of Front-End Design in Healthcare AI

• arxiv url: http://arxiv.org/abs/2604.22767v1
• Date: Tue, 24 Mar 2026 17:15:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-04 02:32:14.164119
• Title: The Imbalanced User-AI Relationships as an Ethical Failure of Front-End Design in Healthcare AI
• Title（参考訳）: 医療AIにおけるフロントエンド設計の倫理的失敗としてのユーザ・AI関係の不均衡
• Authors: Maureen Mghambi Mwadime,
• Abstract要約: データ推論によって、患者がどのようにAIシステムに高度に可視化されているかを示すが、どのように表現されているかを理解したり、質問したり、影響を与えることはない。 医療におけるよりバランスのとれた参加型ユーザ・AI関係のための介入を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Ethical discourse on AI in healthcare has focused predominantly on back-end concerns such as bias, fairness and explainability, while the front-end interface, where patients and clinicians actually encounter AI outputs, remains under explored. This paper identifies imbalanced user-AI relationships as a distinct class of front-end ethical failure: patients are rendered highly visible to AI systems through data inference, yet cannot understand, question or influence how they are represented. Through the concept of asymmetric legibility and a chat-based telemedicine case, we show how design choices e.g., default recommendations, restricted inputs and suppressed uncertainty, undermine agency, clinician judgment and human oversight even where systems are technically accurate. We propose reciprocity as a design orientation and offer interventions for more balanced, participatory user-AI relationships in healthcare.
• Abstract（参考訳）: 医療におけるAIに関する倫理的談話は、偏見、公平性、説明可能性といったバックエンドの懸念に主に焦点を合わせているが、患者や臨床医が実際にAI出力に遭遇するフロントエンドインターフェースはまだ検討中である。 本稿では、不均衡なユーザとAIの関係を、フロントエンドの倫理的障害の別のクラスとして特定する:患者はデータ推論によってAIシステムに高度に可視化されるが、どのように表現されているかを理解し、質問し、影響を及ぼすことはできない。 非対称な正当性の概念とチャットベースの遠隔医療のケースを通じて、設計選択、例えば、デフォルトの勧告、制限された入力、不確実性抑制、アンダーマインエージェンス、臨床の判断、人間の監視が、技術的に正確である場合でさえどのように行われるかを示す。 我々は、デザイン指向としての相互性を提案し、医療におけるよりバランスのとれた参加型ユーザ-AI関係への介入を提供する。

関連論文リスト

• When Life Gives You AI, Will You Turn It Into A Market for Lemons? Understanding How Information Asymmetries About AI System Capabilities Affect Market Outcomes and Adoption [45.10829096284761]
  複雑なAIシステムは、コストのかかるエラーを犯したり、隠れた欠陥を埋め込んだりしながら、非常に正確に見える。 本稿では,AIシステムのユーザ導入における情報非対称性と開示設計の役割について,最初の実験的証拠を提供する。
  論文  参考訳（メタデータ） (2026-01-29T12:49:28Z)
• Explainable AI as a Double-Edged Sword in Dermatology: The Impact on Clinicians versus The Public [46.86429592892395]
  説明可能なAI(XAI)は、AI意思決定の洞察を提供することによって、この問題に対処する。 フェアネスに基づく診断AIモデルと異なるXAI説明を組み合わせた2つの大規模実験の結果を報告する。
  論文  参考訳（メタデータ） (2025-12-14T00:06:06Z)
• A quality of mercy is not trained: the imagined vs. the practiced in healthcare process-specialized AI development [0.0]
  初期の表現的決定がAIがサポートできる範囲を狭めたことを示し、システム設計から重要な倫理的次元を早期に排除した。 我々の研究結果は、抽象化の道徳的な影響を表面化し、医療プロセスに特化した人工知能システムを設計するための、より確立されたアプローチを求めるものである。
  論文  参考訳（メタデータ） (2025-10-22T14:48:35Z)
• A Design Framework for operationalizing Trustworthy Artificial Intelligence in Healthcare: Requirements, Tradeoffs and Challenges for its Clinical Adoption [6.7236795813629]
  我々は、信頼できるAI原則を医療AIシステムに組み込む開発者を支援するための設計フレームワークを提案する。 私たちは、高頻度とアクティブなAIイノベーションの両方を特徴とする、心臓血管疾患に焦点を当てています。
  論文  参考訳（メタデータ） (2025-04-27T09:57:35Z)
• Ethical Challenges and Evolving Strategies in the Integration of Artificial Intelligence into Clinical Practice [1.0301404234578682]
  我々は、正義と公正、透明性、患者の同意と機密性、説明責任、患者中心で公平なケアの5つの重要な倫理的関心事に焦点を当てる。 この論文は、患者の信頼を維持する上でのバイアス、透明性の欠如、そして課題が、医療におけるAIアプリケーションの有効性と公正性を損なう可能性があるかを考察する。
  論文  参考訳（メタデータ） (2024-11-18T00:52:22Z)
• Which Client is Reliable?: A Reliable and Personalized Prompt-based Federated Learning for Medical Image Question Answering [51.26412822853409]
  本稿では,医学的視覚的質問応答(VQA)モデルのための,パーソナライズド・フェデレーションド・ラーニング(pFL)手法を提案する。 提案手法では,学習可能なプロンプトをTransformerアーキテクチャに導入し,膨大な計算コストを伴わずに,多様な医療データセット上で効率的にトレーニングする。
  論文  参考訳（メタデータ） (2024-10-23T00:31:17Z)
• The doctor will polygraph you now: ethical concerns with AI for fact-checking patients [0.23248585800296404]
  社会行動予測のための人工知能(AI)手法が提案されている。 これにより、患者のデータに対する敬意、プライバシ、コントロールに関する新たな倫理的懸念が生まれます。
  論文  参考訳（メタデータ） (2024-08-15T02:55:30Z)
• What Do End-Users Really Want? Investigation of Human-Centered XAI for Mobile Health Apps [69.53730499849023]
  説明可能なAI(XAI)を評価するために,ユーザ中心のペルソナ概念を提案する。 分析の結果,ユーザの人口統計や性格,説明のタイプ,影響説明の嗜好が示された。 私たちの洞察は、対話的で人間中心のXAIを実践的な応用に近づけます。
  論文  参考訳（メタデータ） (2022-10-07T12:51:27Z)
• Towards the Use of Saliency Maps for Explaining Low-Quality Electrocardiograms to End Users [51.644376281196394]
  診断に医用画像を使用する場合,画像が高品質であることが重要である。 遠隔医療において一般的な問題は、患者が診療所を退院した後にのみ、品質問題が警告されることである。 本稿では,低品質な医用画像をリアルタイムにフラグ付け,説明するためのAIシステムの開発について報告する。
  論文  参考訳（メタデータ） (2022-07-06T14:53:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。