論文の概要: "Where is this coming from?" Uncovering Trustworthiness Ideals in AI-powered Peripartum Information Seeking

• arxiv url: http://arxiv.org/abs/2606.10158v1
• Date: Mon, 08 Jun 2026 20:36:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-11 16:42:37.963745
• Title: "Where is this coming from?" Uncovering Trustworthiness Ideals in AI-powered Peripartum Information Seeking
• Title（参考訳）: 「この情報はどこから来たのか?」AIによる周辺情報探索における信頼性の理想を明らかにする
• Authors: Vaibhav Balloli, Julia Erickson, Xinyi Li, Erin MacMurray van Liemt, Alex Peahl, Elizabeth Bondi-Kelly,
• Abstract要約: 現在のAIとNLPは、獣医の健康情報へのアクセスを改善することを目的としている。 歴史的不平等によって形成された高い健康状況において、信頼性は検査可能であり、主張されない。 本稿では,不信を意識したデザインアーティファクトを提案し,透過的かつ多元的AIシステムに対する原則的ガバナンスメカニズムを促進する。
• 参考スコア（独自算出の注目度）: 10.118301488103064
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI-powered tools increasingly promise to fill information gaps in health, especially in domains like maternal and reproductive health that demand timely, accurate, and actionable information. This is extremely important, as the United States leads peer nations in preventable deaths, with stark racial disparities. However, current AI and NLP-powered systems aim to improve access to vetted maternal health information by routing user queries to a factual response while under-specifying the socio-technical governance structures that shape trust, use, and harm in practice. We report findings from four synchronous focus groups ($n=24$) with three stakeholder groups central to peripartum information support: birthing people, clinicians, and health workers (e.g., doulas, social workers, community health workers) exploring topics around information seeking, experience with current clinical infrastructure, misinformation, and an AI-enabled factual answering tool design probe. Our inductive analysis surfaces a central finding: in high-stakes health contexts shaped by historical inequities, trustworthiness must be inspectable and not asserted. While stakeholders diverge on what makes information credible, they converge on the need for transparency, recourse, and ecosystem complementarity. Based on the discussions, we identify four themes and governance requirements: (1) support for social and identity-based sensemaking, (2) pluralistic verification practices, (3) inspectable governance with recourse mechanisms, and (4) ecosystem-aware integration that avoids shifting burden. Building on these findings, we propose design artifacts that are mistrust-aware and promote principled governance mechanisms for transparent, pluralistic AI systems. Finally, we discuss the implications of our findings for expanding human-AI evaluations and improving the transparency of deployed AI systems.
• Abstract（参考訳）: AIを利用したツールは、特にタイムリーで正確で行動可能な情報を必要とする母性や生殖の健康といった領域において、健康における情報ギャップを埋めることをますます約束している。 これは極めて重要なことであり、米国は異民族間の格差を極めることなく、予防可能な死を各国に導いている。 しかし、現在のAIとNLPを利用したシステムは、信頼、利用、害を形作る社会技術的ガバナンス構造を過小評価しながら、ユーザクエリを現実の応答にルーティングすることで、獣医の健康情報へのアクセスを改善することを目的としている。 本研究は,情報探索,現在の臨床インフラの経験,誤情報,AI対応の事実回答ツール設計調査等を対象とする,地域情報支援を中心とした3つの利害関係者グループ(人,臨床医,保健従事者など)による4つの同期焦点グループ(n=24$)の調査結果を報告する。 我々の帰納的分析は、歴史的不平等によって形作られた高い健康状況において、信頼性は検査可能であり、主張されてはならない、という中心的な発見を表面化する。 ステークホルダーは情報を信頼できるものにする方法を多様化する一方で、透明性、レコメンデーション、エコシステムの相補性の必要性に収束する。 議論に基づき,(1)社会的・アイデンティティに基づくセンスメイキングの支援,(2)多元的検証,(3)レコメンデーション機構による検査可能なガバナンス,(4)負担のシフトを回避するエコシステム意識の統合,の4つのテーマとガバナンス要件を特定した。 これらの知見に基づいて、不信を意識した設計アーティファクトを提案し、透明で多元的AIシステムのための原則化されたガバナンスメカニズムを促進する。 最後に、人間のAI評価を拡大し、デプロイされたAIシステムの透明性を向上させるために、我々の研究結果がもたらす意味について論じる。

関連論文リスト

• Opportunities and Risks of Generative AI through the Health Information Journey [3.282845873351502]
  AIシステムはクレームを生成し、情報をキュレートし、症状を解釈し、証拠を合成し、決定を導く。 潜在的な利点は、アクセスの改善、理解、ケアの継続である。 同時に、AIは信頼性の高いガイダンスと区別が難しい不正確な、または操作的なコンテンツを導入することができる。
  論文  参考訳（メタデータ） (2026-05-21T20:49:21Z)
• AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
  このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。 我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。 我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
  論文  参考訳（メタデータ） (2025-11-27T16:56:04Z)
• Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
  本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。 我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。 私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
  論文  参考訳（メタデータ） (2025-08-12T09:42:56Z)
• Ethical Challenges and Evolving Strategies in the Integration of Artificial Intelligence into Clinical Practice [1.0301404234578682]
  我々は、正義と公正、透明性、患者の同意と機密性、説明責任、患者中心で公平なケアの5つの重要な倫理的関心事に焦点を当てる。 この論文は、患者の信頼を維持する上でのバイアス、透明性の欠如、そして課題が、医療におけるAIアプリケーションの有効性と公正性を損なう可能性があるかを考察する。
  論文  参考訳（メタデータ） (2024-11-18T00:52:22Z)
• Designing Interpretable ML System to Enhance Trust in Healthcare: A Systematic Review to Proposed Responsible Clinician-AI-Collaboration Framework [13.215318138576713]
  論文は、解釈可能なAIプロセス、方法、応用、および医療における実装の課題についてレビューする。 医療における堅牢な解釈可能性アプローチの重要な役割を包括的に理解することを目的としている。
  論文  参考訳（メタデータ） (2023-11-18T12:29:18Z)
• Requirements for Explainability and Acceptance of Artificial Intelligence in Collaborative Work [0.0]
  本稿では,AIの説明可能性と受容の要件について考察する。 その結果,2つの主要なグループが,モデルの内部操作に関する情報を必要とする開発者であることが示唆された。 AIシステムの受容は、システムの機能や性能、プライバシ、倫理的考慮事項に関する情報に依存する。
  論文  参考訳（メタデータ） (2023-06-27T11:36:07Z)
• Towards FATE in AI for Social Media and Healthcare: A Systematic Review [0.0]
  この調査は、AIの文脈における公正性、説明責任、透明性、倫理(FATE)の概念に焦点を当てている。 統計的および交差点的公正性は,ソーシャルメディアプラットフォーム上での医療の公平性を支持することが判明した。 シミュレーション、データ分析、自動システムといったソリューションは広く使われているが、その効果は様々である。
  論文  参考訳（メタデータ） (2023-06-05T17:25:42Z)
• The Design and Implementation of a National AI Platform for Public Healthcare in Italy: Implications for Semantics and Interoperability [62.997667081978825]
  イタリア国立衛生局は、その技術機関を通じて人工知能を採用している。 このような広大なプログラムには、知識領域の形式化に特別な注意が必要である。 AIが患者、開業医、健康システムに与える影響について疑問が投げかけられている。
  論文  参考訳（メタデータ） (2023-04-24T08:00:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。