論文の概要: Front-End Ethics for Sensor-Fused Health Conversational Agents: An Ethical Design Space for Biometrics
- arxiv url: http://arxiv.org/abs/2604.06203v1
- Date: Sat, 14 Mar 2026 03:31:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-12 18:41:08.629025
- Title: Front-End Ethics for Sensor-Fused Health Conversational Agents: An Ethical Design Space for Biometrics
- Title（参考訳）: センサフューズ型健康会話エージェントのためのフロントエンド倫理:バイオメトリックスのための倫理的デザイン空間
- Authors: Hansoo Lee, Rafael A. Calvo,
- Abstract要約: センサデータによって提供される「客観性のイリュージョン」は、AI幻覚のリスクを増幅する。
本稿では,生体情報開示,テンポラリティモニタリング,解釈フレーム,AIスタンス,テスト可能性の5つの側面からなる設計空間を提案する。
- 参考スコア（独自算出の注目度）: 3.913403111891027
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The integration of continuous data from built-in sensors and Large Language Models (LLMs) has fueled a surge of "Sensor-Fused LLM agents" for personal health and well-being support. While recent breakthroughs have demonstrated the technical feasibility of this fusion (e.g., Time-LLM, SensorLLM), research primarily focuses on "Ethical Back-End Design for Generative AI", concerns such as sensing accuracy, bias mitigation in training data, and multimodal fusion. This leaves a critical gap at the front end, where invisible biometrics are translated into language directly experienced by users. We argue that the "illusion of objectivity" provided by sensor data amplifies the risks of AI hallucinations, potentially turning errors into harmful medical mandates. This paper shifts the focus to "Ethical Front-End Design for AI", specifically, the ethics of biometric translation. We propose a design space comprising five dimensions: Biometric Disclosure, Monitoring Temporality, Interpretation Framing, AI Stance, and Contestability. We examine how these dimensions interact with context (user- vs. system-initiated) and identify the risk of biofeedback loops. Finally, we propose "Adaptive Disclosure" as a safety guardrail and offer design guidelines to help developers manage fallibility, ensuring that these cutting-edge health agents support, rather than destabilize, user autonomy.
- Abstract（参考訳）: 内蔵センサーとLarge Language Models(LLMs)からの連続データの統合により、個人の健康と幸福をサポートするために"Sensor-Fused LLM Agent"が急増した。
最近のブレークスルーは、この融合の技術的実現可能性(例えば、Time-LLM、SensorLLM)を実証しているが、主に「生成AIのための倫理的バックエンド設計」、知覚精度、トレーニングデータのバイアス緩和、マルチモーダル融合などの懸念に焦点を当てている。
これは、目に見えないバイオメトリックスが、ユーザーが直接経験する言語に変換されるという、フロントエンドに重大なギャップを残します。
センサデータによって提供される「客観性のイリュージョン」は、AI幻覚のリスクを増幅し、エラーを有害な医療上の課題に変える可能性があると論じる。
本稿では,「AIのための倫理的フロントエンドデザイン」,特にバイオメトリック翻訳の倫理に焦点を移す。
本稿では,生体情報開示,テンポラリティモニタリング,解釈フレーム,AIスタンス,テスト可能性の5つの側面からなる設計空間を提案する。
これらの次元がコンテキスト(ユーザ対システム開始)とどのように相互作用するかを調べ、バイオフィードバックループのリスクを特定する。
最後に、安全ガードレールとして"Adaptive Disclosure"を提案し、開発者がフォールティビリティを管理するための設計ガイドラインを提供し、これらの最先端のヘルスエージェントが、ユーザの自律性を不安定にするのではなく、確実にサポートすることを保証します。
関連論文リスト
- DAMASHA: Detecting AI in Mixed Adversarial Texts via Segmentation with Human-interpretable Attribution [20.178134447843092]
先進的な大規模言語モデルの時代、人間とAIが生成するテキストの境界はますます曖昧になりつつある。
我々は,テクスチャ的手がかり,パープレキシティ駆動信号,構造化境界モデリングを統合した,情報マスクと呼ばれる新しいフレームワークを導入する。
以上の結果から,反対に頑健で,解釈可能な混合オーサシップ検出の可能性と限界が指摘された。
論文 参考訳（メタデータ） (2025-12-04T14:21:42Z) - EmoRAG: Evaluating RAG Robustness to Symbolic Perturbations [57.97838850473147]
Retrieval-Augmented Generation (RAG)システムは、ますます堅牢なAIの中心になっている。
今回の研究では、微妙な象徴的な摂動に対する感受性という、批判的で見落とされがちな脆弱性が明らかになりました。
一つのエモティコンをクエリに注入することで、意味的に無関係なテキストを100%検索できることを示す。
論文 参考訳（メタデータ） (2025-12-01T06:53:49Z) - Medical Malice: A Dataset for Context-Aware Safety in Healthcare LLMs [0.0]
この研究は、普遍的な安全性からコンテキスト認識の安全性へのシフトを提唱している。
高度な医療環境に固有の、曖昧で体系的な脅威に対して、AIを免疫するために必要なリソースを提供する。
論文 参考訳（メタデータ） (2025-11-24T11:55:22Z) - Towards a Humanized Social-Media Ecosystem: AI-Augmented HCI Design Patterns for Safety, Agency & Well-Being [0.0]
ソーシャルプラットフォームは何十億もの人々を結び付けているが、そのエンゲージメント優先のアルゴリズムはユーザーに対してではなく、ユーザーに対して機能することが多い。
我々は,プラットフォームロジックとインターフェースの間に位置するユーザが所有する,説明可能な仲介者を提案する。
HL-AIは、プラットフォーム協力を必要とせず、実践的でモーメント間制御を提供する。
論文 参考訳（メタデータ） (2025-11-08T06:22:15Z) - Embracing Trustworthy Brain-Agent Collaboration as Paradigm Extension for Intelligent Assistive Technologies [51.93721053301417]
本稿では,脳-コンピュータ・インタフェースから脳-エージェント・コラボレーションへのパラダイム拡張を視野に入れている。
我々は、受動的脳信号データプロセッサではなく、知的支援のためのアクティブで協調的なパートナーとして、リフレーミングエージェントを強調している。
論文 参考訳（メタデータ） (2025-10-25T00:25:45Z) - Motion2Meaning: A Clinician-Centered Framework for Contestable LLM in Parkinson's Disease Gait Interpretation [0.8230528541914085]
Motion2Meaningは、Contestable AIを前進させるクリニック中心のフレームワークである。
システムを構成する3つの重要なコンポーネントは、歩行データ可視化インタフェース(GDVI)、1次元畳み込みニューラルネットワーク(1D-CNN)で、Hoehn & Yahrの重大度を予測し、Contestable Interface(CII)である。
XMEDは、誤った予測における説明の不一致の5倍の増大を検出することにより、モデル不確実性をうまく識別する。
我々のLCMを利用したインタフェースにより、臨床医は正しい予測を検証し、モデルのエラーの一部に挑戦できる。
論文 参考訳（メタデータ） (2025-10-21T12:04:58Z) - Semantic Visual Anomaly Detection and Reasoning in AI-Generated Images [96.43608872116347]
AnomReasonは4倍のtextbfAnomAgentのような構造化アノテーションを備えた大規模ベンチマーク
AnomReasonとAnomAgentは、AI生成画像の意味的妥当性の測定と改善の基盤となっている。
論文 参考訳（メタデータ） (2025-10-11T14:09:24Z) - CoCoNUTS: Concentrating on Content while Neglecting Uninformative Textual Styles for AI-Generated Peer Review Detection [60.52240468810558]
我々は、AI生成ピアレビューの詳細なデータセットの上に構築されたコンテンツ指向ベンチマークであるCoCoNUTSを紹介する。
また、マルチタスク学習フレームワークを介してAIレビュー検出を行うCoCoDetを開発し、レビューコンテンツにおけるAIのより正確で堅牢な検出を実現する。
論文 参考訳（メタデータ） (2025-08-28T06:03:11Z) - Generative AI for Secure and Privacy-Preserving Mobile Crowdsensing [74.58071278710896]
生成AIは、学術分野と産業分野の両方から多くの注目を集めている。
セキュアでプライバシ保護のモバイルクラウドセンシング(SPPMCS)は、データ収集/取得に広く応用されている。
論文 参考訳（メタデータ） (2024-05-17T04:00:58Z) - Challenges for Responsible AI Design and Workflow Integration in Healthcare: A Case Study of Automatic Feeding Tube Qualification in Radiology [35.284458448940796]
ナトリウムガスチューブ(NGT)は、鼻から胃に挿入されたチューブを供給し、栄養や薬品を供給している。
近年のAI開発は、チェストX線画像からNGT配置を堅牢に検出する可能性を示している。
本稿では,この問題に対する人間中心のアプローチを提案するとともに,コンテキスト調査および15の臨床ステークホルダとの詳細なインタビューの結果から得られた知見について述べる。
論文 参考訳（メタデータ） (2024-05-08T14:16:22Z) - What Do End-Users Really Want? Investigation of Human-Centered XAI for
Mobile Health Apps [69.53730499849023]
説明可能なAI(XAI)を評価するために,ユーザ中心のペルソナ概念を提案する。
分析の結果,ユーザの人口統計や性格,説明のタイプ,影響説明の嗜好が示された。
私たちの洞察は、対話的で人間中心のXAIを実践的な応用に近づけます。
論文 参考訳（メタデータ） (2022-10-07T12:51:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。