論文の概要: Resisting Humanization: Ethical Front-End Design Choices in AI for Sensitive Contexts

• arxiv url: http://arxiv.org/abs/2603.24853v1
• Date: Wed, 25 Mar 2026 22:39:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-27 20:52:48.010228
• Title: Resisting Humanization: Ethical Front-End Design Choices in AI for Sensitive Contexts
• Title（参考訳）: レジストリングヒューマニゼーション - 感覚的コンテキストのためのAIにおける倫理的フロントエンド設計選択
• Authors: Silvia Rossi, Diletta Huyskes, Mackenzie Jorgensen,
• Abstract要約: AIフロントエンド設計における人間化は、ユーザのメンタルモデルを大きく形作る価値駆動的な選択である、と私たちは主張する。 ジェンダーベースの暴力の生存者を支援する非営利団体であるChaynによって開発された2つのAIシステムについて論じる。
• 参考スコア（独自算出の注目度）: 1.1565654851982565
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Ethical debates in AI have primarily focused on back-end issues such as data governance, model training, and algorithmic decision-making. Less attention has been paid to the ethical significance of front-end design choices, such as the interaction and representation-based elements through which users interact with AI systems. This gap is particularly significant for Conversational User Interfaces (CUI) based on Natural Language Processing (NLP) systems, where humanizing design elements such as dialogue-based interaction, emotive language, personality modes, and anthropomorphic metaphors are increasingly prevalent. This work argues that humanization in AI front-end design is a value-driven choice that profoundly shapes users' mental models, trust calibration, and behavioral responses. Drawing on research in human-computer interaction (HCI), conversational AI, and value-sensitive design, we examine how interfaces can play a central role in misaligning user expectations, fostering misplaced trust, and subtly undermining user autonomy, especially in vulnerable contexts. To ground this analysis, we discuss two AI systems developed by Chayn, a nonprofit organization supporting survivors of gender-based violence. Chayn is extremely cautious when building AI that interacts with or impacts survivors by operationalizing their trauma-informed design principles. This Chayn case study illustrates how ethical considerations can motivate principled restraint in interface design, challenging engagement-based norms in contemporary AI products. We argue that ethical front-end AI design is a form of procedural ethics, enacted through interaction choices rather than embedded solely in system logic.
• Abstract（参考訳）: AIにおける倫理的議論は、主にデータガバナンス、モデルトレーニング、アルゴリズムによる意思決定といったバックエンドの問題に焦点を当てている。 ユーザーがAIシステムと対話するインタラクションや表現ベースの要素など、フロントエンドの設計選択の倫理的重要性にはあまり注目されていない。 このギャップは自然言語処理(NLP)システムに基づく会話ユーザインタフェース(CUI)において特に重要である。 この研究は、AIフロントエンド設計におけるヒューマライゼーションは、ユーザのメンタルモデル、信頼キャリブレーション、行動応答を深く形作る価値駆動的な選択である、と論じている。 ヒューマン・コンピュータ・インタラクション(HCI)、会話型AI、およびバリューセンシティブ・デザインの研究に基づいて、インターフェースがユーザの期待を誤って調整し、不適切な信頼を育み、特に脆弱なコンテキストにおいてユーザーの自律性を著しく損なう上で、いかに中心的な役割を果たすかを検討する。 この分析を基礎として、ジェンダーベースの暴力の生存者を支援する非営利団体であるChaynによって開発された2つのAIシステムについて論じる。 Chaynは、トラウマにインフォームされた設計原則を運用することによって、生存者と対話したり、影響を及ぼすAIを構築する際に極めて慎重である。 このChaynケーススタディは、倫理的考慮がインターフェイス設計の原則的抑制、現代のAI製品におけるエンゲージメントベースの規範への挑戦を動機付ける方法を示している。 我々は、倫理的フロントエンドAI設計は手続き的倫理の一形態であり、システムロジックにのみ埋め込まれるのではなく、相互作用の選択によって実現されていると論じる。

関連論文リスト

• When Should an AI Act? A Human-Centered Model of Scene, Context, and Behavior for Agentic AI Design [0.44743648495907423]
  エージェントAIは、コンテキストデータからユーザの状況を推測することによって、積極的に介入する。 本稿では,解釈的場面,文脈,行動要因を組み込んだ結果として振舞いを再構成する概念モデルを提案する。 介入の深さ、タイミング、強度、抑制を導く5つのエージェント設計原則を導出します。
  論文  参考訳（メタデータ） (2026-02-26T09:56:37Z)
• AI Automatons: AI Systems Intended to Imitate Humans [54.19152688545896]
  人々の行動、仕事、能力、類似性、または人間性を模倣するように設計されたAIシステムが増加している。 このようなAIシステムの研究、設計、展開、可用性は、幅広い法的、倫理的、その他の社会的影響に対する懸念を喚起している。
  論文  参考訳（メタデータ） (2025-03-04T03:55:38Z)
• The AI Interface: Designing for the Ideal Machine-Human Experience (Editorial) [1.8074330674710588]
  本論では,AI体験デザインの心理学を探求する特集を紹介する。 このコレクションの論文は、人間とAIの相互作用における信頼、透明性、感情的な感受性の複雑さを強調している。 8つの多様な研究から得られた知見により、この論説は、効率と共感のバランスをとるためのAIインターフェースの必要性を強調している。
  論文  参考訳（メタデータ） (2024-11-29T15:17:32Z)
• Survey of User Interface Design and Interaction Techniques in Generative AI Applications [79.55963742878684]
  我々は,デザイナやディベロッパの参照として使用できる,さまざまなユーザインタラクションパターンのコンペレーションを作ることを目指している。 また、生成AIアプリケーションの設計についてもっと学ぼうとする人たちの参入障壁を低くしようと努力しています。
  論文  参考訳（メタデータ） (2024-10-28T23:10:06Z)
• Position: Towards Bidirectional Human-AI Alignment [109.57781720848669]
  我々は、人間とAIの双方向的・動的関係を説明するために、研究コミュニティは「調整」を明確に定義し、批判的に反映すべきであると主張する。 このフレームワークは、AIと人間の価値を整合させる従来の取り組みを取り入れているだけでなく、人間とAIを整合させるという、重要で未解明の次元も導入しています。
  論文  参考訳（メタデータ） (2024-06-13T16:03:25Z)
• Characterizing and modeling harms from interactions with design patterns in AI interfaces [0.19116784879310028]
  適応型AIシステムを用いたインタフェースの設計は、フィードバックループによって引き起こされるカスケード効果をもたらす可能性があると我々は主張する。 本稿では,AIインタフェース設計のインパクトアセスメントを構造化し,促進するAIシステムの設計強化制御(DECAI)を提案する。
  論文  参考訳（メタデータ） (2024-04-17T13:30:45Z)
• Antagonistic AI [11.25562632407588]
  私たちは、敵AI(Antagonistic AI)と呼ばれるデザイン空間である、サイコファンティックパラダイムの影を探求する。 我々は、AIシステムがユーザに対して、ユーザに対して自身の仮定に直面するように強制するなど、時にメリットをもたらすかどうかを考察する。 ユーザエクスペリエンスに敵意的な要素を埋め込むための、潜在的なメリット、設計テクニック、方法を明確にした、敵意的なAIのための設計スペースを配置する。
  論文  参考訳（メタデータ） (2024-02-12T00:44:37Z)
• Enabling High-Level Machine Reasoning with Cognitive Neuro-Symbolic Systems [67.01132165581667]
  本稿では,認知アーキテクチャを外部のニューロシンボリックコンポーネントと統合することにより,AIシステムにおける高レベル推論を実現することを提案する。 本稿では,ACT-Rを中心としたハイブリッドフレームワークについて紹介し,最近の応用における生成モデルの役割について論じる。
  論文  参考訳（メタデータ） (2023-11-13T21:20:17Z)
• Seamful XAI: Operationalizing Seamful Design in Explainable AI [59.89011292395202]
  AIシステムのミスは必然的であり、技術的制限と社会技術的ギャップの両方から生じる。 本稿では, 社会工学的・インフラ的ミスマッチを明らかにすることにより, シームレスな設計がAIの説明可能性を高めることを提案する。 43人のAI実践者と実際のエンドユーザでこのプロセスを探求します。
  論文  参考訳（メタデータ） (2022-11-12T21:54:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。