論文の概要: Who Does Your AI Work For? Designing Conversational Agents as Digital Fiduciaries

• arxiv url: http://arxiv.org/abs/2605.28908v1
• Date: Wed, 27 May 2026 17:07:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-30 02:45:55.041617
• Title: Who Does Your AI Work For? Designing Conversational Agents as Digital Fiduciaries
• Title（参考訳）: AIは、誰のために働くのか? 会話エージェントをデジタルフィデューシャとして設計する
• Authors: Jacob Erickson,
• Abstract要約: AIシステムに関する文献の多くは、ユーザの目標を代理として行動するエージェントと整合させることに重点を置いている。 この挑発は、会話エージェントは同様の標準に保持されるべきであり、指導原則としてファデューシャルデザインを導入している。
• 参考スコア（独自算出の注目度）: 2.538209532048867
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Conversational agents are increasingly integrated into the most private and intimate aspects of users' lives, from discussions of mental health to financial decisions. As a result, these systems have access to reams of sensitive user data. Much of the literature on AI systems has focused on aligning users' goals with the agents that act on their behalf. While this work is vitally important, it may overlook the need to establish a new normative baseline. Conversational AI agents, designed to feel and interact anthropomorphically with human users, must be held to a standard of care commensurate with their capabilities and access. When a client hires a personal lawyer, undergoes surgery, or receives advice from an investment manager, the expert they consult often has a fiduciary duty to act in their client's best interests. This provocation argues that conversational agents should be held to a similar standard and introduces fiduciary design as a guiding principle. In this respect, conversational AI trust and accountability could be unified into a single design and legal paradigm.
• Abstract（参考訳）: 会話エージェントは、メンタルヘルスの議論から金融決定に至るまで、ユーザーの生活の最もプライベートで親密な側面にますます統合されている。 結果として、これらのシステムは、機密性の高いユーザーデータのreamにアクセスすることができる。 AIシステムに関する文献の多くは、ユーザの目標を代理として行動するエージェントと整合させることに重点を置いている。 この仕事は極めて重要であるが、新しい規範的ベースラインを確立する必要性を見落としているかもしれない。 会話型AIエージェントは、人間のユーザと人為的に感じ、相互作用するように設計されており、その能力とアクセスに相応しいケアの標準に保たなければならない。 クライアントが個人弁護士を雇ったり、手術を受けたり、投資マネジャーからアドバイスを受けたりする場合、コンサルタントする専門家は、クライアントの利益のために行動する義務を負うことが多い。 この挑発は、会話エージェントは同様の標準に保持されるべきであり、指導原則としてファデューシャルデザインを導入している。 この点において、会話型AIの信頼性と説明責任は、単一の設計と法的パラダイムに統合される可能性がある。

関連論文リスト

• Designing AI for Real Users -- Accessibility Gaps in Retail AI Front-End [0.0]
  私たちは、多くのAIフロントエンドが暗黙的に「理想のユーザーボディと精神」を仮定していると主張している。 これは、異なる有能なユーザの経験を通して観察すると、目に見える、倫理的に適切になる。 我々は,AIガバナンスの実践的補完として,フロントエンド保証を提案する。
  論文  参考訳（メタデータ） (2026-03-30T09:04:17Z)
• Embracing Trustworthy Brain-Agent Collaboration as Paradigm Extension for Intelligent Assistive Technologies [51.93721053301417]
  本稿では,脳-コンピュータ・インタフェースから脳-エージェント・コラボレーションへのパラダイム拡張を視野に入れている。 我々は、受動的脳信号データプロセッサではなく、知的支援のためのアクティブで協調的なパートナーとして、リフレーミングエージェントを強調している。
  論文  参考訳（メタデータ） (2025-10-25T00:25:45Z)
• Navigating Privacy and Trust: AI Assistants as Social Support for Older Adults [1.6257069916752018]
  高齢者は、ユーザビリティ、データプライバシ、およびパーソナルエージェンシー間のトレードオフをナビゲートする必要がある。 本稿では,AIアシスタント機能を形成する上で,高齢者を積極的な意思決定者と位置づける参加型デザインアプローチを提案する。
  論文  参考訳（メタデータ） (2025-05-05T19:00:14Z)
• A Desideratum for Conversational Agents: Capabilities, Challenges, and Future Directions [51.96890647837277]
  大規模言語モデル(LLM)は、従来の対話システムから、自律的な行動、文脈認識、ユーザとのマルチターンインタラクションが可能な高度なエージェントへと、会話AIを推進してきた。 本調査では,人間レベルの知性にアプローチするよりスケーラブルなシステムにおいて,何が達成されたのか,どのような課題が持続するのか,何を行う必要があるのか,といった,次世代の会話エージェントのデシラトゥムを提示する。
  論文  参考訳（メタデータ） (2025-04-07T21:01:25Z)
• Designing AI Personalities: Enhancing Human-Agent Interaction Through Thoughtful Persona Design [7.610735476681428]
  このワークショップは、さまざまなコンテキストを対象としたAIエージェントペルソナデザインに焦点を当てた研究コミュニティを確立することを目的としている。 音声,実施,人口統計などのペルソナデザインの批判的側面と,ユーザ満足度やエンゲージメントに与える影響について検討する。 トピックとしては、会話インターフェースの設計、ユーザエクスペリエンスに対するエージェントペルソナの影響、コンテキストに適したAIエージェントを作成するアプローチなどがある。
  論文  参考訳（メタデータ） (2024-10-30T06:58:59Z)
• The Ethics of Advanced AI Assistants [53.89899371095332]
  本稿では,高度AIアシスタントがもたらす倫理的・社会的リスクについて論じる。 我々は、高度なAIアシスタントを自然言語インタフェースを持つ人工知能エージェントとして定義し、ユーザに代わってアクションのシーケンスを計画し実行することを目的としている。 先進的なアシスタントの社会規模での展開を考察し、協力、株式とアクセス、誤情報、経済的影響、環境、先進的なAIアシスタントの評価方法に焦点をあてる。
  論文  参考訳（メタデータ） (2024-04-24T23:18:46Z)
• Designing Fiduciary Artificial Intelligence [0.0]
  本稿では、コンピュータサイエンスと法学における最近の研究を合成し、学位AIを設計・監査するための手順を開発する。 学部AIの設計者は、システムのコンテキストを理解し、そのプリンシパルを特定し、それらのプリンシパルの最善の利益を評価する必要がある。 この手順のステップを、プライバシやアライメントといった信頼できるAIの次元に接続します。
  論文  参考訳（メタデータ） (2023-07-27T15:35:32Z)
• Designing for Responsible Trust in AI Systems: A Communication Perspective [56.80107647520364]
  我々は、MATCHと呼ばれる概念モデルを開発するために、技術に対する信頼に関するコミュニケーション理論と文献から引き出す。 私たちは、AIシステムの能力として透明性とインタラクションを強調します。 我々は、技術クリエーターが使用する適切な方法を特定するのに役立つ要件のチェックリストを提案する。
  論文  参考訳（メタデータ） (2022-04-29T00:14:33Z)
• Can You be More Social? Injecting Politeness and Positivity into Task-Oriented Conversational Agents [60.27066549589362]
  人間エージェントが使用する社会言語は、ユーザーの応答性の向上とタスク完了に関連しています。 このモデルは、ソーシャル言語理解要素で拡張されたシーケンスからシーケンスまでのディープラーニングアーキテクチャを使用する。 人的判断と自動言語尺度の両方を用いたコンテンツ保存と社会言語レベルの評価は,エージェントがより社会的に適切な方法でユーザの問題に対処できる応答を生成できることを示している。
  論文  参考訳（メタデータ） (2020-12-29T08:22:48Z)
• Is your chatbot GDPR compliant? Open issues in agent design [2.66512000865131]
  本稿では,対話型エージェント設計に関連性のあるオープンな課題を定義することを目的として,いくつかの課題について考察する。 この研究が、ユーザーインタラクションに効果があるだけでなく、規制やユーザープライバシに配慮したエージェント構築のさらなる研究を促すことを願っている。
  論文  参考訳（メタデータ） (2020-05-26T11:54:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。