論文の概要: AI Alignment and Fiduciary Obligation

• arxiv url: http://arxiv.org/abs/2608.02660v1
• Date: Sat, 01 Aug 2026 14:18:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-05 15:30:22.878078
• Title: AI Alignment and Fiduciary Obligation
• Title（参考訳）: AIのアライメントと義務化
• Abstract要約: 金融理論は拡張AIアシスタントの展開に当てはまると私は主張する。 私は、拡張されたAIアシスタントのデプロイメントの4つのユーザ側リスクを4つの義務にマップし、それぞれの義務を放電することによる制度的措置を定めます。 この議論は、ユーザとAIのインタラクションが促進すべき価値ではなく、開発者がユーザに負う義務のアライメント基準を基礎にすることで、既存のアプローチを補完する。
• 参考スコア（独自算出の注目度）: 0.01692139688032578
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Advanced AI assistants engage users in extended interactions across a widening range of roles, including advice, decision support, collaboration, learning, emotional support, and companionship among others. Current alignment efforts consider what alignment criteria should govern these relationships, drawing on moral traditions developed for human relationships such as bioethics, virtue ethics, care ethics, and relationship science. This paper considers AI alignment criteria in the user-AI-developer triad, since every user-AI interaction is mediated by a developer who exercises discretionary control over a system's behaviour, memory, and engagement parameters. Drawing on business ethics and legal scholarship, I argue that fiduciary theory applies to extended AI assistant deployment. On this basis, the four canonical fiduciary duties of loyalty, care, good faith, and candour can generate alignment criteria for the developer-user relationship. I map four user-side risks of extended AI assistant deployment to the four duties and specify institutional measures that follow from discharging each duty. The discussion complements existing approaches by grounding alignment criteria in obligations the developer owes the user, rather than in values the user-AI interaction should promote, and by showing that those obligations hold independently of any \textit{de facto} harm to users.
• Abstract（参考訳）: 高度なAIアシスタントは、アドバイス、意思決定のサポート、コラボレーション、学習、感情的サポート、協力関係など、幅広い役割にユーザを巻き込む。 現在のアライメントの取り組みは、これらの関係をどのアライメント基準で管理すべきかを考察し、生物倫理学、美徳倫理学、ケア倫理学、関係科学などの人間関係のために発達した道徳的伝統を描いている。 本稿では,システム動作,メモリ,エンゲージメントパラメータを判断的に制御する開発者によって,ユーザとAIのインタラクションはすべて仲介されるため,AIアライメント基準について考察する。 ビジネス倫理と法的奨学金に基づいて、ファデューシャ理論はAIアシスタントの展開の拡張に適用できると私は主張する。 この根拠から、忠誠心、ケア、善意、キャンドルという4つの標準的義務は、開発者-ユーザ関係のアライメント基準を生成することができる。 私は、拡張されたAIアシスタントのデプロイメントの4つのユーザ側リスクを4つの義務にマップし、それぞれの義務を放電することによる制度的措置を定めます。 この議論は、ユーザとAIのインタラクションが促進すべき価値よりも、開発者がユーザに負う義務のアライメント基準を根拠にすることで既存のアプローチを補完し、それらの義務がユーザにとっての『textit{de facto}』の害とは無関係に維持されていることを示すことで、既存のアプローチを補完する。

関連論文リスト

• Unilateral Relationship Revision Power in Human-AI Companion Interaction [0.01692139688032578]
  私は、人間とAIの協力的相互作用は、提供者がAIの制御を行う三進的構造である、と論じます。 この分析は、リレーショナルAI倫理における中心的かつ未解明の問題は、人間とAIの相互作用そのものに対する権力の構造的配置であることを示している。
  論文  参考訳（メタデータ） (2026-03-24T15:18:48Z)
• Alignment Is Not Enough: A Relational Framework for Moral Standing in Human-AI Interaction [0.0]
  人工知能の倫理的配慮がAI研究における決定的な倫理的課題の1つになってきたかどうかという問題である。 RelateはAIの道徳的忍耐を、オントロジ的な検証からリレーショナルキャパシティとインボデードインタラクションへと再編成するフレームワークである。
  論文  参考訳（メタデータ） (2026-02-13T03:16:41Z)
• Beyond Abstract Compliance: Operationalising trust in AI as a moral relationship [1.0498094137943175]
  本稿では、共通開発手法に組み込むことができるAIに対する信頼のための拡張された原則を提案する。 我々は、関係倫理、特にアフリカ共産主義哲学に基づいて、包括的、参加的プロセスのニュアンスを予見する。 AIライフサイクル全体を通じてコミュニティを巻き込むことは、AI設計と開発チームとの有意義な関係を育むことができる。
  論文  参考訳（メタデータ） (2026-01-30T09:48:24Z)
• From Values to Frameworks: A Qualitative Study of Ethical Reasoning in Agentic AI Practitioners [0.0]
  エージェント人工知能システムは、人間の監督を最小限に抑えて複雑な目標を追求できる自律技術である。 これらのシステムは生産性の大きな向上を約束する一方で、新たな倫理的課題も提起する。 本稿では,エージェントAI展開における構造化ジレンマを中心とした質的なインタビューを通じて,AI実践者の倫理的理由について考察する。
  論文  参考訳（メタデータ） (2025-12-24T00:58:41Z)
• Taxonomy of User Needs and Actions [51.86289485979439]
  会話AIの普及は、ユーザの計測目標と、それらを達成するための位置、適応、および社会的プラクティスをキャプチャするフレームワークの必要性を強調している。 このギャップに対処するために,1193人の人間とAIの会話の反復的質的分析によって構築された経験的基盤の枠組みであるTUNA(Taxonomy of User Needs and Actions)を紹介した。 TUNAは、ユーザアクションを情報検索、合成、手続き的ガイダンス、コンテンツ作成、ソーシャルインタラクション、メタ会話に関連する行動を含む3段階の階層に編成する。
  論文  参考訳（メタデータ） (2025-10-07T17:04:42Z)
• Resource Rational Contractualism Should Guide AI Alignment [69.07915246220985]
  契約主義的アライメントは、多様な利害関係者が支持する合意の中で決定を下すことを提案する。 我々は、AIシステムが合理的な当事者が形成する合意を近似する枠組みであるリソース・リアリズムを提案する。 RRC対応エージェントは、効率的に機能するだけでなく、変化する人間の社会世界への適応と解釈を動的に行うことができる。
  論文  参考訳（メタデータ） (2025-06-20T18:57:13Z)
• Technology as uncharted territory: Contextual integrity and the notion of AI as new ethical ground [51.85131234265026]
  私は、責任と倫理的AIを促進する努力が、確立された文脈規範に対するこの軽視に必然的に貢献し、正当化することができると論じます。 私は、道徳的保護よりも道徳的革新のAI倫理における現在の狭い優先順位付けに疑問を呈する。
  論文  参考訳（メタデータ） (2024-12-06T15:36:13Z)
• AI Ethics by Design: Implementing Customizable Guardrails for Responsible AI Development [0.0]
  我々は、ルール、ポリシー、AIアシスタントを統合して、責任あるAI行動を保証する構造を提案する。 われわれのアプローチは倫理的多元主義に対応し、AIガバナンスの進化の展望に柔軟で適応可能なソリューションを提供する。
  論文  参考訳（メタデータ） (2024-11-05T18:38:30Z)
• The Ethics of Advanced AI Assistants [53.89899371095332]
  本稿では,高度AIアシスタントがもたらす倫理的・社会的リスクについて論じる。 我々は、高度なAIアシスタントを自然言語インタフェースを持つ人工知能エージェントとして定義し、ユーザに代わってアクションのシーケンスを計画し実行することを目的としている。 先進的なアシスタントの社会規模での展開を考察し、協力、株式とアクセス、誤情報、経済的影響、環境、先進的なAIアシスタントの評価方法に焦点をあてる。
  論文  参考訳（メタデータ） (2024-04-24T23:18:46Z)
• Towards Responsible AI in Banking: Addressing Bias for Fair Decision-Making [69.44075077934914]
  責任AI(Responsible AI)は、企業文化の発展におけるバイアスに対処する重要な性質を強調している。 この論文は、バイアスを理解すること、バイアスを緩和すること、バイアスを説明することの3つの基本的な柱に基づいて構成されている。 オープンソースの原則に従って、アクセス可能なPythonパッケージとして、Bias On DemandとFairViewをリリースしました。
  論文  参考訳（メタデータ） (2024-01-13T14:07:09Z)
• Designing for Responsible Trust in AI Systems: A Communication Perspective [56.80107647520364]
  我々は、MATCHと呼ばれる概念モデルを開発するために、技術に対する信頼に関するコミュニケーション理論と文献から引き出す。 私たちは、AIシステムの能力として透明性とインタラクションを強調します。 我々は、技術クリエーターが使用する適切な方法を特定するのに役立つ要件のチェックリストを提案する。
  論文  参考訳（メタデータ） (2022-04-29T00:14:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。