論文の概要: Shaping Human-AI Interactions to Provide Improvement Pathways and Balance Competing Objectives

• arxiv url: http://arxiv.org/abs/2608.05710v1
• Date: Thu, 06 Aug 2026 07:48:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-07 15:25:20.847454
• Title: Shaping Human-AI Interactions to Provide Improvement Pathways and Balance Competing Objectives
• Title（参考訳）: 人間とAIのインタラクションを形作り、改善の道と競争のバランスをとる
• Authors: Keziah Naggita,
• Abstract要約: この論文で示された研究は、人間の要求、価値観、能力に合わせてAIシステムを設計するための原則と方法を提供することで、人間中心の機械学習を前進させる。
• 参考スコア（独自算出の注目度）: 0.5221459608786241
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When an AI system is deployed, the individuals who use and or are evaluated by it form beliefs about how the system operates and use those beliefs to strategically present their preferences, behaviors, or attributes. The system then responds with feedback or a decision outcome, thereby creating a human-AI interaction loop. This thesis studies how to design and shape such interactions to achieve three goals: (1) help individuals develop accurate beliefs about the AI systems so they can improve and or secure favorable outcomes at minimal cost, (2) encourage improvement and or discourage gaming behaviors, and (3) ensure that the AI system continues to achieve its intended objectives, such as maximizing accuracy. To address these goals, the thesis is organized into three complementary parts that examine and study human-AI interactions from the perspectives of both evaluated individuals and AI systems. Together, the work presented in this thesis advances human-centered machine learning by providing principles and methods for designing AI systems that align with human needs, values, and capabilities. Methodologically, this thesis integrates theoretical analysis, data-driven modeling, human-subject experiments, and empirical evaluations on real-world and semi-synthetic datasets.
• Abstract（参考訳）: AIシステムがデプロイされると、システムがどのように機能するかについての信念を形成し、それらの信念を使用して、好みや振る舞い、属性を戦略的に提示する。 システムはフィードバックや意思決定の結果に反応し、それによって人間とAIのインタラクションループを生成する。 この論文は、(1)AIシステムに関する正確な信念を個人が最小限のコストで改善または確保できるように支援し、(2)ゲーム行動の改善や阻止を奨励し、(3)AIシステムが、精度を最大化するなどの意図された目的を達成し続けることを確実にする、という3つの目標を達成するために、このような相互作用を設計し形成する方法を研究する。 これらの目標を達成するために、論文は、評価された個人とAIシステムの両方の観点から、人間とAIの相互作用を調べ、研究する3つの補完的な部分に分けられる。 この論文で提示された作業は、人間の要求、価値観、能力に合わせてAIシステムを設計するための原則と方法を提供することによって、人間中心の機械学習を前進させる。 理論的には、この論文は理論解析、データ駆動モデリング、人体実験、実世界および半合成データセットに関する経験的評価を統合している。

関連論文リスト

• Evaluating AI Alignment in Eleven LLMs through Output-Based Analysis and Human Benchmarking [0.0]
  大規模言語モデル(LLM)は、心理学的な研究や実践にますます使われているが、従来のベンチマークでは、実際の相互作用で表現される価値についてはほとんど明らかにされていない。 LLMが表現する値の出力に基づく評価であるPAPERSを導入する。
  論文  参考訳（メタデータ） (2025-06-14T20:14:02Z)
• When Models Know More Than They Can Explain: Quantifying Knowledge Transfer in Human-AI Collaboration [79.69935257008467]
  我々は,人間とAIの知識伝達能力に関する概念的かつ実験的フレームワークである知識統合と伝達評価(KITE)を紹介する。 最初の大規模人間実験(N=118)を行い,その測定を行った。 2段階のセットアップでは、まずAIを使って問題解決戦略を思いつき、その後独立してソリューションを実装し、モデル説明が人間の理解に与える影響を分離します。
  論文  参考訳（メタデータ） (2025-06-05T20:48:16Z)
• Position: Towards Bidirectional Human-AI Alignment [109.57781720848669]
  我々は、人間とAIの双方向的・動的関係を説明するために、研究コミュニティは「調整」を明確に定義し、批判的に反映すべきであると主張する。 このフレームワークは、AIと人間の価値を整合させる従来の取り組みを取り入れているだけでなく、人間とAIを整合させるという、重要で未解明の次元も導入しています。
  論文  参考訳（メタデータ） (2024-06-13T16:03:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。