論文の概要: Align AI to Dynamic Human-AI Workflows

• arxiv url: http://arxiv.org/abs/2607.14240v1
• Date: Wed, 15 Jul 2026 18:02:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-17 17:01:32.879553
• Title: Align AI to Dynamic Human-AI Workflows
• Title（参考訳）: 動的ヒューマンAIワークフローへのAIの適応
• Abstract要約: 静的でエミュレータ的からインタラクティブで補完的なアライメントへの移行を主張します。 まず,人間の行動とモデル行動が時間とともに共進化する軌道レベルの視点と,既存のアライメントとを対比して,このギャップを形式化する。 我々は、人間-AIシステムがこれらの力学を増幅し、不確実性に関する推論を困難にする新しい対称性を導入することを論じる。
• 参考スコア（独自算出の注目度）: 43.10610450289198
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Current alignment approaches typically focus on emulating human behavior using static representations of human preferences, failing to capture the dynamic, context-dependent nature of real-world human-AI interactions. In this paper, we argue for a shift from static and emulative to interactive and complementary alignment, where preferences emerge through interaction and alignment is defined not by satisfying preferences alone. We first formalize this gap by contrasting existing alignment with a trajectory-level view in which human and model behavior co-evolve over time. Because these interaction dynamics have not been adequately captured within existing ML formulations, we ground this perspective in insights from an interdisciplinary workshop. We draw on lessons from social-science accounts of human-human collaboration and then argue that human-AI systems amplify these dynamics, introducing new asymmetries that make reasoning about uncertainty harder and introduce new coordination challenges. Based on these lessons and new challenges, we conclude by outlining a research agenda for developing AI systems that align with humans in interaction, requiring an interdisciplinary synthesis of machine learning and the social and decision sciences.
• Abstract（参考訳）: 現在のアライメントアプローチは、人間の好みの静的表現を使って人間の振る舞いをエミュレートすることに重点を置いており、現実の人間とAIの相互作用の動的で文脈に依存した性質を捉えていない。 本稿では,静的かつエミュレーティブなアライメントから対話的かつ補完的なアライメントへの移行を論じる。 まず,人間の行動とモデル行動が時間とともに共進化する軌道レベルの視点と,既存のアライメントとを対比して,このギャップを定式化する。 これらの相互作用のダイナミクスは、既存のMLの定式化において適切に捉えられていないため、学際的なワークショップからの洞察にこの視点を基礎づける。 我々は、人間-AIシステムがこれらのダイナミクスを増幅し、不確実性についての推論を困難にし、新しい協調課題を導入し、社会科学から人間-AIの協力についての教訓を引き出す。 これらの教訓と新たな課題に基づいて、人間と対話するAIシステムを開発するための研究課題を概説し、機械学習と社会・決定科学の学際的な合成が必要であると結論づける。

関連論文リスト

• Learning social norms enhances compatibility in dynamic human-AI coordination [22.247716743876214]
  人間は動的相互作用において、しばしば暗黙的に、定量化が難しい社会規範を通して、常に他人と協調する。 AIエージェントが日常生活に埋め込まれるにつれて、彼らはこのような相互作用に参加し、社会的相互作用構造を再構築する。 人間の社会的規範の根底にある3つの原則は、結果予測可能性、価値アライメント、優位性認識である。
  論文  参考訳（メタデータ） (2026-07-08T05:39:08Z)
• Learning Whole-Body Human-Humanoid Interaction from Human-Human Demonstrations [63.80827184637476]
  D-STAR(D-STAR)は,行動すべき場所から行動すべき場所を乱す階層的な政策である。 広範かつ厳密なシミュレーションを通じて、我々のフレームワークを検証する。
  論文  参考訳（メタデータ） (2026-01-14T14:37:06Z)
• Human-AI Interaction Alignment: Designing, Evaluating, and Evolving Value-Centered AI For Reciprocal Human-AI Futures [27.995784716141767]
  生成AIを日々の生活に迅速に統合することは、一方向アライメントモデルを超えて動く必要性を浮き彫りにする。 このワークショップは、双方向のヒューマン-AIアライメント、人間とAIが相互作用、評価、価値中心の設計を通じて協調する動的な相互プロセスに焦点を当てている。
  論文  参考訳（メタデータ） (2025-12-25T07:45:38Z)
• Interactive AI and Human Behavior: Challenges and Pathways for AI Governance [3.799233413990495]
  生成AIシステムは、長期的、個人的、およびリレーショナルな相互作用にますます関与する。 これらの対話型AIシステムは、時間の経過とともにユーザに対応し、継続的な関係を構築し、ユーザに代わって積極的に行動することも可能だ。 この新たなパラダイムでは、ガバナンスと政策開発を効果的に研究する方法を再考する必要があります。
  論文  参考訳（メタデータ） (2025-08-12T19:15:35Z)
• Towards Immersive Human-X Interaction: A Real-Time Framework for Physically Plausible Motion Synthesis [51.95817740348585]
  Human-Xは、様々な実体をまたいだ没入的で物理的に妥当なヒューマンインタラクションを可能にするために設計された、新しいフレームワークである。 本手法は, 自己回帰型反応拡散プランナを用いて, リアルタイムに反応と反応を同時予測する。 我々のフレームワークは、人間とロボットのインタラクションのための仮想現実インターフェースを含む、現実世界のアプリケーションで検証されている。
  論文  参考訳（メタデータ） (2025-08-04T06:35:48Z)
• The Coming Crisis of Multi-Agent Misalignment: AI Alignment Must Be a Dynamic and Social Process [13.959658276224266]
  人間の価値観や好みとAIの整合性は依然として重要な課題だ。 エージェントは互いに関与するので、個々の目標と集合目標の両方を達成するために調整する必要があります。 社会構造は、グループや個人の価値を減らしたり、壊したりすることができる。 私たちは、人間、優先的、客観的なアライメントを相互依存的な概念として扱うようにAIコミュニティに呼びかけます。
  論文  参考訳（メタデータ） (2025-06-01T16:39:43Z)
• Position: Towards Bidirectional Human-AI Alignment [109.57781720848669]
  我々は、人間とAIの双方向的・動的関係を説明するために、研究コミュニティは「調整」を明確に定義し、批判的に反映すべきであると主張する。 このフレームワークは、AIと人間の価値を整合させる従来の取り組みを取り入れているだけでなく、人間とAIを整合させるという、重要で未解明の次元も導入しています。
  論文  参考訳（メタデータ） (2024-06-13T16:03:25Z)
• Towards interactive evaluations for interaction harms in human-AI systems [8.989911701384788]
  我々は,テキストインタラクションの害に着目したテキストインタラクション倫理に基づく評価へのシフトを提案する。 まず,(1)静的,(2)普遍的なユーザエクスペリエンスを仮定し,(3)構成妥当性を限定した現状評価手法の限界について議論する。 インタラクティブな評価を設計するための実践的原則として, 生態学的に有効な相互作用シナリオ, ヒューマンインパクトメトリクス, 多様な人間参加アプローチなどがあげられる。
  論文  参考訳（メタデータ） (2024-05-17T08:49:34Z)
• Human-AI Coevolution [48.74579595505374]
  Coevolution AIは、人間とAIアルゴリズムが相互に連続的に影響を及ぼすプロセスである。 本稿では,AIと複雑性科学の交点における新たな研究分野の基盤として,Coevolution AIを紹介した。
  論文  参考訳（メタデータ） (2023-06-23T18:10:54Z)
• Training Socially Aligned Language Models on Simulated Social Interactions [99.39979111807388]
  AIシステムにおける社会的アライメントは、確立された社会的価値に応じてこれらのモデルが振舞うことを保証することを目的としている。 現在の言語モデル(LM)は、トレーニングコーパスを独立して厳格に複製するように訓練されている。 本研究は,シミュレートされた社会的相互作用からLMを学習することのできる,新しい学習パラダイムを提案する。
  論文  参考訳（メタデータ） (2023-05-26T14:17:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。