論文の概要: Rationalize: Shared Semantic Reasoning for Human-AI Alignment

• arxiv url: http://arxiv.org/abs/2605.30632v1
• Date: Thu, 28 May 2026 22:34:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-01 20:56:50.272963
• Title: Rationalize: Shared Semantic Reasoning for Human-AI Alignment
• Title（参考訳）: 合理化:人間-AIアライメントのための共有セマンティック推論
• Abstract要約: Rationalizeは、データ駆動型センスメイキングにおいて、人間とAIモデル間のセマンティック推論を共有するためのロールペアフレームワークである。 我々は,共用推論空間における人間とAIの相互作用を相補的な役割ペア(探索的ガイド,調査的インフォーマント,教師=学生,裁判官=アドボケート)として概念化する。
• 参考スコア（独自算出の注目度）: 0.3972977962775528
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce Rationalize, a role-pair framework for shared semantic reasoning between humans and AI models in data-driven sensemaking. Building on ideas in human-machine teaming and critical thinking, we conceptualize human-AI interaction as a series of complementary role pairs (Explorer-Guide, Investigator-Informant, Teacher-Student, Judge-Advocate) operating in a shared reasoning space. In this space, human analysts and AI models (such as LLMs) make purposes, questions, assumptions, evidence, inferences, and implications explicit, facilitating alignment not only at the output level but at the level of rationalization of intent and action by each side. We relate these role pairs to the bidirectional human-AI alignment framework, illustrating how "aligning AI to humans" and "aligning humans to AI" differ by role, and sketch a collaborative research agenda for alignment design and assessment using element-level and role-specific approaches.
• Abstract（参考訳）: 我々は、データ駆動型センスメイキングにおける人間とAIモデル間のセマンティック推論の共有のためのロールペアフレームワークであるRationalizeを紹介した。 我々は,人間と機械のコラボレーションと批判的思考のアイデアに基づいて,人間とAIの相互作用を相補的な役割ペア(探索的ガイド,調査的インフォーマント,教師=学生,裁判官=アドボケート)として,共通の推論空間で操作する。 この領域では、人間アナリストとAIモデル(LLMなど)は、目的、質問、仮定、証拠、推論、含意を明確にし、出力レベルだけでなく、各側による意図と行動の合理化のレベルにおいてアライメントを促進する。 これらの役割ペアを双方向のヒューマンAIアライメントフレームワークに関連付け、役割によって「人間にAIを適応させる」と「人間にAIを適応させる」がどう異なるかを説明し、要素レベルおよび役割固有のアプローチを用いてデザインと評価をアライメントするための共同研究アジェンダをスケッチする。

関連論文リスト

• Human-AI Interaction Alignment: Designing, Evaluating, and Evolving Value-Centered AI For Reciprocal Human-AI Futures [27.995784716141767]
  生成AIを日々の生活に迅速に統合することは、一方向アライメントモデルを超えて動く必要性を浮き彫りにする。 このワークショップは、双方向のヒューマン-AIアライメント、人間とAIが相互作用、評価、価値中心の設計を通じて協調する動的な相互プロセスに焦点を当てている。
  論文  参考訳（メタデータ） (2025-12-25T07:45:38Z)
• From Passive Tool to Socio-cognitive Teammate: A Conceptual Framework for Agentic AI in Human-AI Collaborative Learning [0.0]
  我々は、ツールとしてのAIから、コラボレーションパートナとしてのAIへの移行をグラフ化する、新しい概念的フレームワークを提案する。 真の意識や共有意図を欠いたAIが真の協力者であるかどうかを検討する。 この区別は、教育におけるAIの教育、教育設計、そして将来の研究課題に重要な意味を持つ。
  論文  参考訳（メタデータ） (2025-08-20T16:17:32Z)
• Aligning Generalisation Between Humans and Machines [74.120848518198]
  AI技術は、科学的発見と意思決定において人間を支援することができるが、民主主義と個人を妨害することもある。 AIの責任ある使用と人間-AIチームへの参加は、AIアライメントの必要性をますます示している。 これらの相互作用の重要かつしばしば見落とされがちな側面は、人間と機械が一般化する異なる方法である。
  論文  参考訳（メタデータ） (2024-11-23T18:36:07Z)
• Position: Towards Bidirectional Human-AI Alignment [109.57781720848669]
  我々は、人間とAIの双方向的・動的関係を説明するために、研究コミュニティは「調整」を明確に定義し、批判的に反映すべきであると主張する。 このフレームワークは、AIと人間の価値を整合させる従来の取り組みを取り入れているだけでなく、人間とAIを整合させるという、重要で未解明の次元も導入しています。
  論文  参考訳（メタデータ） (2024-06-13T16:03:25Z)
• Towards Human-AI Deliberation: Design and Evaluation of LLM-Empowered Deliberative AI for AI-Assisted Decision-Making [47.33241893184721]
  AIによる意思決定において、人間はしばしばAIの提案を受動的にレビューし、それを受け入れるか拒否するかを決定する。 意思決定における人間-AIの意見の対立に関する議論と人間のリフレクションを促進する新しい枠組みであるHuman-AI Deliberationを提案する。 人間の熟考の理論に基づいて、この枠組みは人間とAIを次元レベルの意見の引用、熟考的議論、意思決定の更新に携わる。
  論文  参考訳（メタデータ） (2024-03-25T14:34:06Z)
• Human-AI collaboration is not very collaborative yet: A taxonomy of interaction patterns in AI-assisted decision making from a systematic review [6.013543974938446]
  意思決定支援システムにおける人工知能の活用は、技術的進歩に不相応に焦点を合わせてきた。 人間中心の視点は、既存のプロセスとのシームレスな統合のためにAIソリューションを設計することで、この懸念を緩和しようとする。
  論文  参考訳（メタデータ） (2023-10-30T17:46:38Z)
• Human-AI Coevolution [48.74579595505374]
  Coevolution AIは、人間とAIアルゴリズムが相互に連続的に影響を及ぼすプロセスである。 本稿では,AIと複雑性科学の交点における新たな研究分野の基盤として,Coevolution AIを紹介した。
  論文  参考訳（メタデータ） (2023-06-23T18:10:54Z)
• On some Foundational Aspects of Human-Centered Artificial Intelligence [52.03866242565846]
  人間中心人工知能(Human Centered Artificial Intelligence)の意味については明確な定義はない。 本稿では,AIコンポーネントを備えた物理・ソフトウェア計算エージェントを指すHCAIエージェントについて紹介する。 HCAIエージェントの概念は、そのコンポーネントや機能とともに、人間中心のAIに関する技術的および非技術的議論を橋渡しする手段であると考えています。
  論文  参考訳（メタデータ） (2021-12-29T09:58:59Z)
• A general framework for scientifically inspired explanations in AI [76.48625630211943]
  我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。 このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
  論文  参考訳（メタデータ） (2020-03-02T10:32:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。