論文の概要: Rationalize: Shared Semantic Reasoning for Human-AI Alignment

• arxiv url: http://arxiv.org/abs/2605.30632v1
• Date: Thu, 28 May 2026 22:34:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-01 20:56:50.272963
• Title: Rationalize: Shared Semantic Reasoning for Human-AI Alignment
• Title（参考訳）: 合理化:人間-AIアライメントのための共有セマンティック推論
• Authors: Aritra Dasgupta, Naga Datha Saikiran Battula, Avina Nakarmi, Sohom Sen, Subhodeep Ghosh, Xun Song,
• Abstract要約: Rationalizeは、データ駆動型センスメイキングにおいて、人間とAIモデル間のセマンティック推論を共有するためのロールペアフレームワークである。 我々は,共用推論空間における人間とAIの相互作用を相補的な役割ペア(探索的ガイド,調査的インフォーマント,教師=学生,裁判官=アドボケート)として概念化する。
• 参考スコア（独自算出の注目度）: 0.3972977962775528
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce Rationalize, a role-pair framework for shared semantic reasoning between humans and AI models in data-driven sensemaking. Building on ideas in human-machine teaming and critical thinking, we conceptualize human-AI interaction as a series of complementary role pairs (Explorer-Guide, Investigator-Informant, Teacher-Student, Judge-Advocate) operating in a shared reasoning space. In this space, human analysts and AI models (such as LLMs) make purposes, questions, assumptions, evidence, inferences, and implications explicit, facilitating alignment not only at the output level but at the level of rationalization of intent and action by each side. We relate these role pairs to the bidirectional human-AI alignment framework, illustrating how "aligning AI to humans" and "aligning humans to AI" differ by role, and sketch a collaborative research agenda for alignment design and assessment using element-level and role-specific approaches.
• Abstract（参考訳）: 我々は、データ駆動型センスメイキングにおける人間とAIモデル間のセマンティック推論の共有のためのロールペアフレームワークであるRationalizeを紹介した。 我々は,人間と機械のコラボレーションと批判的思考のアイデアに基づいて,人間とAIの相互作用を相補的な役割ペア(探索的ガイド,調査的インフォーマント,教師=学生,裁判官=アドボケート)として,共通の推論空間で操作する。 この領域では、人間アナリストとAIモデル(LLMなど)は、目的、質問、仮定、証拠、推論、含意を明確にし、出力レベルだけでなく、各側による意図と行動の合理化のレベルにおいてアライメントを促進する。 これらの役割ペアを双方向のヒューマンAIアライメントフレームワークに関連付け、役割によって「人間にAIを適応させる」と「人間にAIを適応させる」がどう異なるかを説明し、要素レベルおよび役割固有のアプローチを用いてデザインと評価をアライメントするための共同研究アジェンダをスケッチする。

関連論文リスト

• Aligning Generalisation Between Humans and Machines [74.120848518198]
  AI技術は、科学的発見と意思決定において人間を支援することができるが、民主主義と個人を妨害することもある。 AIの責任ある使用と人間-AIチームへの参加は、AIアライメントの必要性をますます示している。 これらの相互作用の重要かつしばしば見落とされがちな側面は、人間と機械が一般化する異なる方法である。
  論文  参考訳（メタデータ） (2024-11-23T18:36:07Z)
• Position: Towards Bidirectional Human-AI Alignment [109.57781720848669]
  我々は、人間とAIの双方向的・動的関係を説明するために、研究コミュニティは「調整」を明確に定義し、批判的に反映すべきであると主張する。 このフレームワークは、AIと人間の価値を整合させる従来の取り組みを取り入れているだけでなく、人間とAIを整合させるという、重要で未解明の次元も導入しています。
  論文  参考訳（メタデータ） (2024-06-13T16:03:25Z)
• Human-AI collaboration is not very collaborative yet: A taxonomy of interaction patterns in AI-assisted decision making from a systematic review [6.013543974938446]
  意思決定支援システムにおける人工知能の活用は、技術的進歩に不相応に焦点を合わせてきた。 人間中心の視点は、既存のプロセスとのシームレスな統合のためにAIソリューションを設計することで、この懸念を緩和しようとする。
  論文  参考訳（メタデータ） (2023-10-30T17:46:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。