論文の概要: Relative Principals, Pluralistic Alignment, and the Structural Value Alignment Problem

• arxiv url: http://arxiv.org/abs/2604.20805v1
• Date: Wed, 22 Apr 2026 17:36:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-23 15:36:11.261894
• Title: Relative Principals, Pluralistic Alignment, and the Structural Value Alignment Problem
• Title（参考訳）: 相対的主成分, 多元的アライメント, 構造的価値アライメント問題
• Authors: Travis LaCroix,
• Abstract要約: 私は、この問題はガバナンスに関する構造的な問題としてよりよく理解されていると論じます。 本稿では, 目的, 情報, プリンシパルの3つの軸に沿って生じる不一致について再認識する。
• 参考スコア（独自算出の注目度）: 0.20305676256390934
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The value alignment problem for artificial intelligence (AI) is often framed as a purely technical or normative challenge, sometimes focused on hypothetical future systems. I argue that the problem is better understood as a structural question about governance: not whether an AI system is aligned in the abstract, but whether it is aligned enough, for whom, and at what cost. Drawing on the principal-agent framework from economics, this paper reconceptualises misalignment as arising along three interacting axes: objectives, information, and principals. The three-axis framework provides a systematic way of diagnosing why misalignment arises in real-world systems and clarifies that alignment cannot be treated as a single technical property of models but an outcome shaped by how objectives are specified, how information is distributed, and whose interests count in practice. The core contribution of this paper is to show that the three-axis decomposition implies that alignment is fundamentally a problem of governance rather than engineering alone. From this perspective, alignment is inherently pluralistic and context-dependent, and resolving misalignment involves trade-offs among competing values. Because misalignment can occur along each axis -- and affect stakeholders differently -- the structural description shows that alignment cannot be "solved" through technical design alone, but must be managed through ongoing institutional processes that determine how objectives are set, how systems are evaluated, and how affected communities can contest or reshape those decisions.
• Abstract（参考訳）: 人工知能(AI)の値アライメント問題は、しばしば純粋に技術的または規範的な挑戦であり、仮説的な未来のシステムに焦点を当てる。 問題は、AIシステムが抽象的に整列されているかどうかではなく、それが十分に整列しているかどうか、誰のために、どのコストがかかっているのか、という、ガバナンスに関する構造的な問題として理解されている、と私は論じます。 本論文は,経済学における主観的枠組みを基礎として,主観的,情報的,主観的という3つの相互作用軸に沿って生じる不整合を再認識する。 3軸のフレームワークは、現実のシステムで不一致が発生する理由を体系的に診断する方法を提供し、アライメントがモデルの単一の技術的特性として扱うことはできないが、目的の特定方法、情報の分散方法、実践上の関心事によって形作られた結果であることを示す。 この論文の中核的な貢献は、3軸分解によって、アライメントが基本的にエンジニアリングのみの問題ではなく、ガバナンスの問題であることを示すことである。 この観点では、アライメントは本質的に多元的であり、コンテキスト依存であり、ミスアライメントの解消には競合する値間のトレードオフが伴う。 構造的記述は、アライメントは技術的な設計だけでは"解決"することはできないが、目的をどのように設定するか、システムをどのように評価するか、影響のあるコミュニティがこれらの決定に異議を唱えたり、再編成したりすることを通じて管理されなければならないことを示している。

関連論文リスト

• Position: General Alignment Has Hit a Ceiling; Edge Alignment Must Be Taken Seriously [51.03213216886717]
  我々は、一般的なアライメントの支配的なパラダイムが、矛盾する値の設定において構造的な天井に達するという立場を取る。 エッジアライメント(Edge Alignment)は,多次元の値構造を保持するシステムにおいて,異なるアプローチである。
  論文  参考訳（メタデータ） (2026-02-23T16:51:43Z)
• From Educational Analytics to AI Governance: Transferable Lessons from Complex Systems Interventions [0.0]
  我々は、CAPIRE内で開発された5つのコア原則が、AIシステム管理の課題に直接移行すると主張している。 どちらの領域も非線形性、出現、フィードバックループ、戦略的適応、経路依存を示す。 我々は、これらの原則を規制設計のために運用する統合フレームワークとして、複合システムAIガバナンス(CSAIG)を提案する。
  論文  参考訳（メタデータ） (2025-12-15T12:16:57Z)
• Quantifying Misalignment Between Agents: Towards a Sociotechnical Understanding of Alignment [2.619545850602691]
  最近の社会技術的アプローチは、複数の人間とAIエージェント間の複雑なミスアライメントを理解する必要性を強調している。 我々は、人間の競合の計算社会科学モデルをアライメント問題に適用する。 我々のモデルは、潜在的に矛盾する目標を持つ多種多様なエージェントグループにおけるミスアライメントを定量化する。
  論文  参考訳（メタデータ） (2024-06-06T16:31:22Z)
• AI Alignment: A Comprehensive Survey [69.61425542486275]
  AIアライメントは、AIシステムが人間の意図や価値観に沿って振る舞うようにすることを目的としている。 AIアライメントの重要な目的として、ロバストネス、解釈可能性、制御可能性、倫理という4つの原則を特定します。 我々は、現在のアライメント研究を、前方アライメントと後方アライメントの2つの重要なコンポーネントに分解する。
  論文  参考訳（メタデータ） (2023-10-30T15:52:15Z)
• Causal Fairness Analysis [68.12191782657437]
  意思決定設定における公平性の問題を理解し、モデル化し、潜在的に解決するためのフレームワークを導入します。 我々のアプローチの主な洞察は、観測データに存在する格差の定量化と、基礎となる、しばしば観測されていない、因果的なメカニズムの収集を結びつけることである。 本研究は,文献中の異なる基準間の関係を整理し,説明するための最初の体系的試みであるフェアネスマップにおいて,本研究の成果を左右するものである。
  論文  参考訳（メタデータ） (2022-07-23T01:06:34Z)
• Steps Towards Value-Aligned Systems [0.0]
  AI/MLを含む)アルゴリズムによる意思決定アーティファクトは、私たちの意思決定エコシステムの確立され成長している部分です。 現在の文献は、個々のアーティファクトが社会的規範や期待にどのように違反するかの例でいっぱいです。 この議論は、社会技術システムにおける価値アライメントを評価するためのより構造化されたシステムレベルのアプローチを論じている。
  論文  参考訳（メタデータ） (2020-02-10T22:47:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。