論文の概要: Algorithmic Impact Reveals the Hidden Social Choice Structure of Alignment
- arxiv url: http://arxiv.org/abs/2608.24046v1
- Date: Tue, 25 Aug 2026 04:09:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-26 14:09:34.809805
- Title: Algorithmic Impact Reveals the Hidden Social Choice Structure of Alignment
- Title（参考訳）: アルゴリズムによるアライメントの社会的選択構造解明
- Abstract要約: AIアルゴリズムは複数の人に影響を及ぼす決定を行い、それを整列させることは社会的選択の問題となる。
本稿では,社会プランナーの福祉効果に対する制約をプロトコルに翻訳する方法を明らかにする。
- 参考スコア（独自算出の注目度）: 12.571582431269485
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: When an AI algorithm makes decisions that affect more than one person, aligning it becomes a problem of social choice: how should people's divergent preferences about system behavior be reconciled and aggregated into a single coherent model? The standard approach to aligning frontier AI models$\unicode{x2013}$reinforcement learning from human feedback$\unicode{x2013}$largely sidesteps this question and has poor social choice guarantees. However, it remains unclear what alternative should replace it. We show that, by focusing directly on an algorithm's welfare consequences, the alignment problem can be reformulated as linear optimization over a convex impact space, which makes it amenable to the standard toolkit of welfare economics and mechanism design. This reformulation clarifies how alignment protocols translate into welfare consequences and, conversely, how a social planner's desired constraints on welfare consequences can be translated back into alignment protocols. We apply this transformation to show that voting-by-issues and random-dictatorship mechanisms are strategyproof and unanimous. Demonstrating the reverse direction, we also apply the impact representation to derive a family of alignment protocols that maximize utilitarian social welfare subject to various social desiderata, such as bounds on individual or group harm. We illustrate the welfare implications of these alignment protocols empirically using real human preferences over kidney allocation, charitable food distribution, LLM responses, and trolley problems.
- Abstract（参考訳）: AIアルゴリズムが複数の人に影響を与える決定を下すと、それは社会的選択の問題となる。
フロンティアAIモデルを整合させる標準的なアプローチは、人間のフィードバックから学習する$\unicode{x2013}$reinforcementである。
しかし、どのような代替案を置き換えるべきかは定かではない。
アルゴリズムの福祉効果に直接焦点をあてることで、アライメント問題を凸衝撃空間上の線形最適化として再定義することができ、福祉経済学とメカニズム設計の標準ツールキットに適合できることを示す。
この改革は、アライメントプロトコルが福祉的結果にどのように変換されるかを明確にし、逆に、ソーシャルプランナーが望む福祉的結果に対する制約がアライメントプロトコルにどのように変換されるかを明らかにする。
この変換を適用して、投票ごとの投票と無作為な独裁機構が、戦略的で全会一致であることを示す。
また, 逆方向を実証する上で, 個人や集団の危害に対する制限など, 様々な社会的デシダータを対象とする実用的社会福祉を最大化するアライメントプロトコルのファミリを導出するために, インパクト表現を適用した。
これらのアライメントプロトコルの福祉的意義について,腎臓割当,慈善食物分布,LSM応答,トロリー問題に対する実際のヒトの嗜好を実証的に用いた。
関連論文リスト
- Causal Algorithmic Recourse: Foundations and Methods [57.73269033551628]
AIシステムの主な特徴は、個人が否定的な決定を覆す方法のレコメンデーションを提供する能力である。
既存のアプローチでは、recourseの結果を固定単位の反事実として扱う。
我々は、事前および事後結果のプロセスとして、会話をモデル化する因果的枠組みを開発する。
論文 参考訳（メタデータ） (2026-05-12T00:55:19Z) - Alignment as Institutional Design: From Behavioral Correction to Transaction Structure in Intelligent Systems [2.182298024908194]
現在のAIアライメントパラダイムは、行動修正に依存している。
本稿では,行動補正は財産権のない経済と構造的に類似していると主張している。
この枠組みは,行動制御問題から政治・経済問題へのアライメントの転換を図っている。
論文 参考訳（メタデータ） (2026-03-23T02:11:52Z) - From Obstacles to Etiquette: Robot Social Navigation with VLM-Informed Path Selection [57.74400052368147]
本稿では,幾何学的計画と文脈的社会的推論を統合した社会ロボットナビゲーションフレームワークを提案する。
このシステムはまず障害物や人間の力学を抽出し、幾何学的に実現可能な候補経路を生成し、次に細調整された視覚言語モデル(VLM)を利用してこれらの経路を評価する。
4つのソーシャルナビゲーション環境における実験により, 生活空間違反の最小期間, 歩行者面の最小時間, 社会ゾーンの侵入がない場合に, ベストな総合的なパフォーマンスを達成できることが実証された。
論文 参考訳（メタデータ） (2026-02-09T18:46:12Z) - GTAlign: Game-Theoretic Alignment of LLM Assistants for Social Welfare [34.11305361948566]
推論と学習の両方にゲーム理論による意思決定を統合するアライメントフレームワークを提案する。
GTAlignは,ベースラインに比べて推論効率,回答品質,社会福祉を著しく改善することを示した。
論文 参考訳（メタデータ） (2025-10-10T00:05:14Z) - Murphys Laws of AI Alignment: Why the Gap Always Wins [0.0]
我々は,不特定性の下での人間のフィードバックからの強化学習について検討した。
フィードバックがバイアス強度エプシロンを持つ文脈のごく一部に偏りがある場合、任意の学習アルゴリズムは2つの可能な「真の」報酬関数を区別するために指数関数的に多くのサンプルexp(n*alpha*epsilon2)を必要とする。
論文 参考訳（メタデータ） (2025-09-04T23:03:25Z) - From Individual to Multi-Agent Algorithmic Recourse: Minimizing the Welfare Gap via Capacitated Bipartite Matching [9.37591403853433]
本稿では,マルチエージェント・アルゴリズム・リコースのための新しいフレームワークを提案する。
我々のフレームワークは,システム設定に最小限の修正を加えて,多対多のアルゴリズムでほぼ最適の福祉を実現することができる。
論文 参考訳（メタデータ） (2025-08-14T21:04:24Z) - Linear Alignment: A Closed-form Solution for Aligning Human Preferences without Tuning and Feedback [70.32795295142648]
リニアアライメントは、言語モデルと人間の好みを1つの推論ステップで整列する新しいアルゴリズムである。
一般的な選好データセットとパーソナライズされた選好データセットの実験により、線形アライメントはLLMアライメントの性能と効率を大幅に向上させることが示された。
論文 参考訳（メタデータ） (2024-01-21T10:46:23Z) - REBEL: Reward Regularization-Based Approach for Robotic Reinforcement Learning from Human Feedback [61.54791065013767]
報酬関数と人間の嗜好の相違は、現実世界で破滅的な結果をもたらす可能性がある。
近年の手法は、人間の嗜好から報酬関数を学習することで、不適応を緩和することを目的としている。
本稿では,ロボットRLHFフレームワークにおける報酬正規化の新たな概念を提案する。
論文 参考訳（メタデータ） (2023-12-22T04:56:37Z) - Rebalancing Social Feed to Minimize Polarization and Disagreement [24.939887831898453]
本稿では,ユーザのソーシャルフィードをわずかにヌードすることを目的とした新しい問題定式化を提案し,その妥当性と多様性を両立させる。
提案手法は,ユーザがフォローするアカウントの相対的重要性を再重み付けすることで,ユーザに対して様々なアカウントが生成するコンテンツの頻度を校正する。
論文 参考訳（メタデータ） (2023-08-28T10:59:05Z) - Building a Foundation for Data-Driven, Interpretable, and Robust Policy
Design using the AI Economist [67.08543240320756]
AIエコノミストフレームワークは,2段階強化学習とデータ駆動型シミュレーションを用いて,効果的な,柔軟な,解釈可能なポリシー設計を可能にする。
RLを用いて訓練されたログリニア政策は、過去の結果と比較して、公衆衛生と経済の両面から社会福祉を著しく改善することがわかった。
論文 参考訳（メタデータ） (2021-08-06T01:30:41Z) - End-to-End Learning and Intervention in Games [60.41921763076017]
ゲームにおける学習と介入のための統一的なフレームワークを提供する。
明示的および暗黙的な区別に基づく2つのアプローチを提案する。
分析結果は、実世界のいくつかの問題を用いて検証される。
論文 参考訳（メタデータ） (2020-10-26T18:39:32Z) - Fair Policy Targeting [0.6091702876917281]
社会福祉プログラムにおける個人に対する介入を標的とする主な関心事の1つは差別である。
本稿では,公平かつ効率的な処理割り当てルールの設計に関する課題に対処する。
論文 参考訳（メタデータ） (2020-05-25T20:45:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。