論文の概要: Positive Alignment: Artificial Intelligence for Human Flourishing
- arxiv url: http://arxiv.org/abs/2605.10310v1
- Date: Mon, 11 May 2026 10:11:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:50.718821
- Title: Positive Alignment: Artificial Intelligence for Human Flourishing
- Title（参考訳）: ポジティブアライメント:人間の浮き彫りのための人工知能
- Abstract要約: 既存のアライメント研究は、安全と害の防止に関する懸念に支配されている。
ポジティブアライメント(Positive Alignment)とは、人間と生態の繁栄を積極的に支援するAIシステムの開発である。
- 参考スコア（独自算出の注目度）: 36.70635562721606
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Existing alignment research is dominated by concerns about safety and preventing harm: safeguards, controllability, and compliance. This paradigm of alignment parallels early psychology's focus on mental illness: necessary but incomplete. What we call Positive Alignment is the development of AI systems that (i) actively support human and ecological flourishing in a pluralistic, polycentric, context-sensitive, and user-authored way while (ii) remaining safe and cooperative. It is a distinct and necessary agenda within AI alignment research. We argue that several existing failures of alignment (e.g., engagement hacking, loss of human autonomy, failures in truth-seeking, low epistemic humility, error correction, lack of diverse viewpoints, and being primarily reactive rather than proactive) may be better addressed through positive alignment, including cultivating virtues and maximizing human flourishing. We highlight a range of challenges, open questions, and technical directions (e.g., data filtering and upsampling, pre- and post-training, evaluations, collaborative value collection) for different phases of the LLM and agents lifecycle. We end with design principles for promoting disagreement and decentralization through contextual grounding, community customization, continual adaptation, and polycentric governance; that is, many legitimate centers of oversight rather than one institutional or moral chokepoint.
- Abstract（参考訳）: 既存のアライメント研究は、安全と害の防止に関する懸念、すなわち保護、管理可能性、コンプライアンスに支配されている。
このアライメントのパラダイムは、初期の心理学が精神疾患(必要だが不完全)に焦点を合わせるのと平行している。
ポジティブアライメント(Positive Alignment)とは、AIシステムの開発である。
(i)多元的・多元的・文脈に敏感でユーザ権限のある方法での人的・生態的繁栄を積極的に支援する
(二)安全で協力的なままである。
これはAIアライメント研究において、明確にかつ必要な議題である。
既存のアライメントの失敗(例えば、エンゲージメントハッキング、人間の自律性の喪失、真理探究における失敗、低い認識の謙虚さ、エラー修正、多様な視点の欠如、そして主に積極的な視点の欠如)は、人間の繁栄を最大化することを含むポジティブなアライメントによってよりうまく対処できる、と我々は主張する。
LLMとエージェントライフサイクルの異なるフェーズに対して、さまざまな課題、オープンな質問、技術的な方向性(例えば、データフィルタリングとアップサンプリング、事前および後トレーニング、評価、協調価値収集など)を強調します。
我々は、文脈的基盤化、コミュニティのカスタマイズ、継続的な適応、多中心的なガバナンスを通じて、不一致と分散化を促進する設計原則、すなわち、1つの制度的または道徳的なチョークポイントよりも多くの正当な監視の中心を設計する。
関連論文リスト
- Thesis Proposal: Toward a Human-Centered and Perspective-Aware Framework for Reproducible ML Evaluation and AI Alignment [4.886462623872524]
人間中心のAIシステムを構築する際には、意見の相違を考慮することが不可欠である。
診断はしばしば主観的な人間の意見から生じ、自身のアイデンティティ、信念、社会的環境によって変化する。
再現可能なML評価とAIアライメントのための人間中心・視点対応フレームワークを提案する。
論文 参考訳（メタデータ） (2026-08-31T14:12:23Z) - AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。
我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。
我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
論文 参考訳（メタデータ） (2025-11-27T16:56:04Z) - Alignment and Safety in Large Language Models: Safety Mechanisms, Training Paradigms, and Emerging Challenges [47.14342587731284]
本調査では,大規模言語モデル(LLM)アライメントにおけるアライメント手法,トレーニングプロトコル,経験的発見について概観する。
我々は多種多様なパラダイムをまたいだアライメント手法の開発を分析し、コアアライメント目標間の基本的なトレードオフを特徴づける。
我々は、直接選好最適化(DPO)、構成AI、脳インスパイアされた方法、アライメント不確実性定量化(AUQ)など、最先端技術について議論する。
論文 参考訳（メタデータ） (2025-07-25T20:52:58Z) - Super Co-alignment of Human and AI for Sustainable Symbiotic Society [22.005069513324777]
持続可能な共生社会の価値観は、人間と生きたAIによって共に形成されるべきである。
本稿では,外部監視と本質的プロアクティブアライメントを統合したフレームワークを提案する。
論文 参考訳（メタデータ） (2025-04-24T09:53:49Z) - Research on Superalignment Should Advance Now with Parallel Optimization of Competence and Conformity [30.24208064228573]
スーパーアライメントは達成可能であり、その研究はすぐに進むべきだと我々は主張する。
この研究は、価値に整合した次世代AIを開発するための実践的なアプローチに光を当てている。
論文 参考訳（メタデータ） (2025-03-08T04:10:11Z) - PRISM: Perspective Reasoning for Integrated Synthesis and Mediation as a Multi-Perspective Framework for AI Alignment [0.0]
Perspective Reasoning for Integrated Synthesis and Mediation (PRISM)は、AIアライメントにおける永続的な課題に対処するフレームワークである。
PRISMは道徳的懸念を7つの「基本世界観」にまとめ、それぞれが人間の道徳的認知の異なる次元を捉えていると仮定している。
現実の展開や形式的検証など,今後の方向性を概説するとともに,マルチパースペクティブな合成とコンフリクトの仲介に重点を置きながら,今後の方向性を概説する。
論文 参考訳（メタデータ） (2025-02-05T02:13:57Z) - The Road to Artificial SuperIntelligence: A Comprehensive Survey of Superalignment [33.27140396561271]
大規模言語モデル(LLMs)の出現は、人工超知能(ASI)の可能性を引き起こしている。
Superalignmentは2つの主要な目標 – 高品質なガイダンスシグナルを提供するための監視のスケーラビリティと、人間の価値との整合性を確保するための堅牢なガバナンス – に対処することを目指している。
具体的には、ASIの概念、それらがもたらす課題、そしてスーパーアライメント問題に対処する際の現在のアライメントパラダイムの限界について検討する。
論文 参考訳（メタデータ） (2024-12-21T03:51:04Z) - Position: Towards Bidirectional Human-AI Alignment [109.57781720848669]
我々は、人間とAIの双方向的・動的関係を説明するために、研究コミュニティは「調整」を明確に定義し、批判的に反映すべきであると主張する。
このフレームワークは、AIと人間の価値を整合させる従来の取り組みを取り入れているだけでなく、人間とAIを整合させるという、重要で未解明の次元も導入しています。
論文 参考訳（メタデータ） (2024-06-13T16:03:25Z) - AI Alignment: A Comprehensive Survey [69.61425542486275]
AIアライメントは、AIシステムが人間の意図や価値観に沿って振る舞うようにすることを目的としている。
AIアライメントの重要な目的として、ロバストネス、解釈可能性、制御可能性、倫理という4つの原則を特定します。
我々は、現在のアライメント研究を、前方アライメントと後方アライメントの2つの重要なコンポーネントに分解する。
論文 参考訳（メタデータ） (2023-10-30T15:52:15Z) - Fairness in Agreement With European Values: An Interdisciplinary
Perspective on AI Regulation [61.77881142275982]
この学際的立場の論文は、AIにおける公平性と差別に関する様々な懸念を考察し、AI規制がそれらにどう対処するかについて議論する。
私たちはまず、法律、(AI)産業、社会技術、そして(道徳)哲学のレンズを通して、AIと公正性に注目し、様々な視点を提示します。
我々は、AI公正性の懸念の観点から、AI法の取り組みを成功に導くために、AIレギュレーションが果たす役割を特定し、提案する。
論文 参考訳（メタデータ） (2022-06-08T12:32:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。