論文の概要: AI Value Alignment for Evolving Social Norms

• arxiv url: http://arxiv.org/abs/2607.18506v1
• Date: Mon, 20 Jul 2026 21:02:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-22 19:05:05.2431
• Title: AI Value Alignment for Evolving Social Norms
• Title（参考訳）: 社会規範の進化のためのAIバリューアライメント
• Abstract要約: 社会物理学に根ざしたフレキシブルで数学的モデリングの枠組みを導入し,AIの頻繁な利用を前提として,人類の社会規範の進化に関するマクロレベルの疑問に答えることを目的とした。 非適応的なアライメントの定式化で顕著な、バリューロックインとノルマティブモードの崩壊のリスクを強調した。
• 参考スコア（独自算出の注目度）: 8.71949046003755
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI alignment is essential for the safe deployment of advanced AI systems. Given that values and preferences change over time, culture, social roles, and context, we need to develop a better understanding of the possible long-term consequences of AI alignment, in particular considering the likely ubiquitous future use of personalized AI assistants. We introduce a flexible and extensible mathematical modelling framework, rooted in social physics, aimed at answering macro-level questions regarding the evolving social norms in human populations under the assumption of frequent AI use. Our analysis is part-analytical, and part-simulation, enabling us to characterize the long-term dynamical consequences under a diverse set of starting assumptions. We highlight the risk of value lock-in, and normative mode collapse, prominently featured in non-adaptive alignment formulations. Beyond alignment, we advocate for the wider adoption of these kinds of social physics models as an epistemic bridge: enabling rapid, rigorous, and quantitatively-grounded hypothesis testing for sociotechnical foresight in general AI futures, and acting as a tractable precursor to more computationally expensive large-scale agentic evaluations.
• Abstract（参考訳）: 高度なAIシステムの安全なデプロイには、AIアライメントが不可欠だ。 価値と嗜好が時間、文化、社会的役割、文脈によって変化することを考慮すれば、AIアライメントの長期的な影響をよりよく理解する必要がある。 社会物理学に根ざしたフレキシブルで拡張可能な数学的モデリングフレームワークを導入し,AIの頻繁な利用を前提として,人類の社会規範の進化に関するマクロレベルの疑問に答えることを目的とした。 我々の分析は部分解析的であり、そして部分シミュレーションであり、様々な仮定の開始条件の下での長期的動的結果の特徴付けを可能にします。 非適応的なアライメントの定式化で顕著な、バリューロックインとノルマティブモードの崩壊のリスクを強調した。 アライメントの他に、我々は、これらの社会物理学モデルを疫学の橋として広く採用することを提唱している。これは、一般的なAIの未来における社会技術的フォレストに対する迅速で厳密で定量的な仮説テストを可能にし、より計算的に高価な大規模エージェント評価の前駆体として機能する。

関連論文リスト

• A Fair Objective for Human-Empowerment-Preserving AI: Desiderata, Design, and Likely Behavioral Consequences [0.4474253500122443]
  本稿では,AIエージェントが人間に力を与えるように強制することで,人間とAIのインタラクションにおける幸福と安全を促進するという考えを考察する。 我々は、人間力の不平等とリスク-逆の長期的集約を表すAIシステムに対して、パラメトリゾブルで分解可能な客観的関数を設計する。
  論文  参考訳（メタデータ） (2026-08-08T17:07:39Z)
• Why do we need social singularity? A mechanism-based critique of gradual scenarios in AI existential-risk discourse [0.0]
  本稿では,近年の段階的かつ累積的なAI存在リスクシナリオを批判する。 実質的な貢献にもかかわらず、それらは社会学的に不十分なままである、と論じている。
  論文  参考訳（メタデータ） (2026-08-04T16:30:12Z)
• Human-AI Collaborative Uncertainty Quantification [26.38833436936642]
  我々は、AIモデルが人間の専門家の提案する予測セットをいかに洗練するかを形式化するフレームワークであるHuman AI Collaborative Uncertainty Quantificationを紹介する。 最適協調予測セットは1つのスコア関数上の直感的な2つのしきい値構造に従っており、古典的な結果を共形予測で拡張することを示す。 画像分類、回帰、テキストベースの医学的意思決定に関する実験は、協調予測セットがエージェント単独よりも一貫して優れていることを示している。
  論文  参考訳（メタデータ） (2025-10-27T16:11:23Z)
• Adaptive Preference Aggregation [1.6317061277457001]
  社会的選択理論は嗜好を集約する枠組みを提供するが、AIの典型的な多次元アプリケーションのために開発されたものではない。 本研究は、ユーザのコンテキストに適応し、Condorcet-Consistent Solutionのコンセプトである最大抽選の良さを継承する選好集約戦略を導入する。
  論文  参考訳（メタデータ） (2025-03-13T09:57:41Z)
• AI Automatons: AI Systems Intended to Imitate Humans [54.19152688545896]
  人々の行動、仕事、能力、類似性、または人間性を模倣するように設計されたAIシステムが増加している。 このようなAIシステムの研究、設計、展開、可用性は、幅広い法的、倫理的、その他の社会的影響に対する懸念を喚起している。
  論文  参考訳（メタデータ） (2025-03-04T03:55:38Z)
• Over the Edge of Chaos? Excess Complexity as a Roadblock to Artificial General Intelligence [4.901955678857442]
  我々は、AIの性能が臨界複雑性しきい値を超えると不安定になるかもしれない複雑なシステムにおける位相遷移に類似した臨界点の存在を仮定した。 我々のシミュレーションは、AIシステムの複雑さの増加が、より高い臨界閾値を超え、予測不可能なパフォーマンス行動を引き起こすことを実証した。
  論文  参考訳（メタデータ） (2024-07-04T05:46:39Z)
• Position: Towards Bidirectional Human-AI Alignment [109.57781720848669]
  我々は、人間とAIの双方向的・動的関係を説明するために、研究コミュニティは「調整」を明確に定義し、批判的に反映すべきであると主張する。 このフレームワークは、AIと人間の価値を整合させる従来の取り組みを取り入れているだけでなく、人間とAIを整合させるという、重要で未解明の次元も導入しています。
  論文  参考訳（メタデータ） (2024-06-13T16:03:25Z)
• Quantifying Misalignment Between Agents: Towards a Sociotechnical Understanding of Alignment [2.619545850602691]
  最近の社会技術的アプローチは、複数の人間とAIエージェント間の複雑なミスアライメントを理解する必要性を強調している。 我々は、人間の競合の計算社会科学モデルをアライメント問題に適用する。 我々のモデルは、潜在的に矛盾する目標を持つ多種多様なエージェントグループにおけるミスアライメントを定量化する。
  論文  参考訳（メタデータ） (2024-06-06T16:31:22Z)
• Enabling High-Level Machine Reasoning with Cognitive Neuro-Symbolic Systems [67.01132165581667]
  本稿では,認知アーキテクチャを外部のニューロシンボリックコンポーネントと統合することにより,AIシステムにおける高レベル推論を実現することを提案する。 本稿では,ACT-Rを中心としたハイブリッドフレームワークについて紹介し,最近の応用における生成モデルの役割について論じる。
  論文  参考訳（メタデータ） (2023-11-13T21:20:17Z)
• Predictable Artificial Intelligence [77.1127726638209]
  本稿では予測可能なAIのアイデアと課題を紹介する。 それは、現在および将来のAIエコシステムの重要な妥当性指標を予測できる方法を探る。 予測可能性を達成することは、AIエコシステムの信頼、責任、コントロール、アライメント、安全性を促進するために不可欠である、と私たちは主張する。
  論文  参考訳（メタデータ） (2023-10-09T21:36:21Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• An interdisciplinary conceptual study of Artificial Intelligence (AI) for helping benefit-risk assessment practices: Towards a comprehensive qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
  本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。 目的は、AIシステムを評価するための共有概念や相違点を特定することである。
  論文  参考訳（メタデータ） (2021-05-07T12:01:31Z)
• Modelos din\^amicos aplicados \`a aprendizagem de valores em intelig\^encia artificial [0.0]
  この地域の数人の研究者が、人間と環境の保存のための堅牢で有益な、安全なAIの概念を開発した。 人工知能エージェントが人間の価値観に合わせた価値を持っていることは、最も重要である。 おそらくこの難しさは、認知的手法を使って価値を表現するという問題に対処する方法から来ています。
  論文  参考訳（メタデータ） (2020-07-30T00:56:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。