論文の概要: Culture in the Code: Anthropological Concepts Decoding AI's Hidden Assumptions

• arxiv url: http://arxiv.org/abs/2610.14203v1
• Date: Fri, 09 Oct 2026 18:13:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 22:41:04.196019
• Title: Culture in the Code: Anthropological Concepts Decoding AI's Hidden Assumptions
• Title（参考訳）: コードの文化:AIの隠れた仮定を解読する人類学的概念
• Abstract要約: AI開発は、狭い文化的視点を反映した知性、合理性、人間の価値に関する基礎的な仮定に基づいて行われる。 本稿では,隠された仮定を隠蔽し,AIアライメントを理解するための代替フレームワークを提供するために,7つの人類学的概念を紹介する。 論文は、AIシステムが社会体験をフラットにする指標を最適化するのではなく、人間の繁栄に寄与する条件を創り出すためには、3つのシフトが必要であると結論付けている。
• 参考スコア（独自算出の注目度）: 0.6204512189452785
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Contemporary AI development operates on foundational assumptions about intelligence, rationality, and human values that reflect narrow cultural perspectives, limiting alternative conceptions of how AI can be globally beneficial. This paper introduces seven anthropological concepts -- origin story, monoculture, thick description, personhood and community, cargo cult, structuralism, and liminality -- to expose hidden assumptions and offer alternative frameworks for understanding AI alignment. The paper examines how AI systems embody Western-centric notions of rationality as utility optimization, personhood as bounded individuals, and values as quantifiable preferences extracted from behavior. The concepts surface three assumptions that current alignment debates rarely examine: that values can be inferred from behavior, quantified, and formalized; that such quantified values capture what actually matters; and that values, once defined with sufficient precision, are appropriate optimization targets. Against "thin alignment" -- optimization for behavioral proxies stripped of context -- the paper proposes directions toward "thick alignment": recognizing that values emerge through social practice rather than existing as extractable properties; defining more appropriate metrics that capture not only end goals but the conditions that lead to long-term flourishing; and moving from models of fixed identity toward relational ontologies where personhood emerges through social participation. The paper concludes that if AI systems are to create conditions conducive to human flourishing rather than optimize metrics that flatten social experiences, three shifts are needed: redistributing interpretive sovereignty to affected communities, protecting what resists optimization, and extending accountability across generations.
• Abstract（参考訳）: 現代のAI開発は、知性、合理性、人間の価値に関する基本的な仮定に基づいており、狭い文化的な視点を反映し、AIがグローバルに有益な方法の代替概念を制限している。 本稿では,隠された仮定を隠蔽し,AIのアライメントを理解するための代替フレームワークを提供するために,オリジナルストーリー,モノカルチャー,厚い記述,人格とコミュニティ,カーゴカルト,構造主義,リミナリティという7つの人類学的概念を紹介した。 本稿は,AIシステムにおいて,実用最適化としての合理性の西洋的概念,有界個人としての人格,行動から抽出した定量的嗜好としての価値観を具現化する方法について検討する。 これらの概念は、現在のアライメントの議論では、振る舞いから推論され、定量化され、形式化されうるという3つの仮定を表面化し、そのような定量化された値は、実際に重要なことをキャプチャし、一度十分な精度で定義された値が適切な最適化目標である、という3つの仮定を提示した。 文脈から切り離された行動プロキシの最適化である「薄めのアライメント」に対して、本稿は「薄めのアライメント」の方向性を提案する。これは、既存の抽出可能な性質ではなく、社会的実践を通じて価値が生まれることを認識すること、目的だけでなく、長期的繁栄につながる条件を捉えるためのより適切なメトリクスを定義すること、固定されたアイデンティティのモデルから、社会的参加を通じて人格が出現する関係オントロジーへと移行することである。 論文は、AIシステムが、社会経験をフラットにする指標を最適化するのではなく、人間の繁栄に寄与する条件を作成するためには、3つのシフトが必要であると結論付けている。

関連論文リスト

• Do LLMs Have Values? A Quantitative Analysis and Alignment Framework for Values in Large Language Models [49.45276299939287]
  大規模言語モデル(LLM)は、ますます複雑な主観的タスクを扱うようになっている。 LLMは、マイナーな単語変更で予測不能に変動する。 この双対性を解決することは 信頼できるAIアライメントに 不可欠です
  論文  参考訳（メタデータ） (2026-09-15T03:35:04Z)
• AI Value Alignment for Evolving Social Norms [8.71949046003755]
  社会物理学に根ざしたフレキシブルで数学的モデリングの枠組みを導入し,AIの頻繁な利用を前提として,人類の社会規範の進化に関するマクロレベルの疑問に答えることを目的とした。 非適応的なアライメントの定式化で顕著な、バリューロックインとノルマティブモードの崩壊のリスクを強調した。
  論文  参考訳（メタデータ） (2026-07-20T21:02:39Z)
• Rethinking How AI Embeds and Adapts to Human Values: Challenges and Opportunities [0.6113558800822273]
  AIシステムは長期的な推論を実装し、進化する価値に適応し続けなければならない、と私たちは主張する。 価値アライメントは、人間の価値の完全なスペクトルに対処するためにより多くの理論を必要とする。 我々は、価値アライメントに関連する課題を特定し、価値アライメント研究を進めるための方向性を示す。
  論文  参考訳（メタデータ） (2025-08-23T18:19:05Z)
• Resource Rational Contractualism Should Guide AI Alignment [69.07915246220985]
  契約主義的アライメントは、多様な利害関係者が支持する合意の中で決定を下すことを提案する。 我々は、AIシステムが合理的な当事者が形成する合意を近似する枠組みであるリソース・リアリズムを提案する。 RRC対応エージェントは、効率的に機能するだけでなく、変化する人間の社会世界への適応と解釈を動的に行うことができる。
  論文  参考訳（メタデータ） (2025-06-20T18:57:13Z)
• Beyond Preferences in AI Alignment [15.878773061188516]
  我々は、AIアライメントに対する優先主義的アプローチを特徴づけ、挑戦する。 人間の価値観の濃厚なセマンティックな内容が、嗜好がどのように捉えられていないかを示す。 我々は、AIシステムは、彼らの社会的役割に適した規範的基準に適合すべきであると主張する。
  論文  参考訳（メタデータ） (2024-08-30T03:14:20Z)
• Concept Alignment as a Prerequisite for Value Alignment [11.236150405125754]
  価値アライメントは、人々と安全かつ確実に対話できるAIシステムを構築するために不可欠である。 概念のアライメントが体系的な価値のアライメントにどのように結びつくかを示します。 我々は、人の概念や価値観を共同で推論することで、このような障害モードを最小化するアプローチについて説明する。
  論文  参考訳（メタデータ） (2023-10-30T22:23:15Z)
• Value Kaleidoscope: Engaging AI with Pluralistic Human Values, Rights, and Duties [68.66719970507273]
  価値多元性とは、複数の正しい値が互いに緊張して保持されるという考え方である。 統計的学習者として、AIシステムはデフォルトで平均に適合する。 ValuePrismは、218kの値、権利、義務の大規模なデータセットで、31kの人間が記述した状況に関連付けられています。
  論文  参考訳（メタデータ） (2023-09-02T01:24:59Z)
• Heterogeneous Value Alignment Evaluation for Large Language Models [91.96728871418]
  大規模言語モデル(LLM)は、その価値を人間のものと整合させることを重要視している。 本研究では,LLMと不均一値の整合性を評価するため,不均一値アライメント評価(HVAE)システムを提案する。
  論文  参考訳（メタデータ） (2023-05-26T02:34:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。