論文の概要: Structuring the Space of Sociotechnical Alignment

• arxiv url: http://arxiv.org/abs/2607.01250v1
• Date: Tue, 02 Jun 2026 12:01:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-05 17:01:29.635397
• Title: Structuring the Space of Sociotechnical Alignment
• Title（参考訳）: 社会工学的アライメントの空間構築
• Abstract要約: NLP研究は、しばしば「社会的望ましさ」がもたらす意味を過小評価していると論じる。 我々は,社会工学的アライメントを特定するための人間中心の枠組みを導入する。
• 参考スコア（独自算出の注目度）: 6.227886907896225
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Sociotechnical alignment concerns the social desirability of AI behavior and is thus inherently normative, not merely technical. While NLP research increasingly addresses its technical aspects, it often leaves underspecified what such "social desirability" entails. We argue that this reflects a fundamental gap: the absence of a systematic way to specify how sociotechnical alignment defines, justifies, and evaluates socially desirable AI behavior. To address this gap, we introduce a human-centered framework for specifying sociotechnical alignment. We draw on social-scientific accounts of sociobehavioral desirability to ground the basis for behavioral desirability judgments and use this framework to analyze how alignment is specified in practice. Our systematic literature review identifies recurring patterns: normative concepts grounding desirability judgments are often unspecified or conflated with alignment targets for (desired) system behavior, target populations are underdefined, and design choices are rarely theoretically justified. These findings point to a lack of conceptual specificity that limits cumulative progress. We therefore offer recommendations that link social-scientific frameworks to alignment design choices, supporting more conceptually precise approaches to sociotechnical alignment.
• Abstract（参考訳）: 社会技術的アライメントは、AI行動の社会的望ましさに関係しており、したがって本質的に規範的であり、単なる技術ではない。 NLPの研究はますます技術的側面に対処するが、そのような「社会的望ましさ」がもたらす意味を未特定のまま残すことが多い。 社会技術的アライメントをどのように定義し、正当化し、社会的に望ましいAI行動を評価する体系的な方法が存在しないこと。 このギャップに対処するために、社会工学的アライメントを特定するための人間中心の枠組みを導入する。 我々は,社会行動の嗜好性に関する社会科学的説明に基づいて行動の嗜好性判断の基礎を定め,この枠組みを用いて,実際にアライメントがどのように特定されているかを分析する。 本研究の体系的文献レビューでは, 望ましくない判断を基礎とする規範的概念は, システム動作のアライメント目標と混同されることがしばしばあり, 対象個体数は未定義であり, 設計選択が理論的に正当化されることは稀である。 これらの知見は、累積的な進行を制限する概念的特異性の欠如を示唆している。 したがって、我々は、社会科学的枠組みをデザイン選択の整合性に結びつけるレコメンデーションを提供し、より概念的に正確な社会技術的アライメントのアプローチをサポートする。

関連論文リスト

• Bridging Formal and Perceived Fairness: Development of an Interdisciplinary Framework in Algorithmic Decision-Making [4.0890152430062185]
  本稿では,コンピュータサイエンスのアプローチを規範的,社会科学のフェアネスのアプローチで形式的アルゴリズムフェアネスにブリッジする作業中の概念的枠組みを提案する。 本研究の目的は,計算公正度監査とユーザ中心評価を統合する評価手法を提供することである。
  論文  参考訳（メタデータ） (2026-09-03T13:45:42Z)
• Beyond Rational Illusion: Behaviorally Realistic Strategic Classification [56.458581740660236]
  本稿では,行動的現実的な戦略分類問題に対処するために,プロビジョンガイド型戦略フレームワーク(Pro-SF)を提案する。 Pro-SFは、行動学的に現実的な戦略的な反応の下でモデル化し、学習するための予測理論に基づく原則化されたフレームワークである。 合成および実世界のデータセットの実験は、Pro-SFを戦略分類の行動的基盤としたアプローチとして確立する。
  論文  参考訳（メタデータ） (2026-05-19T11:04:55Z)
• A Theory of Appropriateness That Accounts for Norms of Rationality [43.71392927070801]
  本稿では,個人が予測パターン補完を通じて行動を生成する規範的適切性の社会第一理論を提案する。 この感覚形成メカニズムは、人間の規範の重要な特徴の同義的な説明を提供する。
  論文  参考訳（メタデータ） (2026-03-14T17:41:18Z)
• Position: General Alignment Has Hit a Ceiling; Edge Alignment Must Be Taken Seriously [51.03213216886717]
  我々は、一般的なアライメントの支配的なパラダイムが、矛盾する値の設定において構造的な天井に達するという立場を取る。 エッジアライメント(Edge Alignment)は,多次元の値構造を保持するシステムにおいて,異なるアプローチである。
  論文  参考訳（メタデータ） (2026-02-23T16:51:43Z)
• A Feminist Account of Intersectional Algorithmic Fairness [0.0]
  我々は、交差フェミニスト理論からの洞察により、グリーンの実体的アルゴリズムフェアネスの概念を拡張した実体的区間的アルゴリズムフェアネスを提案する。 我々は,アルゴリズムシステムの設計,評価,展開を指導するために,ROOF方法論に10のデシラタを導入している。 計算科学と社会科学の視点をブリッジすることで、より公平で包括的で文脈に敏感な交叉アルゴリズムの実践のための実用的なガイダンスを提供する。
  論文  参考訳（メタデータ） (2025-08-25T12:09:04Z)
• Algorithmic Fairness: Not a Purely Technical but Socio-Technical Property [4.2894701473635966]
  公正さは純粋にモデルに関する技術的な制約に還元できないと我々は主張する。 本研究では,既存の公正度尺度の限界について,概念分析と実証図面を用いて検討する。 これらの発見は、技術的フォーマライゼーションと社会的現実のギャップを埋める助けになると考えています。
  論文  参考訳（メタデータ） (2025-06-14T15:54:45Z)
• Prioritization First, Principles Second: An Adaptive Interpretation of Helpful, Honest, and Harmless Principles [30.405680322319242]
  Helpful, Honest, and Harmless(HHH)原則は、AIシステムを人間の価値と整合させるためのフレームワークである。 我々は,HHH原理の適応的解釈を論じ,多様なシナリオへの適応のための参照フレームワークを提案する。 この作業は、AIアライメントを改善するための実践的な洞察を提供し、HHH原則が現実のAIデプロイメントにおいて基礎的かつ運用的に有効であることを保証する。
  論文  参考訳（メタデータ） (2025-02-09T22:41:24Z)
• Beyond Preferences in AI Alignment [15.878773061188516]
  我々は、AIアライメントに対する優先主義的アプローチを特徴づけ、挑戦する。 人間の価値観の濃厚なセマンティックな内容が、嗜好がどのように捉えられていないかを示す。 我々は、AIシステムは、彼らの社会的役割に適した規範的基準に適合すべきであると主張する。
  論文  参考訳（メタデータ） (2024-08-30T03:14:20Z)
• Position: Towards Bidirectional Human-AI Alignment [109.57781720848669]
  我々は、人間とAIの双方向的・動的関係を説明するために、研究コミュニティは「調整」を明確に定義し、批判的に反映すべきであると主張する。 このフレームワークは、AIと人間の価値を整合させる従来の取り組みを取り入れているだけでなく、人間とAIを整合させるという、重要で未解明の次元も導入しています。
  論文  参考訳（メタデータ） (2024-06-13T16:03:25Z)
• "One-Size-Fits-All"? Examining Expectations around What Constitute "Fair" or "Good" NLG System Behaviors [57.63649797577999]
  NLGシステム入力において、異なる種類のアイデンティティ関連言語特徴(名前、役割、場所、方言、スタイル)を摂動するケーススタディを行う。 適応の動機には、社会的規範、文化的相違、特徴特化情報、宿泊が含まれる。 対照的に、不変性のモチベーションには、規範主義を支持する視点、NLGシステムが適切に行うのが不必要または困難であると見なす視点、偽の仮定に注意を払っている視点が含まれる。
  論文  参考訳（メタデータ） (2023-10-23T23:00:34Z)
• Tensions Between the Proxies of Human Values in AI [20.303537771118048]
  AIコミュニティは、これらの柱の特定の定式化を選択するすべての結果を検討する必要がある、と私たちは主張する。 我々は,後者のフレームワークに関する社会工学的な研究をめざしているが,実際に実施するためには,より広範な努力が必要である。
  論文  参考訳（メタデータ） (2022-12-14T21:13:48Z)
• An interdisciplinary conceptual study of Artificial Intelligence (AI) for helping benefit-risk assessment practices: Towards a comprehensive qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
  本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。 目的は、AIシステムを評価するための共有概念や相違点を特定することである。
  論文  参考訳（メタデータ） (2021-05-07T12:01:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。