論文の概要: Structural transparency of societal AI alignment through Institutional Logics
- arxiv url: http://arxiv.org/abs/2602.08246v1
- Date: Mon, 09 Feb 2026 03:51:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-10 20:26:25.058326
- Title: Structural transparency of societal AI alignment through Institutional Logics
- Title（参考訳）: 制度論理による社会的AIアライメントの構造的透明性
- Abstract要約: 我々は,AIアライメントに関する組織的および制度的な決定を分析するための,環境透明性の枠組みを開発する。
フレームワークを5つの分析コンポーネントで運用し、それぞれに「分析レシピ」を添付します。
- 参考スコア（独自算出の注目度）: 2.320417845168326
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The field of AI alignment is increasingly concerned with the questions of how values are integrated into the design of generative AI systems and how their integration shapes the social consequences of AI. However, existing transparency frameworks focus on the informational aspects of AI models, data, and procedures, while the institutional and organizational forces that shape alignment decisions and their downstream effects remain underexamined in both research and practice. To address this gap, we develop a framework of \emph{structural transparency} for analyzing organizational and institutional decisions concerning AI alignment, drawing on the theoretical lens of Institutional Logics. We develop a categorization of organizational decisions that are present in the governance of AI alignment, and provide an explicit analytical approach to examining them. We operationalize the framework through five analytical components, each with an accompanying "analyst recipe" that collectively identify the primary institutional logics and their internal relationships, external disruptions to existing social orders, and finally, how the structural risks of each institutional logic are mapped to a catalogue of sociotechnical harms. The proposed concept of structural transparency enables analysts to complement existing approached based on informational transparency with macro-level analyses that capture the institutional dynamics and consequences of decisions regarding AI alignment.
- Abstract（参考訳）: AIアライメントの分野は、どのように価値が生成型AIシステムの設計に組み込まれるか、そしてそれらの統合がAIの社会的結果をどのように形作るのかという疑問に、ますます関心を寄せている。
しかし、既存の透明性フレームワークは、AIモデル、データ、手続きの情報的側面に重点を置いている一方、アライメント決定と下流効果を形成する組織的および組織的な力は、研究と実践の両方において過小評価されているままである。
そこで我々は,AIアライメントに関する組織的および制度的な決定を,制度論理学の理論的なレンズに基づいて分析する,‘emph{structureural transparency’ の枠組みを開発した。
我々は、AIアライメントのガバナンスに存在する組織的決定の分類を開発し、それらを調べるための明確な分析的アプローチを提供する。
我々は,5つの分析的構成要素を通じてフレームワークを運用し,それぞれに,主要な制度論理とその内部関係,既存の社会秩序に対する外的混乱,そして最後に,各制度論理の構造的リスクが社会技術的損害のカタログにどのようにマッピングされるかを明らかにする。
構造的透明性の概念により、アナリストは情報的透明性に基づいてアプローチされた既存のアプローチをマクロレベルの分析で補完することができ、AIアライメントに関する制度的ダイナミクスや決定の結果を捉えることができる。
関連論文リスト
- Assessing Company Contributions to Societal Resilience: Extending the Societal Capacity Assessment Framework to Agentic AI [40.57385775451146]
本稿では,企業の展開決定が社会的レジリエンスにどのように貢献するかを評価するために,指標に基づくソシエタルキャパシティアセスメントフレームワークを適用した。
当社の手順には,企業のAIデプロイメント決定を評価する上で,SCAFの脆弱性,対処,適応能力が持つ意味を定義する指標セットを設計する概念的なステップと,このフレームワークをパブリックなMicrosoftドキュメントの構造化された評価に応用する測定ステップの2つのステップがあります。
論文 参考訳（メタデータ） (2026-08-27T15:21:41Z) - Neuro-Symbolic Agents for Regulated Process Automation: Challenges and Research Agenda [43.328395470827665]
規制産業に埋め込まれた象徴的な構造は、コアアーキテクチャコンポーネントとして扱われるべきである、と我々は主張する。
本稿では,鉄道監視の補完パラダイムとしてコンプライアンス・バイ・コンストラクションを提案する。
我々は、高影響研究領域として、規制プロセスの自動化に携わるよう、ニューロシンボリックなコミュニティに呼びかける。
論文 参考訳（メタデータ） (2026-06-11T14:34:11Z) - The Hourglass Revolution: A Theoretical Framework of AI's Impact on Organizational Structures in Developed and Emerging Markets [0.0]
本稿では,人工知能(AI)が組織構造をどのように変換するかを理論的に検討する。
この分析は、AIが従来の構造的境界を越えて組織的な形を可能にすることを示す3つの重要なメカニズムを特定している。
論文 参考訳（メタデータ） (2026-03-18T11:52:29Z) - A Survey of Reasoning in Autonomous Driving Systems: Open Challenges and Emerging Paradigms [49.66022971508878]
私たちは、推論はモジュラーコンポーネントからシステムの認知コアに高めるべきだと論じています。
応答性推論のトレードオフやソーシャルゲーム推論など,7つの中核的推論課題を導出し,体系化する。
我々は,LLMに基づく推論と,ミリ秒スケールで安全クリティカルな車両制御の要求との間の,高レイテンシ,熟考的特性の根本的かつ未解決な緊張関係を同定する。
論文 参考訳（メタデータ） (2026-03-11T07:40:53Z) - Understanding AI Trustworthiness: A Scoping Review of AIES & FAccT Articles [41.419459280691605]
信頼できるAIは、AIESとFAccTという2つの主要なAI倫理カンファレンスの基礎となっている。
このスコーピングレビューは、AIESとFAccTコミュニティがAIの信頼性を概念化し、測定し、検証する方法を検討することを目的としている。
論文 参考訳（メタデータ） (2025-10-24T09:40:38Z) - Alignment and Safety in Large Language Models: Safety Mechanisms, Training Paradigms, and Emerging Challenges [47.14342587731284]
本調査では,大規模言語モデル(LLM)アライメントにおけるアライメント手法,トレーニングプロトコル,経験的発見について概観する。
我々は多種多様なパラダイムをまたいだアライメント手法の開発を分析し、コアアライメント目標間の基本的なトレードオフを特徴づける。
我々は、直接選好最適化(DPO)、構成AI、脳インスパイアされた方法、アライメント不確実性定量化(AUQ)など、最先端技術について議論する。
論文 参考訳（メタデータ） (2025-07-25T20:52:58Z) - From Firms to Computation: AI Governance and the Evolution of Institutions [0.0]
本稿は,多段階選択理論,Aoki の計算プロセスとしての企業観,Ostrom の設計原理の3つの枠組みを合成する。
我々は,AI関連のリスクに対処するアライメントメカニズムとして,選択を組織レベルで同時に運用するフレームワークを開発し,ゲーム理論アーキテクチャによる分散推論を実装し,オストロムスタイルのルールは進化する。
私たちは、組織層をまたいだ人間とAIの整合性を運用し、スケーラブルで適応的で包括的なAIシステムのガバナンスを可能にする一連の設計原則を提案して、結論付けました。
論文 参考訳（メタデータ） (2025-07-18T02:52:58Z) - KERAIA: An Adaptive and Explainable Framework for Dynamic Knowledge Representation and Reasoning [46.85451489222176]
KERAIAはシンボリックナレッジエンジニアリングのための新しいフレームワークとソフトウェアプラットフォームである。
動的で複雑でコンテキストに敏感な環境で知識を表現、推論、実行するという永続的な課題に対処する。
論文 参考訳（メタデータ） (2025-05-07T10:56:05Z) - Media and responsible AI governance: a game-theoretic and LLM analysis [61.132523071109354]
本稿では,信頼できるAIシステムを育成する上での,AI開発者,規制当局,ユーザ,メディア間の相互作用について検討する。
進化的ゲーム理論と大言語モデル(LLM)を用いて、異なる規制体制下でこれらのアクター間の戦略的相互作用をモデル化する。
論文 参考訳（メタデータ） (2025-03-12T21:39:38Z) - Making Sense of AI Limitations: How Individual Perceptions Shape Organizational Readiness for AI Adoption [0.0]
本研究では,人工知能(AI)の限界に対する個人の認識が,AI導入の組織的準備にどのように影響するかを検討する。
この研究は、個々のセンスメイキング、社会学習、フォーマルな統合プロセスの間の動的相互作用を通じて、組織的準備が生まれることを明らかにしている。
論文 参考訳（メタデータ） (2025-02-21T18:31:08Z) - AI and the Transformation of Accountability and Discretion in Urban Governance [1.9152655229960793]
この研究は洞察を合成し、意思決定プロセスにおける責任あるAI統合のための指針原則を提案する。
分析によると、AIは単に判断を制限したり、強化したりするのではなく、制度レベルで再配布する。
同時に管理の監督を強化し、意思決定の整合性を高め、運用効率を向上させることができる。
論文 参考訳（メタデータ） (2025-02-18T18:11:39Z) - Levels of AGI for Operationalizing Progress on the Path to AGI [53.28828093836034]
本稿では,人工知能(AGI)モデルとその前駆体の性能と動作を分類する枠組みを提案する。
このフレームワークは、AGIのパフォーマンス、一般性、自律性のレベルを導入し、モデルを比較し、リスクを評価し、AGIへの道筋に沿って進捗を測定する共通の言語を提供する。
論文 参考訳（メタデータ） (2023-11-04T17:44:58Z) - 'Team-in-the-loop': Ostrom's IAD framework 'rules in use' to map and measure contextual impacts of AI [0.0]
この記事では、OstromのInstitutional Analysis and Development Framework(IAD)の'rules in use'が、AIのコンテキスト分析アプローチとしてどのように開発できるかを考察する。
論文 参考訳（メタデータ） (2023-03-24T14:01:00Z) - Causal Fairness Analysis [68.12191782657437]
意思決定設定における公平性の問題を理解し、モデル化し、潜在的に解決するためのフレームワークを導入します。
我々のアプローチの主な洞察は、観測データに存在する格差の定量化と、基礎となる、しばしば観測されていない、因果的なメカニズムの収集を結びつけることである。
本研究は,文献中の異なる基準間の関係を整理し,説明するための最初の体系的試みであるフェアネスマップにおいて,本研究の成果を左右するものである。
論文 参考訳（メタデータ） (2022-07-23T01:06:34Z) - A Framework for Understanding AI-Induced Field Change: How AI
Technologies are Legitimized and Institutionalized [0.0]
本稿では,AIによるフィールド変化を分析し,理解するための概念的枠組みを提案する。
新たなAIエージェントを新しい分野や既存の分野に導入することで、アルゴリズムが組織や機関を(再)形成するダイナミクスが生まれる。
AIが引き起こす分野を取り巻く制度的なインフラは概してほとんど精巧ではないため、今後AIシステムのより広範な制度化に支障をきたす可能性がある。
論文 参考訳（メタデータ） (2021-08-18T14:06:08Z) - An interdisciplinary conceptual study of Artificial Intelligence (AI)
for helping benefit-risk assessment practices: Towards a comprehensive
qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。
目的は、AIシステムを評価するための共有概念や相違点を特定することである。
論文 参考訳（メタデータ） (2021-05-07T12:01:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。