論文の概要: Whose Truth? Pluralistic Geo-Alignment for (Agentic) AI
- arxiv url: http://arxiv.org/abs/2508.05432v1
- Date: Thu, 07 Aug 2025 14:21:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-08 18:59:39.906356
- Title: Whose Truth? Pluralistic Geo-Alignment for (Agentic) AI
- Title（参考訳）: 誰が真実か?AIのための多元的ジオアライメント
- Authors: Krzysztof Janowicz, Zilong Liu, Gengchen Mai, Zhangyu Wang, Ivan Majic, Alexandra Fortacz, Grant McKenzie, Song Gao,
- Abstract要約: 適切、真実、法的と見なされるものは、文化的規範、政治的現実、法律によって地域によって大きく異なる可能性がある。
本稿では,重要な地理研究の課題を概観し,今後の研究課題を提案するとともに,アライメント感度を評価する方法の概要を述べる。
- 参考スコア（独自算出の注目度）: 42.108524228070756
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: AI (super) alignment describes the challenge of ensuring (future) AI systems behave in accordance with societal norms and goals. While a quickly evolving literature is addressing biases and inequalities, the geographic variability of alignment remains underexplored. Simply put, what is considered appropriate, truthful, or legal can differ widely across regions due to cultural norms, political realities, and legislation. Alignment measures applied to AI/ML workflows can sometimes produce outcomes that diverge from statistical realities, such as text-to-image models depicting balanced gender ratios in company leadership despite existing imbalances. Crucially, some model outputs are globally acceptable, while others, e.g., questions about Kashmir, depend on knowing the user's location and their context. This geographic sensitivity is not new. For instance, Google Maps renders Kashmir's borders differently based on user location. What is new is the unprecedented scale and automation with which AI now mediates knowledge, expresses opinions, and represents geographic reality to millions of users worldwide, often with little transparency about how context is managed. As we approach Agentic AI, the need for spatio-temporally aware alignment, rather than one-size-fits-all approaches, is increasingly urgent. This paper reviews key geographic research problems, suggests topics for future work, and outlines methods for assessing alignment sensitivity.
- Abstract（参考訳）: AI(super)アライメント(super)アライメント(super)アライメント)は、(将来の)AIシステムが社会的規範や目標に従って行動することを確実にする課題である。
急速に進化する文献はバイアスや不等式に対処しているが、アライメントの地理的変動はいまだに解明されていない。
単純に言えば、文化的規範、政治的現実、法律により、適当、真正、合法と見なされるものは、地域によって大きく異なる可能性がある。
AI/MLワークフローに適用されたアライメント対策は、既存の不均衡にもかかわらず、企業のリーダーシップにおけるバランスの取れた性別比率を描いたテキスト・ツー・イメージモデルなど、統計的現実から逸脱する結果を生み出すことがある。
重要な点として、いくつかのモデル出力はグローバルに受け入れられるが、他のモデル出力、例えば、カシミールに関する質問は、ユーザの位置とコンテキストを知ることに依存する。
この地理的感度は新しいものではない。
例えば、Google Mapsでは、Kashmirのバウンダリはユーザの位置によって異なる。
新たなのは、AIが知識を仲介し、意見を表現し、世界中の数百万のユーザに地理的現実を表現するという、前例のないスケールと自動化だ。
Agentic AIにアプローチするにつれて、一大のアプローチではなく、時空間的に意識したアライメントの必要性がますます緊急になっている。
本稿では,重要な地理研究の課題を概観し,今後の研究課題を提案するとともに,アライメント感度を評価する方法の概要を述べる。
関連論文リスト
- Geopolitical biases in LLMs: what are the "good" and the "bad" countries according to contemporary language models [52.00270888041742]
我々は、中立なイベント記述と異なる国からの視点を対比した新しいデータセットを導入する。
以上の結果から,特定の民族的物語のモデルが好まれる,重要な地政学的偏見がみられた。
単純なデバイアスのプロンプトはこれらのバイアスを減らすのに限られた効果があった。
論文 参考訳（メタデータ） (2025-06-07T10:45:17Z) - The Multilingual Alignment Prism: Aligning Global and Local Preferences to Reduce Harm [17.566947609534356]
AIシステムは世界中でますます使われていますが、安全アライメントは均質なモノリンガル設定に重点を置いています。
我々は、グローバルとローカルの害を区別した、人間の注釈付きレッドチームプロンプトの最初のセットを異なる言語で収集する。
汎用性能の低下を最小限に抑えた6言語にまたがる最先端アライメント手法の新たな先例を確立した。
論文 参考訳（メタデータ） (2024-06-26T18:39:08Z) - Quantifying Misalignment Between Agents: Towards a Sociotechnical Understanding of Alignment [2.619545850602691]
最近の社会技術的アプローチは、複数の人間とAIエージェント間の複雑なミスアライメントを理解する必要性を強調している。
我々は、人間の競合の計算社会科学モデルをアライメント問題に適用する。
我々のモデルは、潜在的に矛盾する目標を持つ多種多様なエージェントグループにおけるミスアライメントを定量化する。
論文 参考訳（メタデータ） (2024-06-06T16:31:22Z) - Large Language Models are Geographically Biased [47.88767211956144]
我々は、地理のレンズを通して、我々の住む世界について、Large Language Models (LLM)が何を知っているかを研究する。
我々は,地理空間予測において,システム的誤りと定義する,様々な問題的地理的バイアスを示す。
論文 参考訳（メタデータ） (2024-02-05T02:32:09Z) - AI Alignment: A Comprehensive Survey [69.61425542486275]
AIアライメントは、AIシステムが人間の意図や価値観に沿って振る舞うようにすることを目的としている。
AIアライメントの重要な目的として、ロバストネス、解釈可能性、制御可能性、倫理という4つの原則を特定します。
我々は、現在のアライメント研究を、前方アライメントと後方アライメントの2つの重要なコンポーネントに分解する。
論文 参考訳（メタデータ） (2023-10-30T15:52:15Z) - GeoNet: Benchmarking Unsupervised Adaptation across Geographies [71.23141626803287]
地理的ロバスト性の問題について検討し、3つの主要な貢献を行う。
まず,地理的適応のための大規模データセットGeoNetを紹介する。
第2に、シーンコンテキストにおける大きな変化から、ドメインシフトの主な原因が生じるという仮説を立てる。
第3に、最先端の教師なしドメイン適応アルゴリズムとアーキテクチャを広範囲に評価する。
論文 参考訳（メタデータ） (2023-03-27T17:59:34Z) - Fairness meets Cross-Domain Learning: a new perspective on Models and
Metrics [80.07271410743806]
クロスドメイン学習(CD)とモデルフェアネスの関係について検討する。
いくつかの人口集団にまたがる顔画像と医療画像のベンチマークと、分類とローカライゼーションタスクについて紹介する。
本研究は,3つの最先端フェアネスアルゴリズムとともに,14のCDアプローチをカバーし,前者が後者に勝ることを示す。
論文 参考訳（メタデータ） (2023-03-25T09:34:05Z) - Bias, diversity, and challenges to fairness in classification and
automated text analysis. From libraries to AI and back [3.9198548406564604]
分類と自動テキスト分析におけるAI利用における偏見と不公平性に関するリスクについて検討する。
我々は「多様性」の概念に関連して「不平等」の概念を詳しく見ていく。
論文 参考訳（メタデータ） (2023-03-07T20:54:49Z) - LioNets: A Neural-Specific Local Interpretation Technique Exploiting
Penultimate Layer Information [6.570220157893279]
解釈可能な機械学習(IML)は研究の緊急のトピックである。
本稿では,テキストデータと時系列データに適用される局所的,神経特異的な解釈プロセスに焦点を当てる。
論文 参考訳（メタデータ） (2021-04-13T09:39:33Z) - Seeking the Shape of Sound: An Adaptive Framework for Learning
Voice-Face Association [94.7030305679589]
上記の課題を共同で解決するための新しい枠組みを提案します。
我々はモダリティアライメントプロセスにグローバル損失を導入する。
提案メソッドは、複数の設定で以前の方法よりも優れています。
論文 参考訳（メタデータ） (2021-03-12T14:10:48Z) - A New Bandit Setting Balancing Information from State Evolution and
Corrupted Context [52.67844649650687]
本稿では,2つの確立されたオンライン学習問題と包括的フィードバックを組み合わせた,逐次的意思決定方式を提案する。
任意の瞬間にプレーする最適なアクションは、エージェントによって直接観察できない基礎となる変化状態に付随する。
本稿では,レフェリーを用いて,コンテキストブレイジットとマルチアームブレイジットのポリシーを動的に組み合わせるアルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-11-16T14:35:37Z) - Data, Power and Bias in Artificial Intelligence [5.124256074746721]
人工知能は社会的偏見を悪化させ、平等な権利と市民の自由における数十年の進歩を取り戻せる可能性がある。
機械学習アルゴリズムの訓練に使用されるデータは、社会で学び、永続する可能性のある社会的不正、不平等、差別的な態度を捉えることができる。
本稿では、異なるドメインからのAIシステムにおけるデータの公正性、公平性、バイアス軽減を保証するための継続的な作業についてレビューする。
論文 参考訳（メタデータ） (2020-07-28T16:17:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。