論文の概要: Trust in foundation models and GenAI: A geographic perspective

• arxiv url: http://arxiv.org/abs/2510.17942v1
• Date: Mon, 20 Oct 2025 16:59:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-25 03:08:12.427848
• Title: Trust in foundation models and GenAI: A geographic perspective
• Title（参考訳）: 基礎モデルとGenAIの信頼--地理的視点から
• Authors: Grant McKenzie, Krzysztof Janowicz, Carsten Kessler,
• Abstract要約: 大規模で事前訓練された機械学習モデルは、人工知能の理解を変えました。 これらのモデルへの依存が増し、重要な意思決定に頼りになるにつれて、信頼は欠落する概念となっている。 この章は、研究者、実践家、政策立案者が(生産的な)GeoAIの信頼性をよりよく理解するための概念的な出発点を提供することを目的としている。
• 参考スコア（独自算出の注目度）: 1.3483705601540006
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large-scale pre-trained machine learning models have reshaped our understanding of artificial intelligence across numerous domains, including our own field of geography. As with any new technology, trust has taken on an important role in this discussion. In this chapter, we examine the multifaceted concept of trust in foundation models, particularly within a geographic context. As reliance on these models increases and they become relied upon for critical decision-making, trust, while essential, has become a fractured concept. Here we categorize trust into three types: epistemic trust in the training data, operational trust in the model's functionality, and interpersonal trust in the model developers. Each type of trust brings with it unique implications for geographic applications. Topics such as cultural context, data heterogeneity, and spatial relationships are fundamental to the spatial sciences and play an important role in developing trust. The chapter continues with a discussion of the challenges posed by different forms of biases, the importance of transparency and explainability, and ethical responsibilities in model development. Finally, the novel perspective of geographic information scientists is emphasized with a call for further transparency, bias mitigation, and regionally-informed policies. Simply put, this chapter aims to provide a conceptual starting point for researchers, practitioners, and policy-makers to better understand trust in (generative) GeoAI.
• Abstract（参考訳）: 大規模な事前学習された機械学習モデルは、我々の地理分野を含む多くの領域にわたる人工知能の理解を形作り変えてきた。 あらゆる新しい技術と同様に、この議論では信頼が重要な役割を担っている。 本章では,基礎モデルの多面的信頼概念,特に地理的文脈における信頼概念について考察する。 これらのモデルへの依存が増し、重要な意思決定に頼りになるにつれて、信頼は欠落する概念となっている。 ここでは、トレーニングデータの疫学的信頼、モデルの機能に対する運用的信頼、モデル開発者の対人的信頼の3つのタイプに分類する。 それぞれのタイプの信頼は、地理的アプリケーションに固有の意味を持ちます。 文化的文脈、データの異質性、空間的関係といったトピックは空間科学の基本であり、信頼の発達において重要な役割を果たしている。 この章は、さまざまな形式のバイアス、透明性と説明可能性の重要性、モデル開発における倫理的責任によって引き起こされる課題について、議論を続けている。 最後に、地理的情報科学者の新たな視点は、さらなる透明性、偏見緩和、および地域的にインフォームドされた政策を求めることで強調されている。 簡単に言うと、この章は、研究者、実践家、政策立案者が(生産的な)GeoAIの信頼性をよりよく理解するための概念的な出発点を提供することを目的としている。

関連論文リスト

• On the Trustworthiness of Generative Foundation Models: Guideline, Assessment, and Perspective [377.2483044466149]
  Generative Foundation Models (GenFMs) がトランスフォーメーションツールとして登場した。 彼らの広く採用されていることは、次元の信頼に関する重要な懸念を提起する。 本稿では,3つの主要なコントリビューションを通じて,これらの課題に対処するための包括的枠組みを提案する。
  論文  参考訳（メタデータ） (2025-02-20T06:20:36Z)
• Ten Challenging Problems in Federated Foundation Models [55.343738234307544]
  フェデレーション・ファンデーション・モデル(Federated Foundation Models、FedFM)は、フェデレーション・モデルの一般的な能力とフェデレーション・ラーニングのプライバシー保護能力を融合させる分散学習パラダイムである。 本稿では,FedFMに固有の10の課題について,基礎理論,プライベートデータの利用,継続学習,非学習,非IIDおよびグラフデータ,双方向知識伝達,インセンティブ機構設計,ゲーム機構設計,モデル透かし,効率を包括的に要約する。
  論文  参考訳（メタデータ） (2025-02-14T04:01:15Z)
• On the Fairness, Diversity and Reliability of Text-to-Image Generative Models [68.62012304574012]
  マルチモーダル生成モデルは 信頼性 公正性 誤用の可能性について 批判的な議論を巻き起こしました 埋め込み空間におけるグローバルおよびローカルな摂動に対する応答を解析し、モデルの信頼性を評価するための評価フレームワークを提案する。 提案手法は, 信頼できない, バイアス注入されたモデルを検出し, 組込みバイアスの証明をトレースするための基礎となる。
  論文  参考訳（メタデータ） (2024-11-21T09:46:55Z)
• A Systematic Review on Fostering Appropriate Trust in Human-AI Interaction [19.137907393497848]
  人工知能の適切な信頼(AI)システムは、研究者と実践者の両方にとって、急速に重要な領域になってきた。 信頼度スコア、説明、信頼度基準、不確実性通信など、様々なアプローチがそれを達成するために使われてきた。 本稿では、適切な信頼を構築するための現在の実践、それを測定するためのさまざまな方法、使用するタスクの種類、それに関連する潜在的な課題を特定するための体系的なレビューを示す。
  論文  参考訳（メタデータ） (2023-11-08T12:19:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。