論文の概要: Reliable and Responsible Foundation Models: A Comprehensive Survey

• arxiv url: http://arxiv.org/abs/2602.08145v1
• Date: Wed, 04 Feb 2026 17:25:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-10 20:26:24.998644
• Title: Reliable and Responsible Foundation Models: A Comprehensive Survey
• Title（参考訳）: 信頼性と責任を負う基礎モデル:総合的な調査
• Authors: Xinyu Yang, Junlin Han, Rishi Bommasani, Jinqi Luo, Wenjie Qu, Wangchunshu Zhou, Adel Bibi, Xiyao Wang, Jaehong Yoon, Elias Stengel-Eskin, Shengbang Tong, Lingfeng Shen, Rafael Rafailov, Runjia Li, Zhaoyang Wang, Yiyang Zhou, Chenhang Cui, Yu Wang, Wenhao Zheng, Huichi Zhou, Jindong Gu, Zhaorun Chen, Peng Xia, Tony Lee, Thomas Zollo, Vikash Sehwag, Jixuan Leng, Jiuhai Chen, Yuxin Wen, Huan Zhang, Zhun Deng, Linjun Zhang, Pavel Izmailov, Pang Wei Koh, Yulia Tsvetkov, Andrew Wilson, Jiaheng Zhang, James Zou, Cihang Xie, Hao Wang, Philip Torr, Julian McAuley, David Alvarez-Melis, Florian Tramèr, Kaidi Xu, Suman Jana, Chris Callison-Burch, Rene Vidal, Filippos Kokkinos, Mohit Bansal, Beidi Chen, Huaxiu Yao,
• Abstract要約: 本調査は,基礎モデルの信頼性と責任を問うものである。 バイアスと公平性、セキュリティとプライバシ、不確実性、説明可能性、分散シフトなど、重要な問題について検討する。 各分野について,フィールドの現状を概観し,今後の研究の方向性について概説する。
• 参考スコア（独自算出の注目度）: 287.21660198043145
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Foundation models, including Large Language Models (LLMs), Multimodal Large Language Models (MLLMs), Image Generative Models (i.e, Text-to-Image Models and Image-Editing Models), and Video Generative Models, have become essential tools with broad applications across various domains such as law, medicine, education, finance, science, and beyond. As these models see increasing real-world deployment, ensuring their reliability and responsibility has become critical for academia, industry, and government. This survey addresses the reliable and responsible development of foundation models. We explore critical issues, including bias and fairness, security and privacy, uncertainty, explainability, and distribution shift. Our research also covers model limitations, such as hallucinations, as well as methods like alignment and Artificial Intelligence-Generated Content (AIGC) detection. For each area, we review the current state of the field and outline concrete future research directions. Additionally, we discuss the intersections between these areas, highlighting their connections and shared challenges. We hope our survey fosters the development of foundation models that are not only powerful but also ethical, trustworthy, reliable, and socially responsible.
• Abstract（参考訳）: 大規模言語モデル(LLM)、マルチモーダル大言語モデル(MLLM)、画像生成モデル(テキスト・ツー・イメージモデルと画像編集モデル)、ビデオ生成モデルを含む基礎モデルは、法律、医学、教育、金融、科学など様々な分野にまたがる幅広い応用に欠かせないツールとなっている。 これらのモデルが現実世界の展開を増やすにつれて、学術、産業、政府にとって信頼性と責任の確保が重要になっている。 本調査は,基礎モデルの信頼性と責任を問うものである。 バイアスと公平性、セキュリティとプライバシ、不確実性、説明可能性、分散シフトなど、重要な問題について検討する。 私たちの研究は、幻覚などのモデル制限や、アライメントや人工知能生成コンテンツ(AIGC)の検出方法についても取り上げています。 各分野について,フィールドの現状を概観し,今後の研究の方向性について概説する。 さらに、これらの領域間の交差を議論し、それらの関係を強調し、課題を共有します。 われわれの調査は、強力なだけでなく、倫理的、信頼できる、社会的に責任のある基礎モデルの開発を促進することを願っている。

関連論文リスト

• A Survey of AI for Materials Science: Foundation Models, LLM Agents, Datasets, and Tools [15.928285656168422]
  ファンデーションモデル(FM)は、科学的発見のためにスケーラブルで汎用的でマルチモーダルなAIシステムを実現する。 この調査は、この成長分野をサポートする基盤モデル、エージェントシステム、データセット、計算ツールの包括的概要を提供する。
  論文  参考訳（メタデータ） (2025-06-25T18:10:30Z)
• Anomaly Detection and Generation with Diffusion Models: A Survey [51.61574868316922]
  異常検出(AD)は、サイバーセキュリティ、金融、医療、工業製造など、さまざまな分野において重要な役割を担っている。 近年のディープラーニング,特に拡散モデル(DM)の進歩は,大きな関心を集めている。 この調査は、研究者や実践者が様々なアプリケーションにまたがる革新的なADソリューションにDMを利用することをガイドすることを目的としている。
  論文  参考訳（メタデータ） (2025-06-11T03:29:18Z)
• Safety at Scale: A Comprehensive Survey of Large Model and Agent Safety [296.5392512998251]
  我々は、敵攻撃、データ中毒、バックドア攻撃、ジェイルブレイクとプロンプトインジェクション攻撃、エネルギー遅延攻撃、データとモデル抽出攻撃、出現するエージェント固有の脅威を含む、大規模なモデルに対する安全脅威の包括的分類を提示する。 我々は、大規模なモデル安全性におけるオープンな課題を特定し、議論し、包括的な安全性評価、スケーラブルで効果的な防御機構、持続可能なデータプラクティスの必要性を強調します。
  論文  参考訳（メタデータ） (2025-02-02T05:14:22Z)
• On the Trustworthiness Landscape of State-of-the-art Generative Models: A Survey and Outlook [26.491739980732927]
  拡散モデルと大きな言語モデルは、最先端の生成モデルとして現れている。 本稿は, プライバシ, 2) セキュリティ, 3) 公平性, 4) 責任という4つの基本的な側面において, モデルにまつわる長年の脅威と新興の脅威について検討する。
  論文  参考訳（メタデータ） (2023-07-31T13:57:05Z)
• On the Opportunities and Risks of Foundation Models [256.61956234436553]
  これらのモデルの基礎モデルは、批判的に中心的だが不完全な性格を根底から立証するものです。 本報告では,基礎モデルの可能性とリスクについて概説する。 これらの疑問に対処するためには、基礎モデルに関する重要な研究の多くは、深い学際的なコラボレーションが必要であると信じている。
  論文  参考訳（メタデータ） (2021-08-16T17:50:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。