論文の概要: Model Science: getting serious about verification, explanation and control of AI systems

• arxiv url: http://arxiv.org/abs/2508.20040v1
• Date: Wed, 27 Aug 2025 16:50:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-28 19:07:41.713177
• Title: Model Science: getting serious about verification, explanation and control of AI systems
• Title（参考訳）: モデルサイエンス:AIシステムの検証、説明、制御に真剣に取り組む
• Authors: Przemyslaw Biecek, Wojciech Samek,
• Abstract要約: モデルサイエンスは、トレーニングされたモデルを分析のコアに配置し、その振る舞いを相互作用し、検証し、説明し、制御することを目的としている。 提案されたフレームワークは、信頼できる、安全で、人間に準拠したAIシステムの開発を導くことを目的としている。
• 参考スコア（独自算出の注目度）: 30.654411279722396
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The growing adoption of foundation models calls for a paradigm shift from Data Science to Model Science. Unlike data-centric approaches, Model Science places the trained model at the core of analysis, aiming to interact, verify, explain, and control its behavior across diverse operational contexts. This paper introduces a conceptual framework for a new discipline called Model Science, along with the proposal for its four key pillars: Verification, which requires strict, context-aware evaluation protocols; Explanation, which is understood as various approaches to explore of internal model operations; Control, which integrates alignment techniques to steer model behavior; and Interface, which develops interactive and visual explanation tools to improve human calibration and decision-making. The proposed framework aims to guide the development of credible, safe, and human-aligned AI systems.
• Abstract（参考訳）: ファウンデーションモデルの採用の増加は、データサイエンスからモデルサイエンスへのパラダイムシフトを求めている。 データ中心のアプローチとは異なり、モデルサイエンスはトレーニングされたモデルを分析のコアに配置し、さまざまな運用コンテキストにわたるインタラクション、検証、説明、制御を目的としています。 本稿では、厳密でコンテキスト対応な評価プロトコルを必要とする検証、内部モデル操作を探索するための様々なアプローチとして理解されている説明、モデル動作をステアリングするアライメント技術を統合する制御、人間のキャリブレーションと意思決定を改善するインタラクティブで視覚的な説明ツールを開発するインタフェースという4つの重要な柱の提案とともに、モデルサイエンスと呼ばれる新しい分野の概念的枠組みを紹介する。 提案されたフレームワークは、信頼できる、安全で、人間に準拠したAIシステムの開発を導くことを目的としている。

関連論文リスト

• Neural Network Reprogrammability: A Unified Theme on Model Reprogramming, Prompt Tuning, and Prompt Instruction [55.914891182214475]
  モデル適応のための統一フレームワークとして,ニューラルネットワークの再プログラム可能性を導入する。 本稿では,4つの重要な側面にまたがる情報操作アプローチを分類する分類法を提案する。 残る技術的課題や倫理的考察も分析する。
  論文  参考訳（メタデータ） (2025-06-05T05:42:27Z)
• Information Science Principles of Machine Learning: A Causal Chain Meta-Framework Based on Formalized Information Mapping [7.299890614172539]
  本研究は、機械学習における重要な課題、すなわち、統一的な形式的理論的枠組みの欠如と、モデル解釈可能性と倫理的安全性に関する基礎理論の欠如に対処する。 まず、一般的な機械学習段階における存在論的状態とキャリアマッピングを明確に定義し、形式的な情報モデルを構築する。 学習可能な述語と処理可能な述語を導入し、学習と処理機能を導入することにより、機械学習プロセスを管理する因果連鎖論理と制約法を解析する。
  論文  参考訳（メタデータ） (2025-05-19T14:39:41Z)
• A Survey of Model Architectures in Information Retrieval [59.61734783818073]
  2019年から現在までの期間は、情報検索(IR)と自然言語処理(NLP)における最大のパラダイムシフトの1つとなっている。 従来の用語ベースの手法から現代のニューラルアプローチまで,特にトランスフォーマーベースのモデルとそれに続く大規模言語モデル(LLM)の影響が注目されている。 今後の課題と今後の方向性について、先見的な議論で締めくくります。
  論文  参考訳（メタデータ） (2025-02-20T18:42:58Z)
• Foundation Models for Decision Making: Problems, Methods, and Opportunities [124.79381732197649]
  大規模に多様なデータに基づいて事前訓練された基礎モデルは、幅広いビジョンと言語タスクにおいて異常な能力を示してきた。 ファンデーションモデルをトレーニングし、他のエージェントと対話し、長期的な推論を行うための新しいパラダイムが生まれている。 基礎モデルと意思決定の交わりにおける研究は、強力な新しいシステムを作るための大きな約束である。
  論文  参考訳（メタデータ） (2023-03-07T18:44:07Z)
• DIME: Fine-grained Interpretations of Multimodal Models via Disentangled Local Explanations [119.1953397679783]
  我々は,マルチモーダルモデルの解釈における最先端化に注力する。 提案手法であるDIMEは,マルチモーダルモデルの高精度かつきめ細かな解析を可能にする。
  論文  参考訳（メタデータ） (2022-03-03T20:52:47Z)
• Knowledge-Guided Dynamic Systems Modeling: A Case Study on Modeling River Water Quality [8.110949636804774]
  実世界の現象をモデル化することは、エコロジーモデリングや財務予測など、多くの科学と工学の取り組みの焦点である。 複雑な動的システムのための正確なモデルの構築は、基盤となるプロセスの理解を改善し、リソース効率に繋がる。 反対の極端に、データ駆動モデリングはデータから直接モデルを学び、広範囲なデータと潜在的に過剰なフィッティングを生成する。 中間的アプローチであるモデルリビジョンに注目し,事前知識とデータを組み合わせることで,両世界のベストを達成する。
  論文  参考訳（メタデータ） (2021-03-01T06:31:38Z)
• Goal-Aware Prediction: Learning to Model What Matters [105.43098326577434]
  学習した前進力学モデルを使用する際の根本的な課題の1つは、学習したモデルの目的と下流のプランナーやポリシーの目標とのミスマッチである。 本稿では,タスク関連情報への直接的予測を提案し,そのモデルが現在のタスクを認識し,状態空間の関連量のみをモデル化することを奨励する。 提案手法は,目標条件付きシーンの関連部分を効果的にモデル化し,その結果,標準タスク非依存のダイナミックスモデルやモデルレス強化学習より優れていることがわかった。
  論文  参考訳（メタデータ） (2020-07-14T16:42:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。