論文の概要: Concept Extrapolation: A Conceptual Primer

• arxiv url: http://arxiv.org/abs/2306.10999v1
• Date: Mon, 19 Jun 2023 15:07:16 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-21 17:20:47.190591
• Title: Concept Extrapolation: A Conceptual Primer
• Title（参考訳）: 概念外挿:概念的プライマー
• Authors: Matija Franklin, Rebecca Gorman, Hal Ashton, Stuart Armstrong
• Abstract要約: この記事では、概念外挿(concept extrapolation)の原動力として、あるコンテキストで定義された概念、機能、あるいは目標を、より一般的なコンテキストに安全に外挿する能力について述べます。 論文では、人工知能のアライメントには外挿の概念が必要であると論じている。
• 参考スコア（独自算出の注目度）: 8.975330500836057
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This article is a primer on concept extrapolation - the ability to take a concept, a feature, or a goal that is defined in one context and extrapolate it safely to a more general context. Concept extrapolation aims to solve model splintering - a ubiquitous occurrence wherein the features or concepts shift as the world changes over time. Through discussing value splintering and value extrapolation the article argues that concept extrapolation is necessary for Artificial Intelligence alignment.
• Abstract（参考訳）: この記事では、概念外挿(concept extrapolation)の原動力として、あるコンテキストで定義された概念、機能、あるいは目標を、より一般的なコンテキストに安全に外挿する能力について述べます。 概念の外挿は、世界が時間とともに変化するにつれて、機能や概念が変化するユビキタスな出来事であるモデルスプリッタリングを解決することを目的としています。 価値の散開と価値の補間について議論することで、論文は人工知能のアライメントには概念の補間が必要であると主張している。

関連論文リスト

• Exploiting Interpretable Capabilities with Concept-Enhanced Diffusion and Prototype Networks [8.391254800873599]
  既存のアーキテクチャに概念情報を組み込んだ、概念に富んだモデルを作成します。 特に,概念の視覚的表現を生成できる概念誘導拡散条件と,概念誘導型プロトタイプネットワークを提案する。 これらの結果は、機械学習をより人間に理解しやすいものにするために、既存の情報を活用することによって、新たな研究の行を開放する。
  論文  参考訳（メタデータ） (2024-10-24T13:07:56Z)
• Improving Intervention Efficacy via Concept Realignment in Concept Bottleneck Models [57.86303579812877]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念に基づいて、解釈可能なモデル決定を可能にする画像分類である。 既存のアプローチは、強いパフォーマンスを達成するために、画像ごとに多数の人間の介入を必要とすることが多い。 本稿では,概念関係を利用した学習型概念認識介入モジュールについて紹介する。
  論文  参考訳（メタデータ） (2024-05-02T17:59:01Z)
• ConcEPT: Concept-Enhanced Pre-Training for Language Models [57.778895980999124]
  ConcEPTは、概念知識を事前訓練された言語モデルに注入することを目的としている。 これは、事前訓練されたコンテキストで言及されたエンティティの概念を予測するために、外部エンティティの概念予測を利用する。 実験の結果,ConcEPTは概念強化事前学習により概念知識を向上することがわかった。
  論文  参考訳（メタデータ） (2024-01-11T05:05:01Z)
• Coarse-to-Fine Concept Bottleneck Models [9.910980079138206]
  この研究は、アンテホック解釈可能性、特に概念ボトルネックモデル(CBM)をターゲットにしている。 我々のゴールは、人間の理解可能な概念を2段階の粒度で、高度に解釈可能な意思決定プロセスを認めるフレームワークを設計することである。 この枠組みでは、概念情報は全体像と一般的な非構造概念の類似性にのみ依存せず、画像シーンのパッチ固有の領域に存在するより粒度の細かい概念情報を発見・活用するために概念階層の概念を導入している。
  論文  参考訳（メタデータ） (2023-10-03T14:57:31Z)
• Concept Gradient: Concept-based Interpretation Without Linear Assumption [77.96338722483226]
  概念活性化ベクトル(Concept Activation Vector, CAV)は、与えられたモデルと概念の潜在表現の間の線形関係を学習することに依存する。 我々は、線形概念関数を超えて概念に基づく解釈を拡張する概念グラディエント(CG)を提案した。 我々は、CGがおもちゃの例と実世界のデータセットの両方でCAVより優れていることを実証した。
  論文  参考訳（メタデータ） (2022-08-31T17:06:46Z)
• Automatic Concept Extraction for Concept Bottleneck-based Video Classification [58.11884357803544]
  本稿では,概念に基づくビデオ分類に必要かつ十分な概念抽象セットを厳格に構成する概念発見抽出モジュールを提案する。 提案手法は,自然言語における概念概念の抽象概念を応用し,複雑なタスクに概念ボトルネック法を一般化する。
  論文  参考訳（メタデータ） (2022-06-21T06:22:35Z)
• GlanceNets: Interpretabile, Leak-proof Concept-based Models [23.7625973884849]
  概念ベースモデル(CBM)は、高レベルの概念の語彙の獲得と推論によって、ハイパフォーマンスと解釈可能性を組み合わせる。 我々は、モデル表現と基礎となるデータ生成プロセスとの整合性の観点から、解釈可能性を明確に定義する。 GlanceNetsは不整合表現学習とオープンセット認識の技法を利用してアライメントを実現する新しいCBMである。
  論文  参考訳（メタデータ） (2022-05-31T08:53:53Z)
• Human-Centered Concept Explanations for Neural Networks [47.71169918421306]
  概念活性化ベクトル(Concept Activation Vectors, CAV)のクラスを含む概念的説明を紹介する。 次に、自動的に概念を抽出するアプローチと、それらの注意事項に対処するアプローチについて議論する。 最後に、このような概念に基づく説明が、合成設定や実世界の応用において有用であることを示すケーススタディについて論じる。
  論文  参考訳（メタデータ） (2022-02-25T01:27:31Z)
• Translational Concept Embedding for Generalized Compositional Zero-shot Learning [73.60639796305415]
  一般合成ゼロショット学習は、ゼロショット方式で属性オブジェクト対の合成概念を学習する手段である。 本稿では,これら2つの課題を統一的なフレームワークで解決するために,翻訳概念の埋め込み(translational concept embedded)という新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2021-12-20T21:27:51Z)
• Do Concept Bottleneck Models Learn as Intended? [29.842609351878416]
  概念ボトルネックモデルは、解釈可能性、予測可能性、インターベンタビリティの目標を満たすのに苦労しています。 ポストホック解釈法を用いて,概念が入力空間において意味的に意味のあるものとは対応しないことを示す。
  論文  参考訳（メタデータ） (2021-05-10T12:00:52Z)
• A Context-based Disambiguation Model for Sentiment Concepts Using a Bag-of-concepts Approach [0.0]
  本研究では,コモンセンス知識を用いてあいまいな極性概念を解くための文脈モデルを提案する。 提案モデルは,Semevalと呼ばれる製品レビューコーパスを適用して評価する。 実験の結果,提案モデルの有効性を示す精度は82.07%であった。
  論文  参考訳（メタデータ） (2020-08-07T07:16:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。