論文の概要: Concept Extrapolation: A Conceptual Primer
- arxiv url: http://arxiv.org/abs/2306.10999v1
- Date: Mon, 19 Jun 2023 15:07:16 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-21 17:20:47.190591
- Title: Concept Extrapolation: A Conceptual Primer
- Title(参考訳): 概念外挿:概念的プライマー
- Authors: Matija Franklin, Rebecca Gorman, Hal Ashton, Stuart Armstrong
- Abstract要約: この記事では、概念外挿(concept extrapolation)の原動力として、あるコンテキストで定義された概念、機能、あるいは目標を、より一般的なコンテキストに安全に外挿する能力について述べます。
論文では、人工知能のアライメントには外挿の概念が必要であると論じている。
- 参考スコア(独自算出の注目度): 8.975330500836057
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This article is a primer on concept extrapolation - the ability to take a
concept, a feature, or a goal that is defined in one context and extrapolate it
safely to a more general context. Concept extrapolation aims to solve model
splintering - a ubiquitous occurrence wherein the features or concepts shift as
the world changes over time. Through discussing value splintering and value
extrapolation the article argues that concept extrapolation is necessary for
Artificial Intelligence alignment.
- Abstract(参考訳): この記事では、概念外挿(concept extrapolation)の原動力として、あるコンテキストで定義された概念、機能、あるいは目標を、より一般的なコンテキストに安全に外挿する能力について述べます。
概念の外挿は、世界が時間とともに変化するにつれて、機能や概念が変化するユビキタスな出来事であるモデルスプリッタリングを解決することを目的としています。
価値の散開と価値の補間について議論することで、論文は人工知能のアライメントには概念の補間が必要であると主張している。
関連論文リスト
- ConcEPT: Concept-Enhanced Pre-Training for Language Models [57.778895980999124]
ConcEPTは、概念知識を事前訓練された言語モデルに注入することを目的としている。
これは、事前訓練されたコンテキストで言及されたエンティティの概念を予測するために、外部エンティティの概念予測を利用する。
実験の結果,ConcEPTは概念強化事前学習により概念知識を向上することがわかった。
論文 参考訳(メタデータ) (2024-01-11T05:05:01Z) - Do Concept Bottleneck Models Obey Locality? [16.141263815153206]
概念に基づく学習は、人間の理解可能な概念を通して予測を説明することによって、深層学習モデルの解釈可能性を改善する。
最近の研究は、この仮定がConcept Bottleneck Models(CBM)で成り立たないことを強く示唆している。
CBMは、そのような概念が空間的にも意味的にも局所化されているとき、概念間の条件独立の度合いを捉えている。
その結果,CBMが学習した概念表現の質に疑問を呈し,概念に基づく説明は地域外の変化に対して脆弱である可能性が強く示唆された。
論文 参考訳(メタデータ) (2024-01-02T16:05:23Z) - Implicit Concept Removal of Diffusion Models [96.03200681493348]
テキスト・ツー・イメージ(T2I)拡散モデルは、透かしや安全でない画像などの不要な概念を不注意に生成する。
幾何学駆動制御に基づく新しい概念除去手法であるGeom-Erasingを提案する。
論文 参考訳(メタデータ) (2023-10-09T17:13:10Z) - Hierarchical Concept Discovery Models: A Concept Pyramid Scheme [11.138948381367133]
この研究は、アンテホック解釈可能性、特に概念ボトルネックモデル(CBM)をターゲットにしている。
私たちのゴールは、人間の理解可能な概念に関して、高度に解釈可能な意思決定プロセスを認めるフレームワークを設計することです。
この枠組みの中では、概念情報は全体像と一般的な非構造化概念との類似性にのみ依存しない。
論文 参考訳(メタデータ) (2023-10-03T14:57:31Z) - Concept Gradient: Concept-based Interpretation Without Linear Assumption [77.96338722483226]
概念活性化ベクトル(Concept Activation Vector, CAV)は、与えられたモデルと概念の潜在表現の間の線形関係を学習することに依存する。
我々は、線形概念関数を超えて概念に基づく解釈を拡張する概念グラディエント(CG)を提案した。
我々は、CGがおもちゃの例と実世界のデータセットの両方でCAVより優れていることを実証した。
論文 参考訳(メタデータ) (2022-08-31T17:06:46Z) - Automatic Concept Extraction for Concept Bottleneck-based Video
Classification [58.11884357803544]
本稿では,概念に基づくビデオ分類に必要かつ十分な概念抽象セットを厳格に構成する概念発見抽出モジュールを提案する。
提案手法は,自然言語における概念概念の抽象概念を応用し,複雑なタスクに概念ボトルネック法を一般化する。
論文 参考訳(メタデータ) (2022-06-21T06:22:35Z) - GlanceNets: Interpretabile, Leak-proof Concept-based Models [23.7625973884849]
概念ベースモデル(CBM)は、高レベルの概念の語彙の獲得と推論によって、ハイパフォーマンスと解釈可能性を組み合わせる。
我々は、モデル表現と基礎となるデータ生成プロセスとの整合性の観点から、解釈可能性を明確に定義する。
GlanceNetsは不整合表現学習とオープンセット認識の技法を利用してアライメントを実現する新しいCBMである。
論文 参考訳(メタデータ) (2022-05-31T08:53:53Z) - Human-Centered Concept Explanations for Neural Networks [47.71169918421306]
概念活性化ベクトル(Concept Activation Vectors, CAV)のクラスを含む概念的説明を紹介する。
次に、自動的に概念を抽出するアプローチと、それらの注意事項に対処するアプローチについて議論する。
最後に、このような概念に基づく説明が、合成設定や実世界の応用において有用であることを示すケーススタディについて論じる。
論文 参考訳(メタデータ) (2022-02-25T01:27:31Z) - Translational Concept Embedding for Generalized Compositional Zero-shot
Learning [73.60639796305415]
一般合成ゼロショット学習は、ゼロショット方式で属性オブジェクト対の合成概念を学習する手段である。
本稿では,これら2つの課題を統一的なフレームワークで解決するために,翻訳概念の埋め込み(translational concept embedded)という新しいアプローチを提案する。
論文 参考訳(メタデータ) (2021-12-20T21:27:51Z) - Do Concept Bottleneck Models Learn as Intended? [29.842609351878416]
概念ボトルネックモデルは、解釈可能性、予測可能性、インターベンタビリティの目標を満たすのに苦労しています。
ポストホック解釈法を用いて,概念が入力空間において意味的に意味のあるものとは対応しないことを示す。
論文 参考訳(メタデータ) (2021-05-10T12:00:52Z) - A Context-based Disambiguation Model for Sentiment Concepts Using a
Bag-of-concepts Approach [0.0]
本研究では,コモンセンス知識を用いてあいまいな極性概念を解くための文脈モデルを提案する。
提案モデルは,Semevalと呼ばれる製品レビューコーパスを適用して評価する。
実験の結果,提案モデルの有効性を示す精度は82.07%であった。
論文 参考訳(メタデータ) (2020-08-07T07:16:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。