論文の概要: Selective Concept Models: Permitting Stakeholder Customisation at Test-Time

• arxiv url: http://arxiv.org/abs/2306.08424v1
• Date: Wed, 14 Jun 2023 10:37:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2023-06-16 19:16:56.326401
• Title: Selective Concept Models: Permitting Stakeholder Customisation at Test-Time
• Title（参考訳）: 選択的概念モデル: テスト時にステークホルダーのカスタマイズを許可する
• Authors: Matthew Barker, Katherine M. Collins, Krishnamurthy Dvijotham, Adrian Weller, Umang Bhatt
• Abstract要約: 本稿では,概念のサブセットのみを用いて予測を行うSCOM(Selective Concept Models)を提案する。 複数の実世界のデータセットに対して最適な精度を実現するために、SCOMは全概念のごく一部しか必要としないことを示す。 CUB-Sel を用いて,人間は理にかなった概念の選択に対して,独特な個人的嗜好を持つことを示す。
• 参考スコア（独自算出の注目度）: 32.138390859351425
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Concept-based models perform prediction using a set of concepts that are interpretable to stakeholders. However, such models often involve a fixed, large number of concepts, which may place a substantial cognitive load on stakeholders. We propose Selective COncept Models (SCOMs) which make predictions using only a subset of concepts and can be customised by stakeholders at test-time according to their preferences. We show that SCOMs only require a fraction of the total concepts to achieve optimal accuracy on multiple real-world datasets. Further, we collect and release a new dataset, CUB-Sel, consisting of human concept set selections for 900 bird images from the popular CUB dataset. Using CUB-Sel, we show that humans have unique individual preferences for the choice of concepts they prefer to reason about, and struggle to identify the most theoretically informative concepts. The customisation and concept selection provided by SCOM improves the efficiency of interpretation and intervention for stakeholders.
• Abstract（参考訳）: 概念に基づくモデルは、ステークホルダーに解釈可能な概念のセットを使用して予測を行う。 しかし、そのようなモデルは、しばしば固定された多くの概念を伴い、利害関係者にかなりの認知負荷を与える可能性がある。 SCOM(Selective Concept Models)を提案する。これは概念のサブセットのみを用いて予測を行い、その好みに応じてテスト時に利害関係者がカスタマイズできる。 複数の実世界のデータセットに対して最適な精度を実現するために、SCOMは全概念のごく一部しか必要としないことを示す。 さらに、人気のcubデータセットから900の鳥画像に対して、人間のコンセプトセット選択からなる新しいデータセットcub-selを収集し、リリースする。 CUB-Selを用いて、人間は推論を好む概念を選択し、最も理論的に意味のある概念を特定するのに苦労していることが示される。 SCOMが提供するカスタマイズとコンセプトの選択は、ステークホルダーの解釈と介入の効率を向上させる。

関連論文リスト

• Interpretable Reward Modeling with Active Concept Bottlenecks [54.00085739303773]
  本稿では,解釈可能な嗜好学習を可能にする報酬モデリングフレームワークであるConcept Bottleneck Reward Models (CB-RM)を紹介する。 不透明報酬関数に依存する標準的なRLHF法とは異なり、CB-RMは報酬予測を人間の解釈可能な概念に分解する。 我々は,最も情報性の高い概念ラベルを動的に取得する能動的学習戦略を定式化する。
  論文  参考訳（メタデータ） (2025-07-07T06:26:04Z)
• Personalized Interpretability -- Interactive Alignment of Prototypical Parts Networks [16.958657905772846]
  概念に基づく解釈可能なニューラルネットワークは、直感的で理解しやすい説明のために大きな注目を集めている。 最大の制限は、これらの説明が、概念上の矛盾のため、必ずしもユーザーにとって理解できないことである。 この矛盾は、モデル推論と人間の理解の整合性を損なう。 プロトタイプ部品のパーソナライズを可能にする対話型戦略であるYesProtoPを紹介する。
  論文  参考訳（メタデータ） (2025-06-05T19:30:20Z)
• Individualised Counterfactual Examples Using Conformal Prediction Intervals [12.895240620484572]
  機械学習の分類モデルに典型的な高次元の特徴空間は、決定に多くの反実例を許容する。 我々は,個人の知識を明示的にモデル化し,共形予測間隔の幅によって個人が行う予測の不確実性を評価する。 ハイパーキューブ上に合成データセットを配置し、決定境界を完全に視覚化する。 第2に、この合成データセットにおいて、1つのCPICFが、元のクエリの周囲の個々の知識に与える影響を探索する。
  論文  参考訳（メタデータ） (2025-05-28T13:13:52Z)
• Beyond Predictions: A Participatory Framework for Multi-Stakeholder Decision-Making [3.3044728148521623]
  本稿では,複数株主最適化問題として意思決定を再定義する新たな参加型フレームワークを提案する。 我々のフレームワークは、コンテキスト依存の報酬関数を通じて各アクターの好みをキャプチャする。 本稿では,複数の指標にまたがるユーザ定義の選好を利用して意思決定戦略をランク付けする合成スコアリング機構を提案する。
  論文  参考訳（メタデータ） (2025-02-12T16:27:40Z)
• LLM Pretraining with Continuous Concepts [71.98047075145249]
  次のトークン予測は、大規模言語モデルの事前トレーニングで使用される標準的なトレーニング目標である。 離散的な次のトークン予測と連続的な概念を組み合わせた新しい事前学習フレームワークであるContinuous Concept Mixing (CoCoMix)を提案する。
  論文  参考訳（メタデータ） (2025-02-12T16:00:11Z)
• Interactive Visualization Recommendation with Hier-SUCB [52.11209329270573]
  本稿では,従来のインタラクションからユーザフィードバックを学習する対話型パーソナライズドビジュアライゼーションレコメンデーション(PVisRec)システムを提案する。 よりインタラクティブで正確なレコメンデーションのために、PVisRec設定における文脈的半帯域であるHier-SUCBを提案する。
  論文  参考訳（メタデータ） (2025-02-05T17:14:45Z)
• Personalized Preference Fine-tuning of Diffusion Models [75.22218338096316]
  拡散モデルとパーソナライズされた嗜好を整合させるマルチリワード最適化の目的であるPDを導入する。 PPDでは、拡散モデルがユーザーの個人の好みを数秒で学習する。 提案手法は,Stable Cascadeに対して平均76%の勝利率を達成し,特定のユーザの好みをより正確に反映した画像を生成する。
  論文  参考訳（メタデータ） (2025-01-11T22:38:41Z)
• Diverse Concept Proposals for Concept Bottleneck Models [23.395270888378594]
  概念ボトルネックモデルは解釈可能な予測モデルであり、モデル信頼が医療などの重要な優先事項であるドメインでよく使用される。 提案手法は,データを説明する多くの予測概念を同定する。 複数の代替的な説明を提供することで、人間の専門家が彼らの期待に最も合うものを選ぶことができる。
  論文  参考訳（メタデータ） (2024-12-24T00:12:34Z)
• ComPO: Community Preferences for Language Model Personalization [122.54846260663922]
  ComPOは、言語モデルにおける好みの最適化をパーソナライズする手法である。 ComPRedはRedditからコミュニティレベルの好みを持った質問応答データセットです。
  論文  参考訳（メタデータ） (2024-10-21T14:02:40Z)
• Bayesian Concept Bottleneck Models with LLM Priors [9.368695619127084]
  概念ボトルネックモデル (CBM) は、ホワイトボックスモデルとブラックボックスモデルの間の妥協として提案されており、精度を犠牲にすることなく解釈性を実現することを目的としている。 BC-LLM はベイズフレームワーク内の潜在的無限の概念を反復的に探索し、Large Language Models (LLM) が概念抽出のメカニズムと事前の両方として機能する。
  論文  参考訳（メタデータ） (2024-10-21T01:00:33Z)
• Visual Data Diagnosis and Debiasing with Concept Graphs [50.84781894621378]
  視覚データセットにおける概念共起バイアスの診断と緩和のためのフレームワークであるConBiasを提案する。 このような不均衡を緩和し,下流タスクの性能向上につながることを示す。
  論文  参考訳（メタデータ） (2024-09-26T16:59:01Z)
• Explain via Any Concept: Concept Bottleneck Model with Open Vocabulary Concepts [8.028021897214238]
  OpenCBMはオープン語彙の概念を持つ最初のCBMである。 ベンチマークデータセットCUB-200-2011の分類精度は,従来のCBMよりも9%向上した。
  論文  参考訳（メタデータ） (2024-08-05T06:42:00Z)
• DegustaBot: Zero-Shot Visual Preference Estimation for Personalized Multi-Object Rearrangement [53.86523017756224]
  本稿では,視覚的嗜好学習のためのアルゴリズムであるDegustaBotを提案する。 我々は、シミュレーション表設定タスクにおいて、自然主義的個人的嗜好の大規模なデータセットを収集する。 私たちのモデルの予測の50%は、少なくとも20%の人々に受け入れられる可能性が高いことが分かりました。
  論文  参考訳（メタデータ） (2024-07-11T21:28:02Z)
• Improving Intervention Efficacy via Concept Realignment in Concept Bottleneck Models [57.86303579812877]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念に基づいて、解釈可能なモデル決定を可能にする画像分類である。 既存のアプローチは、強いパフォーマンスを達成するために、画像ごとに多数の人間の介入を必要とすることが多い。 本稿では,概念関係を利用した学習型概念認識介入モジュールについて紹介する。
  論文  参考訳（メタデータ） (2024-05-02T17:59:01Z)
• Auxiliary Losses for Learning Generalizable Concept-based Models [5.4066453042367435]
  コンセプト・ボトルネック・モデル (Concept Bottleneck Models, CBM) は導入以来人気を集めている。 CBMは基本的に、モデルの潜在空間を人間に理解可能な高レベルな概念に制限する。 本稿では,協調型コンセプション・ボトルネックモデル(coop-CBM)を提案し,性能トレードオフを克服する。
  論文  参考訳（メタデータ） (2023-11-18T15:50:07Z)
• Concept-Centric Transformers: Enhancing Model Interpretability through Object-Centric Concept Learning within a Shared Global Workspace [1.6574413179773757]
  概念中心変換器は、解釈可能性のための共有グローバルワークスペースの単純かつ効果的な構成である。 本モデルでは,すべての問題に対して,すべてのベースラインの分類精度が向上することを示す。
  論文  参考訳（メタデータ） (2023-05-25T06:37:39Z)
• Interactive Concept Bottleneck Models [14.240165842615674]
  概念ボトルネックモデル(CBM)は、まず、予測タスクに関連する人間解釈可能な概念のラベルを予測する、解釈可能なニューラルネットワークである。 我々は、CBMを対話的な予測設定に拡張し、モデルがラベルの協調者に対していくつかの概念をクエリできるようにします。 我々は,最終的な予測を最大化するために,ラベルを要求すべき概念を選択するインタラクションポリシーを開発する。
  論文  参考訳（メタデータ） (2022-12-14T11:39:18Z)
• Test-time Collective Prediction [73.74982509510961]
  マシンラーニングの複数のパーティは、将来のテストポイントを共同で予測したいと考えています。 エージェントは、すべてのエージェントの集合の集合的な専門知識の恩恵を受けることを望んでいるが、データやモデルパラメータを解放する意思はないかもしれない。 我々は、各エージェントの事前学習モデルを利用して、テスト時に集合的な予測を行う分散型メカニズムを探索する。
  論文  参考訳（メタデータ） (2021-06-22T18:29:58Z)
• Sparse-Interest Network for Sequential Recommendation [78.83064567614656]
  本稿では,シーケンシャルレコメンデーションのためのtextbfSparse textbfInterest textbfNEtwork(SINE)を提案する。 我々のスパース関心モジュールは、大きなコンセプトプールから各ユーザに対してスパースの概念セットを適応的に推測することができる。 SINEは最先端の手法よりも大幅に改善できる。
  論文  参考訳（メタデータ） (2021-02-18T11:03:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。