論文の概要: Attribute-Based Activation Steering of LLMs for Group-Specific Explanation Generation

• arxiv url: http://arxiv.org/abs/2608.29215v1
• Date: Sat, 29 Aug 2026 11:57:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:30.879769
• Title: Attribute-Based Activation Steering of LLMs for Group-Specific Explanation Generation
• Title（参考訳）: グループ特異的説明生成のためのLCMの属性ベース活性化ステアリング
• Abstract要約: 本稿では,まず,特定の対象グループの説明スタイルと知識の観点から,グループ固有の属性を識別する手法を提案する。 実験では,提案手法の有効性を,生成した説明の特異性と事実性の観点から評価した。
• 参考スコア（独自算出の注目度）: 12.009555264358182
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: To effectively enable people to understand new topics, explanations should be tailored to their backgrounds and abilities. So far, prompting alone has been shown to be insufficient for creating such explanations and other computational methods are missing. Therefore, this paper investigates whether LLMs can be steered to generate explanations that are tailored to a specific group of people. To this end, we propose an approach that first identifies group-specific attributes in terms of explanatory style and knowledge of a specific target group. Building on activation engineering, it then computes attribute-based steering vectors and adds them to the internal activations of an LLM during inference to enable a fine-grained steering. In our experiments, we assess the steering effectiveness of our approach in terms of specificity and factuality of the generated explanations. Additionally, we evaluate the explanations in a study with human experts from different target groups. Compared to prompting and state-of-the-art steering baselines, our approach tailors the explanations significantly better to the target group while largely maintaining factuality.
• Abstract（参考訳）: 人々が新しいトピックを効果的に理解できるように、説明は彼らのバックグラウンドと能力に合わせて調整されるべきである。 これまでのところ、このような説明を作成するにはプロンプトだけでは不十分であることが示されており、他の計算方法が欠落している。 そこで本稿では, LLM が特定のグループに適合した説明を作成できるかどうかを考察する。 そこで本研究では,まず,特定の対象グループの説明スタイルと知識の観点から,グループ固有の属性を識別する手法を提案する。 アクティベーションエンジニアリングに基づいて、属性ベースのステアリングベクトルを計算し、推論中にLSMの内部アクティベーションに追加して、きめ細かいステアリングを可能にする。 本実験では,提案手法の有効性を,生成した説明の特異性と事実性の観点から評価した。 また,異なる対象グループの人間専門家による研究において,その説明を評価した。 提案手法は,プロンプトベースラインや最先端ステアリングベースラインと比較して,ターゲットグループに対して,事実性を大きく維持しながら,説明をかなり改善する。

関連論文リスト

• Cluster-R1: Large Reasoning Models Are Instruction-following Clustering Agents [81.79110139097297]
  汎用埋め込みモデルは意味的類似性を認識するのに優れているが、ユーザ命令で指定されたテキストの特徴を捉えることができない。 我々は、命令追従クラスタリングを生成タスクとして再編成し、大規模推論モデルを自律的なクラスタリングエージェントとして訓練する。 我々の推論駆動学習パイプラインは、LEMがハイレベルクラスタリング命令を解釈し、対応する潜在グループを推測することを可能にする。
  論文  参考訳（メタデータ） (2026-03-06T10:15:54Z)
• From latent factors to language: a user study on LLM-generated explanations for an inherently interpretable matrix-based recommender system [8.280161440212504]
  大規模言語モデル(LLM)が数学的に解釈可能なレコメンデーションモデルから,効果的なユーザ向け説明を生成できるかどうかを検討する。 本研究は,5次元にわたる説明の質を評価する326人の被験者を対象に実施した。 分析の結果、全ての説明型は概ね好意的であり、戦略間の統計的差異は緩やかであることがわかった。
  論文  参考訳（メタデータ） (2025-09-23T13:30:03Z)
• Latent Factor Models Meets Instructions: Goal-conditioned Latent Factor Discovery without Task Supervision [50.45597801390757]
  Instruct-LFはゴール指向の潜在因子発見システムである。 命令フォロー機能と統計モデルを統合して、ノイズの多いデータセットを処理する。
  論文  参考訳（メタデータ） (2025-02-21T02:03:08Z)
• Find the Intention of Instruction: Comprehensive Evaluation of Instruction Understanding for Large Language Models [8.020688053947547]
  LLM(Large Language Models)の重要な強みの1つは、与えられた指示に対する適切な応答を生成することによって、人間と対話する能力である。 この能力は命令追従能力として知られ、様々な分野におけるLSMの使用の基礎を確立している。 我々は、LLMが命令形式文によって容易に気を散らすことができ、それによって命令理解スキルの監視に繋がる可能性があることを指摘した。
  論文  参考訳（メタデータ） (2024-12-27T04:37:39Z)
• CohEx: A Generalized Framework for Cohort Explanation [5.269665407562217]
  コホートの説明は、特定のグループや事例のコホートにおける説明者の振る舞いに関する洞察を与える。 本稿では,コホートの説明を測る上でのユニークな課題と機会について論じる。
  論文  参考訳（メタデータ） (2024-10-17T03:36:18Z)
• Local Explanations and Self-Explanations for Assessing Faithfulness in black-box LLMs [1.03590082373586]
  本稿では,局所摂動と自己説明を用いた大規模言語モデル(LLM)の忠実度を評価するための新しい課題を紹介する。 提案手法は, 従来から用いられてきた手法にインスパイアされた, より効率的な代替的説明可能性手法を提案する。
  論文  参考訳（メタデータ） (2024-09-18T10:16:45Z)
• Evaluating Human Alignment and Model Faithfulness of LLM Rationale [66.75309523854476]
  大規模言語モデル(LLM)が,その世代を理論的にどのように説明するかを考察する。 提案手法は帰属に基づく説明よりも「偽り」が少ないことを示す。
  論文  参考訳（メタデータ） (2024-06-28T20:06:30Z)
• Properties and Challenges of LLM-Generated Explanations [3.257973235065581]
  大規模言語モデル(LLM)の自己分類能力について検討する。 生成した説明は選択性を示し、説明的要素を含むが、主観的あるいは誤解を招くことは少ない。 特に,自己分析システムの目標やユーザグループに応じて,肯定的,否定的な意味を概説する。
  論文  参考訳（メタデータ） (2024-02-16T09:37:54Z)
• Learning to Generate Explainable Stock Predictions using Self-Reflective Large Language Models [54.21695754082441]
  説明可能なストック予測を生成するために,LLM(Large Language Models)を教えるフレームワークを提案する。 反射剤は自己推論によって過去の株価の動きを説明する方法を学ぶ一方、PPOトレーナーは最も可能性の高い説明を生成するためにモデルを訓練する。 我々のフレームワークは従来のディープラーニング法とLLM法の両方を予測精度とマシューズ相関係数で上回ることができる。
  論文  参考訳（メタデータ） (2024-02-06T03:18:58Z)
• Simple Linguistic Inferences of Large Language Models (LLMs): Blind Spots and Blinds [59.71218039095155]
  我々は,ほとんどの人間が自明に感じる単純な推論タスクにおいて,言語理解能力を評価する。 我々は, (i) 文法的に特定された含意, (ii) 不確実性のある明らかな副詞を持つ前提, (iii) 単調性含意を目標とする。 モデルはこれらの評価セットに対して中程度から低い性能を示す。
  論文  参考訳（メタデータ） (2023-05-24T06:41:09Z)
• Complementary Explanations for Effective In-Context Learning [77.83124315634386]
  大規模言語モデル (LLM) は、説明のインプロンプトから学習する際、顕著な能力を示した。 この研究は、文脈内学習に説明が使用されるメカニズムをよりよく理解することを目的としている。
  論文  参考訳（メタデータ） (2022-11-25T04:40:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。