論文の概要: Read the Room Before Your Model Generates

• arxiv url: http://arxiv.org/abs/2610.18820v3
• Date: Mon, 19 Oct 2026 04:32:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 06:32:45.286618
• Title: Read the Room Before Your Model Generates
• Title（参考訳）: モデルが生成される前に部屋を読む
• Abstract要約: そこで本稿では,デコードに適応した簡易かつ解釈可能な温度選択フレームワークであるScenario-Actorを紹介する。 シナリオ・アクターは、トランスフォーマー隠れ状態からシナリオ関連構造を抽出し、シナリオ埋め込みから温度を決定する。 実験の結果,Llama-3.1-8B-Instructでは,対話型社会シナリオにおいて,Scenario-Actorは強力な目標達成性能,オープンエンド命令の追従,マルチターン会話における競合性能を実現していることがわかった。
• 参考スコア（独自算出の注目度）: 5.972927416266617
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) generally rely on sampling temperature to regulate the amount of randomness in their outputs. Mainstream methods for selecting temperature typically involve fixed, heuristic global settings and context or token-level calibration, rather than a geometrically interpretable representation of the communicative scenario. In this work, we introduce a simple and interpretable temperature selection framework, the Scenario-Actor, which adapts decoding to the inferred situational characteristics. Scenario-Actor extracts scenario-relevant structures from Transformer hidden states and determines the temperature from scenario embedding, a structured geometric representation of the communicative setting. Empirical results show that on Llama-3.1-8B-Instruct, Scenario-Actor achieves strong goal-completion performance in interactive social scenarios, significant gains on open-ended instruction following, and competitive performance on multi-turn conversation compared to multiple baselines.
• Abstract（参考訳）: 大規模言語モデル(LLM)は一般的に、その出力のランダム性の量を制御するためにサンプリング温度に依存する。 温度を選択するメインストリーム法は、一般に、幾何学的に解釈可能な通信シナリオの表現ではなく、固定的でヒューリスティックなグローバルな設定とコンテキスト、トークンレベルのキャリブレーションを含む。 本研究では, 簡易かつ解釈可能な温度選択フレームワークであるScenario-Actorを導入する。 シナリオ・アクターは、トランスフォーマー隠れ状態からシナリオ関連構造を抽出し、シナリオ埋め込みから温度を決定する。 Llama-3.1-8B-Instructでは、Scenario-Actorは対話型社会シナリオにおいて、強力なゴールコンプリート性能、オープンエンド命令の追従に対する顕著な向上、マルチターン会話における複数のベースラインと比較して、競合的なパフォーマンスを実現している。

関連論文リスト

• Not All Drift Is a Mechanism: Tracing Prompt Adaptation in LLMs [64.58179426472948]
  本研究では,個別のプロンプト最適化,プロンプトチューニング,プレフィックスチューニングが,高密度言語モデルと混合言語モデルの処理をどう変えるかを検討する。 分析の結果,適応位置はタスク情報がどのように出力に伝達されるかを予測する。
  論文  参考訳（メタデータ） (2026-10-13T13:52:52Z)
• Post-Hoc Understanding of Metaphor Processing in Decoder-Only Language Models via Conditional Scale Entropy [37.79924630741744]
  メタファーは、文脈の意味が基本的なリテラルの意味から分岐するトークンを解決するために言語モデルを必要とする。 本研究では,各層位置における周波数スケールの広帯域変換をウェーブレットから導いた条件付きスケールエントロピー(CSE)を導入する。 CSEを用いて、比喩的トークンは、連続的な層位置におけるリテラルトークンよりもかなり高いスペクトル幅を生じることを発見した。
  論文  参考訳（メタデータ） (2026-05-20T16:45:59Z)
• From Local Indices to Global Identifiers: Generative Reranking for Recommender Systems via Global Action Space [50.72071213515985]
  GloRankは、ローカルインデックスの選択からグローバル識別子の生成に移行する、ジェネレーティブなフレームワークである。 我々はGloRankが最先端のベースラインを一貫して上回り、コールドスタートシナリオにおいて優れたロバスト性を実現することを示す。
  論文  参考訳（メタデータ） (2026-04-28T06:57:00Z)
• Optimizing Temperature for Language Models with Multi-Sample Inference [47.14991144052361]
  本稿では,異なる大言語モデルに対する(近傍)最適温度の自動同定という課題に対処する。 モデルアーキテクチャ、データセット、タスクタイプ、モデルサイズ、予測精度の変動を考慮して、性能最適化における温度の役割を総合的に分析する。 本稿では,温度自動最適化のためのエントロピーに基づく新しい計量法を提案する。
  論文  参考訳（メタデータ） (2025-02-07T19:35:25Z)
• Adaptive Decoding via Latent Preference Optimization [55.70602730588745]
  モデルに付加されたレイヤであるAdaptive Decodingを導入し、推論時にサンプリング温度を動的に選択する。 我々の手法は、異なる温度を必要とする様々なタスクにおいて、すべての固定デコード温度を上回ります。
  論文  参考訳（メタデータ） (2024-11-14T18:31:39Z)
• Extremal simplicial distributions on cycle scenarios with arbitrary outcomes [0.0]
  サイクルシナリオは、Crauser-Horne-Shimony-Holt(CHSH)シナリオが顕著な例である。 我々は、任意の結果のサイクルシナリオに対応する非シグナリングポリトープの文脈的頂点を特徴付けるために、単純な分布の枠組みにホモトピー的手法を用いる。 これにより、サイクルシナリオをグルリングすることによって形成されたシナリオを超えて拡張し、これらの一般化されたコンテキストにおける文脈的極小分布を記述することができる。
  論文  参考訳（メタデータ） (2024-06-28T14:48:31Z)
• Contextual Feature Selection with Conditional Stochastic Gates [9.784482648233048]
  条件ゲート(c-STG)は、文脈変数に基づいてパラメータが予測される条件変数を用いて、特徴の重要性をモデル化する。 我々は,c-STGは,予測精度と解釈可能性を高めつつ,特徴選択能力の向上につながることを示した。
  論文  参考訳（メタデータ） (2023-12-21T19:12:59Z)
• Context-aware Fine-tuning of Self-supervised Speech Models [56.95389222319555]
  微調整におけるコンテキスト,すなわち周辺セグメントの使用について検討する。 我々はコンテキスト認識ファインチューニングと呼ばれる新しいアプローチを提案する。 いくつかの下流タスクに対して,SLUE と Libri-light ベンチマークを用いて提案手法の評価を行った。
  論文  参考訳（メタデータ） (2022-12-16T15:46:15Z)
• Real-Time Scene Text Detection with Differentiable Binarization and Adaptive Scale Fusion [62.269219152425556]
  セグメンテーションに基づくシーンテキスト検出手法はシーンテキスト検出分野において大きな注目を集めている。 本稿では,二項化処理をセグメンテーションネットワークに統合する分散二項化(DB)モジュールを提案する。 アダプティブ・スケール・フュージョン (ASF) モジュールは, 異なるスケールの特徴を適応的に融合させることにより, スケールのロバスト性を向上させる。
  論文  参考訳（メタデータ） (2022-02-21T15:30:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。