論文の概要: Graded Entity-Familiarity Readouts in Language Models: Polish Adaptation, Cross-Language Robustness, and Refusal Steering

• arxiv url: http://arxiv.org/abs/2607.13568v1
• Date: Wed, 15 Jul 2026 08:06:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-16 16:39:12.697883
• Title: Graded Entity-Familiarity Readouts in Language Models: Polish Adaptation, Cross-Language Robustness, and Refusal Steering
• Title（参考訳）: 言語モデルにおける次数付きエンティティ親和性読み出し:ポーランド適応、言語横断ロバスト性、拒絶ステアリング
• Abstract要約: Familiarity-probeスコアは、すべての家族で作られたエンティティとは分離される。 2つの家系でのペア実験では、ポーランドの質問ステムを英語に置き換えたとき、プローブは言語内AUROCの96-101%を保持している。 親しみのあるプローブは、前世代の棄権ゲートの間で競争している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Can a language model estimate its familiarity with an entity before generating an answer? We study activations at the final prompt token in twelve instruction-tuned models from the Bielik, PLLuM, Gemma-4, and Qwen3 families, using a new dataset of 1,440 Polish entities spanning four domains and ten Wikipedia-pageview deciles, plus fabricated controls. Familiarity-probe scores separate real from fabricated entities in every family; in the Polish-adapted Bielik and PLLuM families they additionally track entity popularity (model-mean Spearman $ρ$ 0.28-0.57, versus at most 0.11 in Gemma-4 and Qwen3), a pattern more strongly associated with Polish adaptation than with parameter count in this model sample. In a paired experiment on two families, probes retain 96-101% of within-language AUROC when the Polish question stem is replaced with an English one around unchanged entity names, showing robustness to prompt language in this setting. In Gemma-4-12B, the only model that natively refuses, adding a one-dimensional familiarity direction at a single layer moves refusal rates monotonically in both directions (0.24 to 1.00 on well-known entities; 0.73 to 0.00 on unknown ones). Finally, a calibrated familiarity probe is competitive among pre-generation abstention gates, although post-generation detectors better predict behavioral error on average. These results support a graded pre-generation entity-familiarity readout, and a separation between representational familiarity and the policy that converts it into abstention.
• Abstract（参考訳）: 言語モデルは、回答を生成する前にエンティティとの親しみを見積もることができるか? ビエリク、PLLuM、Gemma-4、Qwen3ファミリーの12の命令調整モデルにおいて、最終プロンプトにおけるアクティベーションを4つのドメインと10のウィキペディアページビューの十進法にまたがる1,440のポーランドのエンティティからなる新しいデータセットを用いて研究した。 Familiarity-probe scores different real from the fabricated entity in every family; in the Polish-adapted Bielik and PLLuM family they also track entity popular (model-mean Spearman $ρ$ 0.28-0.57, versus least 0.11 in Gemma-4 and Qwen3), a pattern more strongly associated to Polish adaptation than parameter count in this model sample。 2つの家系でのペア実験では、ポーランドの質問ステムが変化しないエンティティ名の周りで英語に置換された場合、プローブは言語内AUROCの96-101%を保持し、この設定で言語を刺激する堅牢性を示す。 Gemma-4-12B において、一層に一次元の親密性方向を加えることによって、自然に拒否する唯一のモデルが、両方の方向に単調に拒絶率を移動させる(よく知られた実体では0.24から1.00、未知のものは 0.73から 0.00)。 最後に、キャリブレーションされた親和性プローブは、前世代の吸音ゲート間で競合するが、後世代の検出器は平均的な行動誤差をより正確に予測する。 これらの結果は、グレードドされた前世代のエンティティ・ファミリティ・リードアウトをサポートし、表現的親しみとそれを棄却するポリシーを分離する。

関連論文リスト

• Beyond the Name: Demographic Leakage in De-Identified Résumés and Evaluation Artifacts in LLM Bias Audits [4.736836688901646]
  本研究では,9つのオープンウェイトモデルと620レサムモデルにおいて,言語フィールドの除去がリークを解消するか否かを検討する。 5つの民族的条件と3つのクエー・サリエンス層にまたがる非構造的散文を分離した。 目標グループの回復平均は0.757であり、高塩分下では1.000で飽和する。
  論文  参考訳（メタデータ） (2026-09-15T01:48:44Z)
• REGARD: Regional Affective Differences in Large Language Models [32.505127447635864]
  ターゲット指向のValence-Arousal-Dominanceプロファイリングを用いて,LLM間での感情的フレーミングの差異について検討した。 感情的および反応行動的プロファイルによる19モデルすべてのウォードリンク後のクラスタリングでは、3つの行動的クラスタが生成される。 これらの結果から,VADプロファイリングは感情的フレーミングの次元である感情的強度を捉えており,従来の感情に基づく評価ではほとんど見えないことが示唆された。
  論文  参考訳（メタデータ） (2026-07-22T20:47:57Z)
• DiaLLM: An Investigation into the Robustness-Generation Gap in English Dialect Adaptation [20.845447775728545]
  大型の言語モデルは、方言の英語を理解しやすくするが、それでも標準のアメリカ英語のみを生産する。 我々は、国際英語コーパスにおいて、3つのオープンウェイト言語モデルファミリーを継続的に事前訓練するtextbfDiaLLMを紹介した。
  論文  参考訳（メタデータ） (2026-07-08T17:24:27Z)
• Evaluating Large Language Models for Hausa and Fongbe Machine Translation: Benchmarks, Failures, and Metric Reliability [12.074798555934855]
  本稿では,現在の大言語モデル (LLM) の翻訳品質について検討する。 我々は、これらの低リソース言語に対する人間の判断を確実に反映しているかどうかを評価する。
  論文  参考訳（メタデータ） (2026-06-20T23:23:54Z)
• Benchmarking Linguistic Adaptation in Comparable-Sized LLMs: A Study of Llama-3.1-8B, Mistral-7B-v0.1, and Qwen3-8B on Romanized Nepali [0.0]
  ネパール語はラテン文字で書かれたネパール語であり、ネパールにおける非公式なデジタルコミュニケーションの主流となっている。 本研究では、3つの同等サイズのオープンウェイトモデルにまたがる言語適応の系統的ベンチマークを示す。
  論文  参考訳（メタデータ） (2026-03-25T07:02:51Z)
• Alignment Backfire: Language-Dependent Reversal of Safety Interventions Across 16 Languages in LLM Multi-Agent Systems [0.0]
  加害者治療では、犯罪者は反省するが、行動の変化は従わない。 我々は、アライメントの介入が構造的に類似した現象を生じさせ、表面の安全性は、集合的な病理や内部の解離を覆い隠すか、あるいは発生させることを示した。 これらの所見は, リスクホメオスタシスと子宮新生にともなう行動介入としてのアライメントを再構成した。
  論文  参考訳（メタデータ） (2026-03-05T07:46:59Z)
• Cross-Lingual Stability of LLM Judges Under Controlled Generation: Evidence from Finno-Ugric Languages [0.22009842278462158]
  大規模言語モデル(LLM)の言語間評価は、典型的には、真のモデルの性能差と測定不安定性の2つの要因を混同する。 対象言語が異なる場合に生成条件を一定に保って評価信頼性を評価する。 本研究は, 形態学的に豊かな言語における談話レベルの評価には, ゼロショット・ジャッジ・トランスファーが信頼できないことを示唆している。
  論文  参考訳（メタデータ） (2026-02-02T16:27:32Z)
• Beyond the Final Layer: Intermediate Representations for Better Multilingual Calibration in Large Language Models [50.34755385896279]
  大規模言語モデル(LLM)の信頼性確保には信頼度校正が不可欠である 6つのモデルファミリーと100以上の言語にまたがる多言語キャリブレーションの大規模かつ体系的な研究を行う。 非英語言語は体系的に悪い校正に苦しむ。
  論文  参考訳（メタデータ） (2025-10-03T16:07:15Z)
• Emulated Disalignment: Safety Alignment for Large Language Models May Backfire! [65.06450319194454]
  大きな言語モデル(LLM)は、人間との安全な会話を確保するために安全アライメントを行う。 本稿では,安全アライメントの反転が可能なトレーニングフリーアタック手法を提案する。 本手法をエミュレートした脱アライメント (ED) と呼ぶのは, このコントラスト分布からのサンプリングは, 安全報酬を最小限に抑えるため, 微調整の結果を確実にエミュレートするからである。
  論文  参考訳（メタデータ） (2024-02-19T18:16:51Z)
• mFACE: Multilingual Summarization with Factual Consistency Evaluation [79.60172087719356]
  抽象的な要約は、事前訓練された言語モデルと大規模データセットの可用性のおかげで、近年で新たな関心を集めている。 有望な結果にもかかわらず、現在のモデルはいまだに現実的に矛盾した要約を生み出すことに苦しむ。 事実整合性評価モデルを利用して、多言語要約を改善する。
  論文  参考訳（メタデータ） (2022-12-20T19:52:41Z)
• OneAligner: Zero-shot Cross-lingual Transfer with One Rich-Resource Language Pair for Low-Resource Sentence Retrieval [91.76575626229824]
  文検索タスク用に特別に設計されたアライメントモデルであるOneAlignerを提案する。 大規模並列多言語コーパス(OPUS-100)の全ての言語ペアで訓練すると、このモデルは最先端の結果が得られる。 実験結果から,文アライメントタスクの性能はモノリンガルおよび並列データサイズに大きく依存することがわかった。
  論文  参考訳（メタデータ） (2022-05-17T19:52:42Z)
• Few-shot Learning with Multilingual Language Models [66.49496434282564]
  多様な言語群をカバーするバランスの取れたコーパス上で,多言語の自動回帰言語モデルを訓練する。 私たちの最大のモデルは、20以上の代表言語で数ショットの学習において、新しい最先端の技術を定めています。 本稿では,モデルがどこで成功し,失敗するかを詳細に分析し,特に言語間の文脈内学習を可能にすることを示す。
  論文  参考訳（メタデータ） (2021-12-20T16:52:35Z)
• AmericasNLI: Evaluating Zero-shot Natural Language Understanding of Pretrained Multilingual Models in Truly Low-resource Languages [75.08199398141744]
  我々は、XNLI(Conneau et al)の拡張である AmericasNLI を提示する。 は、アメリカ大陸の10の原住民の言語である。 XLM-Rで実験を行い、複数のゼロショットおよび翻訳ベースのアプローチをテストします。 XLM-Rのゼロショット性能は全10言語で低調であり、平均性能は38.62%である。
  論文  参考訳（メタデータ） (2021-04-18T05:32:28Z)
• Harnessing Multilinguality in Unsupervised Machine Translation for Rare Languages [48.28540903568198]
  マルチリンガル性は低リソース環境において教師なしシステムの実現に不可欠であることを示す。 我々は,5つの低リソース言語(グジャラート語,カザフ語,ネパール語,シンハラ語,トルコ語)について,英語方向と英語方向の単一モデルを提案する。 我々は、これらの言語の現在最先端の教師なしベースラインを全て上回り、最大14.4BLEUのゲインを得る。
  論文  参考訳（メタデータ） (2020-09-23T15:07:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。