論文の概要: List Counting Failures Are Not One Phenomenon

• arxiv url: http://arxiv.org/abs/2609.22230v1
• Date: Thu, 03 Sep 2026 04:12:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.795643
• Title: List Counting Failures Are Not One Phenomenon
• Title（参考訳）: リストカウントの失敗は1つの現象ではない
• Abstract要約: リストにあるアイテムを数えるのは簡単そうに思えるが、オープンウェイトなチャットモデルはよく間違いを犯す。 同一のプロンプト上の7つのモデルにまたがって、間違った答えは異なるモードを形成する。 モデルが誤って答えると、線形プローブは通常、残留ストリームから真のカウントを回復することができる。
• 参考スコア（独自算出の注目度）: 2.2921373402137974
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Counting the items in a bracketed list looks trivial, yet open-weight chat models often get it wrong. Prior work usually blames input bottlenecks such as subword fragmentation or attention dilution, which predict that different models should fail in roughly the same way. Across seven instruct models on identical prompts, however, wrong answers form distinct modes: Qwen and Gemma 27B often flip odd lengths to a nearby even integer, OLMo concentrates errors on a few mid-sized integers, and Llama tends to under-count. These modes are useful labels rather than a stable family law (Gemma 9B does not reproduce Gemma 27B's odd-to-even drop), and heavier subword fragmentation does not make counting harder on our benchmark. When the model answers incorrectly, a linear probe can usually still recover the true count from the residual stream. Matching the same odd-to-even error also does not imply the same late-MLP magnitude fix: scaling a late MLP output helps Qwen modestly but is near null on Gemma 27B under the same protocol, while residual steering can move both only by trading odd gains for even losses. These results caution against transferring that magnitude fix across models without a transfer check.
• Abstract（参考訳）: リストにあるアイテムを数えるのは簡単そうに思えるが、オープンウェイトなチャットモデルはよく間違いを犯す。 従来の作業は通常、サブワードの断片化やアテンションの希釈といった入力ボトルネックを非難します。 Qwen と Gemma 27B は近くの偶数に奇数の長さを反転させることが多く、OLMo は数個の中型整数に誤差を集中させ、Llama は小数になる傾向がある。 これらのモードは、安定なファミリー法則ではなく有用なラベルである(Gemma 9BはGemma 27Bの奇数から偶数への減少を再現しない)。 モデルが誤って答えると、線形プローブは通常、残留ストリームから真のカウントを回復することができる。 遅いMLP出力のスケーリングはQwenを適度に支援するが、同じプロトコルの下でGemma 27B上ではヌルに近い。 これらの結果は、転送チェックなしでモデル間でその大きさの固定を転送しないように注意する。

関連論文リスト

• Wrong Prediction, Right Answer: Recovering Evidence from Collapsed LLM Sequence Scores [31.709549159768727]
  多様な推論ベンチマーク間で一貫した読み出しギャップを観察する。 隠れ状態プローブは、ネイティブシークエンススコアが完全に崩壊しても正解を復号することに成功した。 以上の結果から,無作為な内部論理を隠蔽する表現障害が明らかにゼロショット推論の欠点であることが明らかとなった。
  論文  参考訳（メタデータ） (2026-08-31T16:43:55Z)
• Absent, Not Faint: Fisher-Information Limits and a Logarithmic Measurement-Design Cure for Passive Characterization of Coherent Qubit Noise [18.420138629160196]
  コヒーレントな過剰回転は小さな系統的なゲート誤校正である。 固定された、対数的に小さな設定セットは、このようなすべての障害を可視化する。 本研究は,IBM Heronハードウェア上での3～5倍のバイアスギャップを整合性チェックとして観察する。
  論文  参考訳（メタデータ） (2026-07-23T00:46:29Z)
• Constrained Decoding for Diffusion Language Models via Efficient Inference over Finite Automata [57.27430779838529]
  有限オートマトンとして表現可能な任意の制約の下で,制約付き平均場後部からサンプリングする,正確かつトラクタブルなアルゴリズムを提案する。 このアプローチは、構築による制約満足度を保証し、欲求とサンプリングベースのデコーディングの両方をサポートし、並列およびブロックワイドデコーディングと互換性がある。 Dream-7B と LLaDA-8 の実証的な評価は、様々なタスクにおいてかなりの精度の向上を示した。
  論文  参考訳（メタデータ） (2026-07-08T05:48:57Z)
• Neither Parallel Nor Sequential: How DiffusionGemma Actually Commits Tokens [0.08599681538174887]
  オープン拡散言語モデルは並列非自己回帰デコーダとして販売されている。 Gemma 4をベースとしたマスク付き離散拡散混合実験モデルを構築した。 686プロンプト、6レジームのプローブスイート全体で、その復号化は並列でもブロック自動回帰でもないことが判明した。
  論文  参考訳（メタデータ） (2026-06-12T16:45:11Z)
• Repeated-Token Counting Reveals a Dissociation Between Representations and Outputs [0.0]
  より大きな言語モデルは、より広範な推論ベンチマークのパフォーマンスにもかかわらず、繰り返しトークンを数えることに失敗する。 残差ストリーム上の線形プローブは、埋め込み後の各層において、正しいカウントをほぼ完全精度で復号する。
  論文  参考訳（メタデータ） (2026-05-10T00:45:19Z)
• The Right Answer, the Wrong Direction: Why Transformers Fail at Counting and How to Fix It [0.0]
  大規模言語モデルは、たとえカウントすべきアイテムがプロンプトに明示的に存在しているとしても、単純なカウントタスクで失敗することが多い。 この失敗は、変換器が内部的にカウントを表現しないためなのか、あるいはそれらの表現を正しい出力トークンに変換することができないためなのかを考察する。 線形プローブは、中間層からほぼ完全な精度で正しいカウントを復元する。
  論文  参考訳（メタデータ） (2026-05-05T01:13:06Z)
• Answer, Assemble, Ace: Understanding How LMs Answer Multiple Choice Questions [103.20281438405111]
  MCQA(Multiple-choice Question answering)は、高性能トランスフォーマー言語モデルのキーコンピテンスである。 我々は,正解を予測するための関連情報をエンコードするキー隠れ状態のローカライズに語彙予測とアクティベーションパッチ手法を用いる。 後続の層は語彙空間における予測応答記号の確率を増大させ、この確率の増加は、特異な役割を持つ注目ヘッドのスパースセットと関連していることを示す。
  論文  参考訳（メタデータ） (2024-07-21T00:10:23Z)
• Mitigating the Learning Bias towards Repetition by Self-Contrastive Training for Open-Ended Generation [92.42032403795879]
  GPT2のような事前訓練された言語モデル(LM)は、繰り返しテキストを生成する傾向にあることを示す。 トークンレベルの反復確率の過大評価は学習バイアスに起因している。 LMは文レベルの繰り返しループの原因となる非繰り返しトークンよりも長い範囲依存を用いて繰り返しトークンを予測する。
  論文  参考訳（メタデータ） (2023-07-04T07:53:55Z)
• Unbiased Multiple Instance Learning for Weakly Supervised Video Anomaly Detection [74.80595632328094]
  弱監視ビデオ異常検出(WSVAD)における多重インスタンス学習(MIL)の優位性 We propose a new MIL framework: Unbiased MIL (UMIL) to learn unbiased anomaly features that improve WSVAD。
  論文  参考訳（メタデータ） (2023-03-22T08:11:22Z)
• TACRED Revisited: A Thorough Evaluation of the TACRED Relation Extraction Task [80.38130122127882]
  TACREDはリレーショナル抽出(RE)において最も大きく、最も広く使われているクラウドソースデータセットの1つである パフォーマンスの天井に到達したのか、改善の余地はあるのか? ラベルエラーは絶対F1テストエラーの8%を占めており、例の50%以上を可逆化する必要がある。
  論文  参考訳（メタデータ） (2020-04-30T15:07:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。