論文の概要: More Reader Data or a Better Teacher? Updating a Model of Crowd Highlights in Late 2026

• arxiv url: http://arxiv.org/abs/2610.17768v1
• Date: Tue, 13 Oct 2026 05:54:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-17 17:22:40.418391
• Title: More Reader Data or a Better Teacher? Updating a Model of Crowd Highlights in Late 2026
• Title（参考訳）: 読者データが増えるか、より良い教師になるか?-2026年後半の群衆のハイライトモデル
• Abstract要約: 読者のハイライトに基づいてトレーニングされたモデルでは、読者がほとんどいないページであっても、以前の読者がページ上に収束した新参者を示すことができる。 1年ほど強い言語モデルでは、直接使うか、あるいは教師として使うかの2つのアップグレードが提案されている。 我々は、あるソーシャルハイライトプラットフォーム上の第3の、より多くの読者データと比較し、比較、選択ルール、および事前に固定された新しいページのセットを比較した。
• 参考スコア（独自算出の注目度）: 1.8620637029128544
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A model trained on readers' highlights can show a newcomer where earlier readers converged on a page, even on pages with few readers. A year of stronger language models suggests two upgrades: use them directly, or use them as teachers. We compare both with a third, more reader data, on one social highlighting platform, with the comparisons, the selection rules and a sealed set of fresh pages fixed in advance. On 215 development pages, seven language models released by October 2026 rank sentences zero-shot at an average precision of at most 0.3744 against the sentences half the readers marked most, and 0.3931 when fused with reading position, while a 3-billion-parameter model trained on reader highlights alone reaches 0.4346. Used as the teacher that breaks ties among readers' counts, the stronger fusion changes a trained model by +0.0013 [-0.0012, +0.0040], whereas going from half to all of its training pages adds +0.0242 [+0.0179, +0.0301]. A 27-billion-parameter backbone on the reader-only recipe adds +0.0225 on the development pages; on 131 fresh pages, read once and too few for a confirmatory comparison, its difference from the 3-billion model is unresolved, both score above the fusion, and in an exploratory split their lead over the previous model sits on pages from domains that their fresh training pages also cover. In this recipe, more reader data improves a trained model where a stronger tie-breaking teacher yields no material gain, and frontier models used as rankers still trail a small model trained on readers.
• Abstract（参考訳）: 読者のハイライトに基づいてトレーニングされたモデルでは、読者がほとんどいないページであっても、以前の読者がページ上に収束した新参者を示すことができる。 より強力な言語モデルの1年は、直接使うか、教師として使うかの2つのアップグレードを示唆している。 我々は、あるソーシャルハイライトプラットフォーム上の第3の、より多くの読者データと比較し、比較、選択ルール、および事前に固定された新しいページのセットを比較した。 開発ページ215ページでは、2026年10月までにリリースされた7つの言語モデルが、読み手の半分の文章に対して、平均0.3744の精度でゼロショットの文を出力し、読み手の位置と融合した場合0.3931、読み手ハイライトだけで訓練された3ビリオンパラメータモデルが0.4346である。 読み手数間の関係を断ち切る教師として使用される、強い融合は、トレーニングされたモデルを+0.0013[-0.0012, +0.0040]に変更する一方、トレーニングページの半分から全ページに+0.0242[+0.0179, +0.0301]を追加する。 リードオンリーのレシピの27ビリオンのバックボーンは、開発ページに+0.0225を付加する; 131ページの新ページでは、確認された比較のために1回と2回は読めないが、3ビリオンモデルとの違いは未解決であり、どちらも融合点以上のスコアであり、以前のモデルよりもリードを探索的に分割している場合、新しいトレーニングページがカバーしているドメインのページにある。 このレシピでは、より強いネクタイ破りの教師が物質的利得を得られず、ローダとして使用されるフロンティアモデルは、読者に訓練された小さなモデルに追随する。

関連論文リスト

• Language Models Agree With Each Other, Not With Readers [1.8620637029128544]
  我々は、その目的のために構築された誰もいない人間の参照に対する収束を測定する。 120のWebドキュメントに2,523のリードマークがある。 読者が読むものよりも確実に読者に同意するモデルはない。
  論文  参考訳（メタデータ） (2026-07-31T10:44:10Z)
• The Long Tail, Not the Front Page: Cold-Start Prediction of Crowd Highlight Salience [1.8620637029128544]
  ソーシャル・ハイライトの最も有用なシグナルは、既に多くの人が読んでいる文書にのみ存在する。 文書の集合的な群衆のサリエンスを、そのマークが蓄積される前にテキストから予測できるのか? このデータに関する以前の研究で、ゼロショット言語モデルが、簡単なリード(配置)ベースラインよりも低い位置のハイライトを回復していることが判明した。 ハイライトコーパスでトレーニングされたモデルがそのベースラインを上回ることができるかどうかを問う。
  論文  参考訳（メタデータ） (2026-06-10T04:37:23Z)
• Findings of the BabyLM Challenge: Sample-Efficient Pretraining on Developmentally Plausible Corpora [84.03928547166873]
  子どもたちは1億ワード未満の入力から言語を習得できる。 大規模な言語モデルはデータ効率がはるかに低く、通常は3～4桁以上のデータを必要とするが、多くの評価において人間ほど性能は高くない。 BabyLM Challengeは、参加者が固定データ予算で言語モデルトレーニングを最適化するために競う共同作業である。
  論文  参考訳（メタデータ） (2025-04-10T23:22:43Z)
• One Thousand and One Pairs: A "novel" challenge for long-context language models [56.60667988954638]
  NoChaは、67冊の架空の書籍に関する1,001対の真偽の主張のデータセットである。 当社のアノテータは、NoChaにおけるペアの最大シェアは、本全体に対するグローバルな推論を必要としていることを確認しています。 平均的なモデルでは、文レベルの検索しか必要としないペアの方が、グローバルな推論よりもはるかに優れています。
  論文  参考訳（メタデータ） (2024-06-24T02:03:57Z)
• Understanding writing style in social media with a supervised contrastively pre-trained transformer [57.48690310135374]
  オンラインソーシャルネットワークは、ヘイトスピーチから偽情報の拡散まで、有害な行動の場として機能している。 本稿では, 4.5 x 106テキストの公開資料から得られた大規模コーパスに基づいて学習したStyle Transformer for Authorship Representations (STAR)を紹介する。 512個のトークンからなる8つのドキュメントからなるサポートベースを使用して、著者を最大1616人の著者のセットから、少なくとも80%の精度で識別することができる。
  論文  参考訳（メタデータ） (2023-10-17T09:01:17Z)
• Who's Harry Potter? Approximate Unlearning in LLMs [4.821438899378393]
  大きな言語モデル(LLM)は、しばしば著作権のあるコンテンツを含む巨大なインターネットコーパスで訓練されている。 これは、これらのモデルの開発者やユーザ、およびオリジナルの著者や出版者にとって、法的および倫理的な課題を引き起こす。 本稿では,LLMからトレーニングデータのサブセットをスクラッチから再学習する必要がない新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-10-03T17:48:14Z)
• LeBenchmark 2.0: a Standardized, Replicable and Enhanced Framework for Self-supervised Representations of French Speech [70.3307853082527]
  この研究は、SSL対応のフランス語音声技術の評価と構築のためのオープンソースのフレームワークであるLeBenchmark 2.0を紹介している。 文書化され、大規模で、異質なコーパスを含み、14,000時間に及ぶ異質なスピーチがある。 コミュニティが共有する2600万から10億の学習可能なパラメータを含む、トレーニング済みのSSLwav2vec 2.0モデルが10種類含まれている。
  論文  参考訳（メタデータ） (2023-09-11T14:13:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。