論文の概要: Verifiable, Articulable, and Tacit Components of Preference

• arxiv url: http://arxiv.org/abs/2610.03025v2
• Date: Tue, 06 Oct 2026 02:20:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.270748
• Title: Verifiable, Articulable, and Tacit Components of Preference
• Title（参考訳）: 選好の妥当性, 有能性, 暗黙的成分
• Abstract要約: 317万人の嗜好判断によってラベル付けされた2.8万のテキストを含む、大規模でラベル付き選好データセットCreativePreferencesを導入する。 VAT-VA, 検証可能性ギャップ, 検証可能性ギャップ, VAT-Vを観測し, 新たな測定手法により各ギャップの上下境界を推定した。 1)人間の世代において、完全なモデルは人間の嗜好とより密接な一致を示し、しばしば明瞭な基準に相容れないこと、(2)グッドハートの法則に類似して、嗜好を暗黙の次元から切り離すこと、である。
• 参考スコア（独自算出の注目度）: 115.39287436225764
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: What makes a short story gripping; a news article newsworthy; or a math proof elegant? These constructs resist articulation or verification; their meaning is at least partially tacit. However, modern AI models are improved primarily via articulated constitutions, rubrics and verifiers (i.e. in RLAIF and RLVR); tacit components of preferences are typically understudied. We introduce a large, labeled preference dataset CreativePreferences, containing 2.8M texts labeled by 317M human preference judgments across 7 creative domains, with 42 benchmark tasks. We model these labels with executable programs, rubric banks and densely trained models (V, A and VAT, respectively). We observe robust articulability gaps, VAT-VA; and verifiability gaps, VAT-V; we estimate upper and lower bounds for each gap with a novel measurement approach that discovers articulable and verifiable metrics, identifies spurious variables and estimates the value of undiscovered metrics using capture-recapture. These gaps occur across all domains, even in domains traditionally treated as fully verifiable: correctness-centered domains (i.e. mathematics and software engineering) and claim- and novelty-centric domains (i.e. news, patents, peer review). The size of the gap varies based on domain (e.g. peer review and creative writing have the largest articulability gaps) and widens as more people take part in the judgment, consistent with Collins' collective tacit knowledge. We show two consequences: (1) on human generations, the full model more closely matches human preferences, often in disagreement with articulated criteria, and (2) in an analogy to Goodhart's law, articulating preference shifts it away from the tacit dimension. Articulability and verifiability gaps are consequential; we give recommendations on when tasks can be prompted; how learning mechanisms might improve; and when to leave judgments with humans.
• Abstract（参考訳）: 短いストーリーの握り方、ニュース記事にふさわしいもの、数学の証明がエレガントなものは何だろうか? これらの構造体は調音や検証に抵抗し、その意味は少なくとも部分的に暗黙的である。 しかし、現代のAIモデルは、主に調音された構成、ルーブリック、検証器(RLAIFやRLVRなど)によって改善されている。 我々は,7つのクリエイティブドメインにわたる317万の人間の嗜好判断によってラベル付けされた2.8万のテキストと42のベンチマークタスクを含む,大規模でラベル付けされた選好データセットCreativePreferencesを紹介した。 これらのラベルを,実行可能プログラム,ルーブリックバンク,密に訓練されたモデル(V,A,VAT)でモデル化する。 VAT-VA, VAT-V, VAT-V, VAT-V, VAT-V, VAT-V, VAT-V, VAT-V, VAT-V, VAT-V, VAT-V, VAT-V, VAT-V, VAT-V, VAT-V, VAT-V, VAT-V, VAT-V, VAT-V, VAT-V, VAT-V, VAT-V。 これらのギャップは、伝統的に完全検証可能なドメインとして扱われる:正当性中心のドメイン(数学とソフトウェア工学)とクレーム中心および新規性中心のドメイン(ニュース、特許、ピアレビュー)である。 ギャップの大きさはドメインによって異なる(例えば、ピアレビューと創造的な文章は最大のアーティキュラビリティのギャップを持つ)。 1)人間の世代において、完全なモデルは人間の嗜好とより密接な一致を示し、しばしば明瞭な基準に相容れないこと、(2)グッドハートの法則に類似して、嗜好を暗黙の次元から逸脱させること、である。 達成可能性と検証可能性のギャップは連続的であり、いつタスクが促されるか、学習メカニズムがどのように改善されるか、そしていつ人間と判断を下すかを推奨する。

関連論文リスト

• Explainable Disentangled Representation Learning for Generalizable Authorship Attribution in the Era of Generative AI [70.05655131235999]
  EAVAE(Explainable Authorship Variational Autoencoder)は、コンテンツからスタイルを明示的に切り離す新しいフレームワークである。 ディスタングルメントは、新規な差別者を通じて実施される。 EAVAEは、AI生成テキスト検出のためのM4データセットよりも、数ショットの学習に優れています。
  論文  参考訳（メタデータ） (2026-04-23T05:34:20Z)
• Are You Sure You're Positive? Consolidating Chain-of-Thought Agents with Uncertainty Quantification for Aspect-Category Sentiment Analysis [4.14197005718384]
  データセットのアノテーションに必要な時間とリソースが限られている場合、ゼロショット設定で大きな言語モデルを活用することは有益である、と我々は主張する。 本稿では,大規模言語モデルのトークンレベルの不確実性スコアを活用することで,複数のチェーンオブ思考エージェントを組み合わせる新しい手法を提案する。
  論文  参考訳（メタデータ） (2025-08-24T08:51:16Z)
• Investigating Distributions of Telecom Adapted Sentence Embeddings for Document Retrieval [12.135498957287004]
  公開可能なモデルとドメイン適応型から得られた埋め込みを評価した。 我々は,異なる埋め込みに対する類似度スコアのしきい値を得るための体系的手法を確立する。 ドメイン固有の文に対する埋め込みは、ドメインに依存しない文とほとんど重複しないことを示す。
  論文  参考訳（メタデータ） (2024-06-18T07:03:34Z)
• Cobra Effect in Reference-Free Image Captioning Metrics [58.438648377314436]
  視覚言語事前学習モデル(VLM)を活用した参照フリー手法の普及が出現している。 本稿では,基準自由度に欠陥があるかどうかを考察する。 GPT-4Vは生成した文を評価するための評価ツールであり,提案手法がSOTA(State-of-the-art)の性能を達成することを示す。
  論文  参考訳（メタデータ） (2024-02-18T12:36:23Z)
• Architectural Sweet Spots for Modeling Human Label Variation by the Example of Argument Quality: It's Best to Relate Perspectives! [4.478789600295492]
  自然言語処理における個々の視点と共有視点の相互作用を考察する。 本稿では,異なるアノテータ間の関係をモデル化するレイヤを含むアーキテクチャが,単一アノテータラベルの予測にどの程度有用かを検討する。 本研究は,主観的アプローチが個人的視点に結びつくことのメリットを示唆するものである。
  論文  参考訳（メタデータ） (2023-11-06T14:47:48Z)
• Fairness meets Cross-Domain Learning: a new perspective on Models and Metrics [80.07271410743806]
  クロスドメイン学習(CD)とモデルフェアネスの関係について検討する。 いくつかの人口集団にまたがる顔画像と医療画像のベンチマークと、分類とローカライゼーションタスクについて紹介する。 本研究は,3つの最先端フェアネスアルゴリズムとともに,14のCDアプローチをカバーし,前者が後者に勝ることを示す。
  論文  参考訳（メタデータ） (2023-03-25T09:34:05Z)
• Prior Knowledge Guided Unsupervised Domain Adaptation [82.9977759320565]
  本稿では,対象とするクラス分布に関する事前知識を利用できる知識誘導型非教師付きドメイン適応(KUDA)設定を提案する。 特に,対象領域におけるクラス分布に関する2種類の事前知識について考察する。 このような事前知識を用いて生成した擬似ラベルを精査する修正モジュールを提案する。
  論文  参考訳（メタデータ） (2022-07-18T18:41:36Z)
• AES Systems Are Both Overstable And Oversensitive: Explaining Why And Proposing Defenses [66.49753193098356]
  スコアリングモデルの驚くべき逆方向の脆さの原因について検討する。 のモデルとして訓練されているにもかかわらず、単語の袋のように振る舞うことを示唆している。 高い精度で試料を発生させる過敏性と過敏性を検出できる検出ベース保護モデルを提案する。
  論文  参考訳（メタデータ） (2021-09-24T03:49:38Z)
• Automatic Discovery of Novel Intents & Domains from Text Utterances [18.39942131996558]
  本稿では,ラベルのない大量のデータから新しいドメインや意図を自動的に発見する新しいフレームワークADVINを提案する。 ADVINは3つのベンチマークデータセットのベースラインと、商用音声処理エージェントからの実際のユーザ発話を大きく上回る。
  論文  参考訳（メタデータ） (2020-05-22T00:47:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。