論文の概要: Structuring Semantic Embeddings for Principle Evaluation: A Prototype-Guided Contrastive Learning Approach
- arxiv url: http://arxiv.org/abs/2608.15224v2
- Date: Sat, 22 Aug 2026 06:33:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-25 18:24:36.86551
- Title: Structuring Semantic Embeddings for Principle Evaluation: A Prototype-Guided Contrastive Learning Approach
- Title(参考訳): 基本的評価のための意味的埋め込みの構造化:プロトタイプガイドによるコントラスト学習アプローチ
- Authors: Che Shen, Junwei Su, Lingpeng Kong, Chuan Wu,
- Abstract要約: 汎用的なテキスト埋め込みはそのようなタスクに広くデプロイされているが、意味的類似性は意味的に似ているがタスク固有の例を示すことができる。
本稿では,凍結したテキスト埋め込み上に構築された幾何正規化モジュールであるPGCL(Prototype-Guided Contrastive Learning)を紹介する。
- 参考スコア(独自算出の注目度): 58.15427952222424
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reliable post-hoc evaluation asks whether already generated text satisfies a target criterion after generation. In this paper we study a focused frozen-embedding setting using principle-evaluation proxy tasks: toxicity detection, fine-grained emotion categorization, and ordinal review rating. General-purpose text embeddings are widely deployed for such tasks, but broad semantic similarity can place semantically similar yet task-distinct examples in overlapping regions of the representation space. We introduce Prototype-Guided Contrastive Learning (PGCL), a prototype-guided geometric regularization module built on top of frozen text embeddings. The module combines a semantic stream, a prototype-anchor attention stream, supervised contrastive learning, offset-based prototype-margin regularization, and stream regularization to produce a compact task-adapted representation without updating the base encoder. Controlled experiments show that PGCL improves over raw frozen embeddings on all three datasets and gives the clearest direct-baseline margin on AmazonReviews, while remaining competitive with strong direct frozen metric-learning baselines on GoEmotions and ToxicComment. We also add supervised residual-adapter, encoder-LoRA, full fine-tuning, objective ablation, sensitivity, and fully logged few-shot LLM protocol diagnostics to define the boundary of the claim. The theoretical analysis is revised as a sufficient-condition account for prototype-margin behavior under explicit assumptions in the prototype-mapping space, rather than as an unconditional training or final-embedding separation guarantee.
- Abstract(参考訳): 信頼性の高いポストホック評価では、生成したテキストが生成後の目標基準を満たすかどうかを問う。
本稿では, 毒性検出, きめ細かい感情分類, 常態レビュー評価といった, 原則評価プロキシタスクを用いた集中型凍結埋め込み設定について検討する。
汎用的なテキスト埋め込みはそのようなタスクに広くデプロイされているが、表現空間の重なり合う領域において、意味的に類似しているがタスク固有の例を広範囲に意味的に類似させることが可能である。
本稿では,凍結したテキスト埋め込み上に構築された幾何正規化モジュールであるPGCL(Prototype-Guided Contrastive Learning)を紹介する。
このモジュールは、セマンティックストリーム、プロトタイプアンカーの注意ストリーム、教師付きコントラスト学習、オフセットベースのプロトタイプマージン正規化、ストリーム正規化を組み合わせて、ベースエンコーダを更新することなく、コンパクトなタスク適応表現を生成する。
コントロールされた実験によると、PGCLは3つのデータセットすべてに生の凍結埋め込みを改善し、AmazonReviewsで最も明確な直接ベースラインマージンを提供する一方で、GoEmotionsとToxicCommentの強力なフリーズメトリックラーニングベースラインとの競争力を維持している。
また, 教師付き残差アダプタ, エンコーダ-LORA, フル微調整, 客観的アブレーション, 感度, および全ログ化した数発のLDMプロトコル診断を加え, クレームの境界を定義する。
理論解析は、非条件トレーニングや最終埋め込み分離保証ではなく、プロトタイプマッピング空間における明示的な仮定の下でのプロトタイプマージン動作の十分な条件記述として修正される。
関連論文リスト
- What to Test Next: Interpretable Coverage Gap Discovery in Driving VLMs [52.50210189669399]
視覚言語モデル(VLM)を駆動するには,操作設計領域(ODD)が定義する様々な条件のシーンを正確に理解する必要がある
SliceScorerは、欠落したスライス推薦のための決定論的スコアリングルールである。
SliceNavは, 従来のスライス発見法よりも, 高リスクカバレッジギャップを効果的に表面化することを示す。
論文 参考訳(メタデータ) (2026-06-01T03:18:01Z) - RAGR: Review-Augmented Generative Recommendation [61.29879991713178]
Review-Augmented Generative Recommendation (RAGR)は、レビューフィードバックを直接生成ユーザシーケンスに組み込む新しいGRフレームワークである。
RAGRは、すべてのメトリクスにわたる強力なGRバックボーンよりも一貫性があり、大きな利益をもたらす。
論文 参考訳(メタデータ) (2026-05-17T05:21:23Z) - The Compliance Paradox: Semantic-Instruction Decoupling in Automated Academic Code Evaluation [11.984098021215878]
SPACI(Semantic-Preserving Adrial Code Injection)フレームワークとAST-ASIP(Abstract Syntax Tree-Aware Semantic Injection Protocol)を紹介する。
これらの方法は、抽象構文木(英語版)の構文的に不活性な領域(トリヴィアノード)に逆方向の指示を埋め込むことにより、構文解析ギャップを利用する。
Python、C、C++、Javaの25,000のサブミッションにまたがる9つのSOTAモデルの大規模な評価を通じて、DeepSeek-V3のような高容量オープンウェイトモデルにおいて、破滅的な失敗率(>95%)を明らかにします。
論文 参考訳(メタデータ) (2026-01-29T07:40:58Z) - Unsupervised Text Segmentation via Kernel Change-Point Detection on Sentence Embeddings [0.0]
境界ラベルは高価で主観的で、ドメイン間での転送や粒度の選択に失敗することが多いため、教師なしのテキストセグメンテーションが不可欠である。
我々は,文を埋め込みベクトルとして表現し,ペナル化KCPDの目的を最小化して境界を推定する訓練自由な手法であるEmbed-KCPDを提案する。
Taylor Swiftのツイートに関するケーススタディでは、Embed-KCPDは強力な理論的保証、シミュレーションされた信頼性、テキストセグメンテーションの実践的有効性を組み合わせている。
論文 参考訳(メタデータ) (2026-01-26T18:54:34Z) - Prototypical Contrastive Learning through Alignment and Uniformity for
Recommendation [6.790779112538357]
提案するアンダーライン・アライメントとアンダーライン・ユニフォーマル性によるインダーライン型コントラスト学習について述べる。
具体的には、まず、原点グラフから異なる拡張点間の整合性を確保するために、潜時空間としてプロトタイプを提案する。
明示的な負の欠如は、インスタンスとプロトタイプ間の整合性損失を直接最適化することで、次元的な崩壊の問題が容易に生じることを意味する。
論文 参考訳(メタデータ) (2024-02-03T08:19:26Z) - AMRFact: Enhancing Summarization Factuality Evaluation with AMR-Driven Negative Samples Generation [57.8363998797433]
抽象的意味表現(AMR)を用いた摂動要約を生成するフレームワークであるAMRFactを提案する。
提案手法は,AMRグラフに一貫した要約を解析し,制御された事実不整合を注入して負の例を生成し,一貫性のない事実不整合要約を高い誤差型カバレッジで生成する。
論文 参考訳(メタデータ) (2023-11-16T02:56:29Z) - Prototypical Kernel Learning and Open-set Foreground Perception for
Generalized Few-shot Semantic Segmentation [7.707161030443157]
Generalized Few-shot Semantic (GFSS)は、Few-shot Semanticアグリゲーションを拡張して、未確認のクラスと評価中のクラスを分割する。
上記の問題に対して,原型的カーネル学習とオープンセット認識を融合させることで対処する。
さらに、条件バイアスに基づく推論と協調する前景文脈知覚モジュールを採用し、クラス非依存およびオープンセット前景検出を行う。
論文 参考訳(メタデータ) (2023-08-09T13:38:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。