Fugu-MT 論文翻訳(概要): XL-DURel: Finetuning Sentence Transformers for Ordinal Word-in-Context Classification

論文の概要: XL-DURel: Finetuning Sentence Transformers for Ordinal Word-in-Context Classification

arxiv url: http://arxiv.org/abs/2507.14578v1
Date: Sat, 19 Jul 2025 11:40:37 GMT
ステータス: 翻訳完了
システム内更新日: 2025-07-22 20:51:31.950213
Title: XL-DURel: Finetuning Sentence Transformers for Ordinal Word-in-Context Classification
Title（参考訳）: XL-DUREL:正規語文分類のための微調整文変換器
Authors: Sachin Yadav, Dominik Schlechtweg,
Abstract要約: XL-DUREL (XL-DURel) は、言語内単語分類に最適化された微調整された多言語文変換モデルである。本稿では,2進 WiC を順序性 WiC の特別な場合として扱うことができ,一般順序性タスクのモデル最適化により,より特定の二進性タスクの性能が向上することを示す。
参考スコア（独自算出の注目度）: 4.9559541631372905
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: We propose XL-DURel, a finetuned, multilingual Sentence Transformer model optimized for ordinal Word-in-Context classification. We test several loss functions for regression and ranking tasks managing to outperform previous models on ordinal and binary data with a ranking objective based on angular distance in complex space. We further show that binary WiC can be treated as a special case of ordinal WiC and that optimizing models for the general ordinal task improves performance on the more specific binary task. This paves the way for a unified treatment of WiC modeling across different task formulations.
Abstract（参考訳）: XL-DURel は,言語内単語分類に最適化された,微調整された多言語文変換モデルである。複雑な空間における角距離に基づくランク付け対象の順序データと二進データにおいて、先行モデルよりも優れた性能を発揮するために、回帰およびランキングタスクのためのいくつかの損失関数を試験する。さらに、二項 WiC は順序性 WiC の特別な場合として扱うことができ、一般順序性タスクのモデル最適化により、より特定の二項性タスクの性能が向上することを示す。これにより、異なるタスクの定式化にまたがるWiCモデリングの統一的な処理の道が開ける。

関連論文リスト

PanMatch: Unleashing the Potential of Large Vision Models for Unified Matching Models [80.65273820998875]
頑健な対応マッチングのための汎用基盤モデルであるPanMatchを提案する。我々の重要な洞察は、任意の2フレーム対応タスクが2次元変位推定フレームワーク内で処理可能であることである。 PanMatchは、偏差推定アルゴリズムを前例のない一般化能力で実現し、マルチタスク統合を実現する。
論文参考訳（メタデータ） (2025-07-11T08:18:52Z)
When Less Is More: Binary Feedback Can Outperform Ordinal Comparisons in Ranking Recovery [4.451479907610764]
関係のない順序対比較をモデル化するための一般的なパラメトリック・フレームワークを提案する。順序データの双対化はランキング回復の精度を著しく向上させることができることを示す。
論文参考訳（メタデータ） (2025-07-02T11:30:38Z)
OrderChain: Towards General Instruct-Tuning for Stimulating the Ordinal Understanding Ability of MLLM [28.249198952483685]
本稿では,MLLMの規則的理解能力を,特異性と共通性モデリングにより向上させる,新規で汎用的なプロンプトパラダイムであるOrderChainを提案する。 OrderChainを用いたLarge Language and Vision Assistantモデルは,多様なORデータセットに基づいて,ベースラインのLLaVAを大幅に改善することを示す。私たちの知る限りでは、OrderChainは、ORタスクのMLLMを拡張した最初の作品です。
論文参考訳（メタデータ） (2025-04-07T07:53:44Z)
Breaking Free Transformer Models: Task-specific Context Attribution Promises Improved Generalizability Without Fine-tuning Pre-trained LLMs [1.5138606851862884]
本稿では,一般化性を維持し,下流タスクの性能を向上させるフレームワークを提案する。タスク固有の概念演算子を用いて任意の変換器モデルからテキスト表現を線形変換すると、潜在概念空間に投影されることを示す。 HateXplain,IMDB Review,Social Media Attributionsという3つのデータセットの実験結果から,提案モデルが精度と一般化性に優れていたことが示唆された。
論文参考訳（メタデータ） (2024-01-30T00:23:29Z)
RGM: A Robust Generalizable Matching Model [49.60975442871967]
RGM(Robust Generalist Matching)と呼ばれる疎密マッチングのための深部モデルを提案する。合成トレーニングサンプルと実世界のシナリオのギャップを狭めるために、我々は、疎対応基盤真理を持つ新しい大規模データセットを構築した。さまざまな密集したスパースなデータセットを混ぜ合わせることができ、トレーニングの多様性を大幅に改善しています。
論文参考訳（メタデータ） (2023-10-18T07:30:08Z)
Sorted LLaMA: Unlocking the Potential of Intermediate Layers of Large Language Models for Dynamic Inference [32.62084449979531]
SortedNet を Sorted Fine-Tuning (SoFT) に置き換えることで生成 NLP タスクに拡張する。我々のアプローチはモデル効率を向上し、推論中に様々なシナリオに対する複数のモデルの必要性を排除します。以上の結果から,SFT+ICT(Early-Exit)と標準ファインチューニング(SFT+ICT)と比較して,サブモデルの優れた性能を示す。
論文参考訳（メタデータ） (2023-09-16T11:58:34Z)
Paragraph-based Transformer Pre-training for Multi-Sentence Inference [99.59693674455582]
マルチ候補推論タスクの微調整に使用する場合,一般的な事前学習型トランスフォーマーは性能が良くないことを示す。次に、複数の入力文にまたがる段落レベルの意味をモデル化する新しい事前学習目標を提案する。
論文参考訳（メタデータ） (2022-05-02T21:41:14Z)
Retrieve-and-Fill for Scenario-based Task-Oriented Semantic Parsing [110.4684789199555]
シナリオベースのセマンティックパーシングを導入し、最初に発話の「scenario」を曖昧にする必要がある元のタスクの変種を紹介します。この定式化により、タスクの粗くきめ細かな側面を分離することが可能となり、それぞれがオフザシェルフニューラルネットワークモジュールで解決される。私たちのモデルはモジュール化され、差別化可能で、解釈可能で、シナリオから余分な監督を得られるようになります。
論文参考訳（メタデータ） (2022-02-02T08:00:21Z)
X2Parser: Cross-Lingual and Cross-Domain Framework for Task-Oriented Compositional Semantic Parsing [51.81533991497547]
タスク指向コンポジションセマンティックパーシング(TCSP)は複雑なネストされたユーザクエリを処理する。本報告では,TCSPの変換可能なクロスランガルとクロスドメインを比較した。本稿では,フラット化意図とスロット表現を別々に予測し,両方の予測タスクをシーケンスラベリング問題にキャストすることを提案する。
論文参考訳（メタデータ） (2021-06-07T16:40:05Z)
Supervised Contrastive Learning for Pre-trained Language Model Fine-tuning [23.00300794016583]
最先端の自然言語理解分類モデルは2段階に従う。微調整段階に対する教師付きコントラスト学習(SCL)の目的を提案する。提案した微調整目的は、微調整訓練データにおいて、異なるレベルのノイズに対してより堅牢なモデルに導かれる。
論文参考訳（メタデータ） (2020-11-03T01:10:39Z)
Set Based Stochastic Subsampling [85.5331107565578]
本稿では,2段階間ニューラルサブサンプリングモデルを提案する。画像分類,画像再構成,機能再構築,少数ショット分類など,様々なタスクにおいて,低いサブサンプリング率で関連ベースラインを上回っていることを示す。
論文参考訳（メタデータ） (2020-06-25T07:36:47Z)
Feature Transformation Ensemble Model with Batch Spectral Regularization for Cross-Domain Few-Shot Classification [66.91839845347604]
特徴抽出ネットワークの後に多様な特徴変換を行うことにより,アンサンブル予測モデルを提案する。我々は,事前学習中に特徴行列の特異値を抑制するために,バッチスペクトル正規化項を用い,モデルの一般化能力を向上させる。提案したモデルは、ターゲット領域で微調整して、数発の分類に対処することができる。
論文参考訳（メタデータ） (2020-05-18T05:31:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。