論文の概要: ItColBERT: An Italian-Specialised Late-Interaction Retriever
- arxiv url: http://arxiv.org/abs/2609.26856v1
- Date: Tue, 22 Sep 2026 14:36:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 00:05:17.700325
- Title: ItColBERT: An Italian-Specialised Late-Interaction Retriever
- Title(参考訳): ItColBERT:イタリア発のラテンアクションレトリバー
- Abstract要約: ItColBERTは、PyLateで訓練されたイタリアのコルバートの135Mパラメータである。
テストされたすべての汎用の遅延アクションベースラインよりも優れています。
唯一のクリーンなドメイン外ベンチマーク(MLDR-it)では、変化のないチェックポイントに適用される推論時間のチャンキングレシピが+0.0602 nDCG@10になる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural information retrieval for Italian is served almost entirely by multilingual models. Several multi-vector (late-interaction) retrievers include Italian among dozens of languages, and several strong Italian dense embedders exist, but as of August 2026 no late-interaction retriever specialised on Italian had been released. We present ItColBERT, a 135M-parameter Italian ColBERT trained with PyLate following the ColBERT-Zero recipe: initialise from a checkpoint that already retrieves, then apply supervised contrastive training followed by single-teacher distillation, for a total of roughly 14.5 GPU-hours on one RTX 3090. Across four Italian retrieval benchmarks it outperforms every general-purpose late-interaction baseline we tested except one (mLateOn), at 2-4.4x fewer parameters than every baseline but one of comparable size. Our principal empirical finding is methodological and partly negative. On the only cleanly out-of-domain benchmark (MLDR-it), an inference-time chunking recipe applied to an unchanged checkpoint yields +0.0602 nDCG@10 (p = 0.0225), a larger effect than anything two further rounds of training produced. Self-mined hard negatives and native 1024-token training were both evaluated against pre-registered decision gates and both failed. We report every comparison with paired bootstrap tests against an empirically measured noise floor of 0.0030 nDCG@10, and we release the weights, the training and evaluation code, and the complete experimental record including the rejected rounds.
- Abstract(参考訳): イタリア語のニューラル情報検索はほとんど全て多言語モデルで行われている。
2026年8月現在、イタリア語を専門とする後期対話型レトリバーはリリースされていない。
ColBERT-Zeroのレシピに従って、PyLateでトレーニングされた135MパラメータのイタリアのColBERTであるItColBERTを紹介します。
イタリアの4つの検索ベンチマークでは、1つ(mLateOn)を除いて、私たちがテストした汎用の遅延処理ベースラインを2-4.4倍のパラメータで比較した。
私たちの主要な経験的発見は方法論的かつ部分的に否定的です。
唯一のクリーンなドメイン外ベンチマーク(MLDR-it)では、変化のないチェックポイントに適用される推論時間チャンキングレシピが+0.0602 nDCG@10(p = 0.0225)となり、さらに2ラウンドのトレーニングよりも大きな効果を発揮する。
自己決定型ハードネガティブとネイティブ1024トークントレーニングの両方が、事前登録された決定ゲートに対して評価され、どちらも失敗した。
実験によって測定した0.0030 nDCG@10のノイズフロアに対するブートストラップ試験との比較を報告する。
関連論文リスト
- Agora: Git as Shared Memory for Collective AutoResearch [54.31992252587096]
別々のセッションで作業する調査エージェントは、他の人が試したことと、構築可能な結果を知る必要がある。
各コミットは結果、洞察、仮説、検証、報告を記録し、それを以前の作業とリンクする。
約12日間に渡り,13人の言語モデル労働者がアゴラを重み移動問題の解決に利用したことを報告した。
論文 参考訳(メタデータ) (2026-09-16T04:00:54Z) - Manacá-1B: An Open, Reproducible Brazilian-Portuguese Language Model and a Tokenizer-Aware, Paired Evaluation [0.0]
Manac-1Bはブラジルのポルトガル語でトレーニングされた12億のパラメータからなるオープンデコーダのみのモデルです。
1つのハーネスでポルトガルの4つのベンチマークで9つのオープンベースラインに対してモデルを評価した。
論文 参考訳(メタデータ) (2026-08-31T01:00:14Z) - MoganColBERT-TR: A Late-Interaction Multi-Vector Retrieval Model for Turkish [0.0]
この研究は第3のモデルであるMoganColBERT-TRを導入している。
MoganColBERT-TRは、768->128プロジェクションを通してトークンレベルで表現し、MaxSim遅延相互作用でスコアするマルチベクトル検索モデルである。
148.9Mパラメータを持つMoganColBERT-TRの総合スコアは37.36である。
論文 参考訳(メタデータ) (2026-08-26T19:26:15Z) - RAGthoven at SemEval-2026 Task 1: A Multi-Stage Pipeline Walks Into a Benchmark and Barely Clears the Bar [0.1899342874107254]
RAGthoven, our system for SemEval-2026 Task 1 (MWAHAHA), Subtask A (multilingual constrained humor generation in English, Spanish, and Chinese)。
RAGthovenは、創造的なテキスト生成を多段階の大規模言語モデル(LLM)パイプラインに分解する。
ReAct型シーケンシャルツールコール(Exp09)と自律型マルチブランチオーケストレーション(Exp10)の2つのエージェント変異を評価した。
論文 参考訳(メタデータ) (2026-07-14T18:39:33Z) - Benchmarking Speech-to-Speech Translation Models [55.00303727199927]
音声音声翻訳(S2ST)は急速に進歩しているが、オフライン評価には統一されたプロトコルが欠けている。
8次元にわたる46のメトリクスを統合するベンチマークフレームワークを導入する。
FLEURSとCVSSから1,248のモデル言語構成でデプロイする。
論文 参考訳(メタデータ) (2026-06-02T07:01:33Z) - The Multilingual Curse at the Retrieval Layer: Evidence from Amharic [49.25758237235551]
マルチリンガルベンチマークの強いゼロショットスコアは、現在のエンコーダが多くの言語で確実に転送される証拠としてしばしば考えられている。
この仮定は、表現が不十分で形態学的にリッチな言語に当てはまると我々は主張する。
我々は,ゼロショット多言語レトリバー,アンハリック細調整多言語レトリバー,単言語多言語レトリバーを比較した。
論文 参考訳(メタデータ) (2026-05-23T12:44:30Z) - DIETA: A Decoder-only transformer-based model for Italian-English machine TrAnslation [74.85762984118024]
DIETAは、0.5億のパラメータを持つ小さなデコーダのみのトランスフォーマーモデルである。
約2億7700万のイタリア語と英語の文対からなる大きな並列コーパスを収集し、キュレートする。
2025 WikiNews の記事を基に,450 文からなる新しい小規模評価セットをリリースする。
論文 参考訳(メタデータ) (2026-01-25T13:08:43Z) - Apertus: Democratizing Open and Compliant LLMs for Global Language Environments [163.70368742538187]
Apertusは、今日のオープンモデルエコシステムにおける2つのシステム的欠点に対処するために設計された、大きな言語モデル(LLM)の完全なオープンスイートである。
Apertusモデルは、公開データにのみ事前訓練されており、ロボット.txtの除外や、非許容的で有毒で個人が特定可能なコンテンツに対するフィルタリングを尊重している。
Apertusモデルはまた、1800以上の言語から15Tトークンをトレーニングし、非英語コンテンツに割り当てられた事前トレーニングデータの40%をトレーニングしている。
論文 参考訳(メタデータ) (2025-09-17T17:59:21Z) - XplaiNLP at CheckThat! 2025: Multilingual Subjectivity Detection with Finetuned Transformers and Prompt-Based Inference with Large Language Models [2.749729059235755]
このノートには、XplaiがCheckThat!に提出されたことを報告しています。
単言語および機械翻訳によるトレーニングデータに基づいて,変換器エンコーダの教師付き微調整,EuroBERT,XLM-RoBERTa,ジャーマン-BERTの2つの手法を評価する。
ドイツ語の場合、タイポロジーに関連のある言語から翻訳されたトレーニングデータに基づいて微調整されたドイツ語-BERTモデルでは、ベースライン上での競争性能が向上する。
論文 参考訳(メタデータ) (2025-09-15T16:53:41Z) - JaColBERTv2.5: Optimising Multi-Vector Retrievers to Create State-of-the-Art Japanese Retrievers with Constrained Resources [0.0]
本稿では,JaColBERTv2.5モデルを用いた新しいトレーニングレシピを提案する。
わずか1億1000万のパラメータと15時間以内にトレーニングされたJaColBERTv2.5は、既存のすべてのメソッドを著しく上回っている。
今後の研究を支援するため、最終モデル、中間チェックポイント、および公開されているすべてのデータを作成します。
論文 参考訳(メタデータ) (2024-07-30T11:42:19Z) - AmericasNLI: Evaluating Zero-shot Natural Language Understanding of
Pretrained Multilingual Models in Truly Low-resource Languages [75.08199398141744]
我々は、XNLI(Conneau et al)の拡張である AmericasNLI を提示する。
は、アメリカ大陸の10の原住民の言語である。
XLM-Rで実験を行い、複数のゼロショットおよび翻訳ベースのアプローチをテストします。
XLM-Rのゼロショット性能は全10言語で低調であり、平均性能は38.62%である。
論文 参考訳(メタデータ) (2021-04-18T05:32:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。