論文の概要: Detecting Stylistic Fingerprints of Large Language Models

• arxiv url: http://arxiv.org/abs/2503.01659v1
• Date: Mon, 03 Mar 2025 15:33:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-05 19:20:11.864602
• Title: Detecting Stylistic Fingerprints of Large Language Models
• Title（参考訳）: 大規模言語モデルのスティリスティックフィンガープリントの検出
• Authors: Yehonatan Bitton, Elad Bitton, Shai Nisan,
• Abstract要約: 大型言語モデル(LLM)は、異なる書体スタイルで書くように促された場合でも、区別され一貫したスタイルの指紋を持つ。 そこで本研究では,テキストを生成したモデルのスタイリスティックな指紋に基づいて,テキストを分類する手法を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Large language models (LLMs) have distinct and consistent stylistic fingerprints, even when prompted to write in different writing styles. Detecting these fingerprints is important for many reasons, among them protecting intellectual property, ensuring transparency regarding AI-generated content, and preventing the misuse of AI technologies. In this paper, we present a novel method to classify texts based on the stylistic fingerprints of the models that generated them. We introduce an LLM-detection ensemble that is composed of three classifiers with varied architectures and training data. This ensemble is trained to classify texts generated by four well-known LLM families: Claude, Gemini, Llama, and OpenAI. As this task is highly cost-sensitive and might have severe implications, we want to minimize false-positives and increase confidence. We consider a prediction as valid when all three classifiers in the ensemble unanimously agree on the output classification. Our ensemble is validated on a test set of texts generated by Claude, Gemini, Llama, and OpenAI models, and achieves extremely high precision (0.9988) and a very low false-positive rate (0.0004). Furthermore, we demonstrate the ensemble's ability to distinguish between texts generated by seen and unseen models. This reveals interesting stylistic relationships between models. This approach to stylistic analysis has implications for verifying the originality of AI-generated texts and tracking the origins of model training techniques.
• Abstract（参考訳）: 大型言語モデル(LLM)は、異なる書体スタイルで書くように促された場合でも、区別され一貫したスタイルの指紋を持つ。 これらの指紋の検出は、知的財産権の保護、AI生成コンテンツに関する透明性の確保、AI技術の誤用防止など、多くの理由から重要である。 本稿では,テキストを生成したモデルのスタイリスティックな指紋に基づいて,テキストを分類する新しい手法を提案する。 アーキテクチャの異なる3つの分類器とトレーニングデータからなるLLM検出アンサンブルを提案する。 このアンサンブルは、Claude、Gemini、Llama、OpenAIの4つの有名なLLMファミリーによって生成されたテキストを分類するために訓練されている。 このタスクはコストに敏感で、深刻な影響がある可能性があるため、偽陽性を最小限に抑え、自信を高めたいと思っています。 我々は、アンサンブル内の3つの分類器が出力分類に全一致で一致した場合、予測が有効であるとみなす。 我々のアンサンブルは、Claude、Gemini、Llama、OpenAIモデルによって生成されたテスト用テキストセットで検証され、非常に高精度(0.9988)で非常に低い偽陽性率(0.0004)を達成する。 さらに、このアンサンブルが、目に見えないモデルと目に見えないモデルによって生成されたテキストを区別する能力を示した。 これは、モデル間の興味深いスタイリスティックな関係を明らかにします。 このスタイリスティック分析へのアプローチは、AI生成したテキストの独創性を検証し、モデルトレーニング手法の起源を追跡することに意味がある。

関連論文リスト

• Idiosyncrasies in Large Language Models [54.26923012617675]
  大規模言語モデル(LLM)における慣用句の公開と研究 LLM生成テキスト上に既存のテキスト埋め込みモデルを微調整することで、優れた分類精度が得られることが判明した。 我々はLLMを審査員として利用し、各モデルの慣用句の詳細かつオープンな記述を生成する。
  論文  参考訳（メタデータ） (2025-02-17T18:59:02Z)
• Detecting Document-level Paraphrased Machine Generated Content: Mimicking Human Writing Style and Involving Discourse Features [57.34477506004105]
  機械生成コンテンツは、学術プラジャリズムや誤報の拡散といった課題を提起する。 これらの課題を克服するために、新しい方法論とデータセットを導入します。 人間の筆記スタイルをエミュレートするエンコーダデコーダモデルであるMhBARTを提案する。 また,PDTB前処理による談話解析を統合し,構造的特徴を符号化するモデルであるDTransformerを提案する。
  論文  参考訳（メタデータ） (2024-12-17T08:47:41Z)
• Detecting Machine-Generated Long-Form Content with Latent-Space Variables [54.07946647012579]
  既存のゼロショット検出器は主に、現実世界のドメインシフトに弱いトークンレベルの分布に焦点を当てている。 本稿では,イベント遷移などの抽象的要素を機械対人文検出の鍵となる要因として組み込んだ,より堅牢な手法を提案する。
  論文  参考訳（メタデータ） (2024-10-04T18:42:09Z)
• Your Large Language Models Are Leaving Fingerprints [1.9561775591923982]
  LLMには、特定の語彙的特徴と形態的特徴の頻度のわずかな違いを示すユニークな指紋がある。 このような指紋を視覚化し、機械が生成したテキストをどうやって検出できるかを説明し、テキストドメイン全体でさらに堅牢であることを示す。
  論文  参考訳（メタデータ） (2024-05-22T23:02:42Z)
• Revisiting N-Gram Models: Their Impact in Modern Neural Networks for Handwritten Text Recognition [4.059708117119894]
  本研究は,言語モデル,特にn-gramモデルが,手書き認識の分野における最先端のディープラーニングアーキテクチャの性能に引き続き寄与するかどうかを論じる。 我々は、明示的なn-gram言語モデルを統合することなく、2つの著名なニューラルネットワークアーキテクチャ、PyLaiaとDANを評価した。 その結果,文字やサブワードの n-gram モデルの導入は,すべてのデータセット上での ATR モデルの性能を著しく向上させることがわかった。
  論文  参考訳（メタデータ） (2024-04-30T07:37:48Z)
• ToBlend: Token-Level Blending With an Ensemble of LLMs to Attack AI-Generated Text Detection [6.27025292177391]
  ToBlendはトークンレベルのアンサンブルテキスト生成手法であり、現在のAIコンテンツ検出アプローチの堅牢性に挑戦する。 ToBlendは、主要なAIコンテンツ検出手法の性能を著しく低下させる。
  論文  参考訳（メタデータ） (2024-02-17T02:25:57Z)
• Continuous Offline Handwriting Recognition using Deep Learning Models [0.0]
  手書き文字認識は、自動文書画像解析の分野に大きな関心を持つオープンな問題である。 我々は,畳み込みニューラルネットワーク(CNN)とシーケンス・ツー・シーケンス(seq2seq)という,2種類のディープラーニングアーキテクチャの統合に基づく新しい認識モデルを提案する。 提案した新たなモデルでは,他の確立された方法論と競合する結果が得られる。
  論文  参考訳（メタデータ） (2021-12-26T07:31:03Z)
• Revisiting Self-Training for Few-Shot Learning of Language Model [61.173976954360334]
  ラベル付きデータにはタスク関連情報が豊富に含まれており、言語モデルの素早い学習に有用であることが証明されている。 本研究では,言語モデルファインチューニングのための自己学習手法を再検討し,最先端のプロンプトベースの少ショット学習者,SFLMを提案する。
  論文  参考訳（メタデータ） (2021-10-04T08:51:36Z)
• Pre-training Language Model Incorporating Domain-specific Heterogeneous Knowledge into A Unified Representation [49.89831914386982]
  本研究では, 構造化されていないテキスト, 半構造化されたテキスト, 十分に構造化されたテキストを含む, あらゆる形式のテキストに対して, 統一された事前学習言語モデル (PLM) を提案する。 提案手法は,データの1/4のみを用いて,プレーンテキストの事前学習に優れる。
  論文  参考訳（メタデータ） (2021-09-02T16:05:24Z)
• Linguistically-Informed Transformations (LIT): A Method for Automatically Generating Contrast Sets [13.706520309917634]
  コントラスト集合を自動生成するLinguistically-Informed Transformation (LIT) 法を提案する。 実験によると、現在の事前訓練された言語モデルは、自動生成されたコントラストセットで苦労している。 トレーニングデータを拡張するためにLITを適用してコントラストセットのモデルの性能を改善するが、元のデータの性能には影響しない。
  論文  参考訳（メタデータ） (2020-10-16T18:23:05Z)
• Behind the Scene: Revealing the Secrets of Pre-trained Vision-and-Language Models [65.19308052012858]
  最近のTransformerベースの大規模事前学習モデルは、視覚言語(V+L)研究に革命をもたらした。 VALUEは,マルチモーダル事前学習における内部動作の解明を目的とした,精密に設計された探索タスクのセットである。 主要な観察:事前訓練されたモデルは、推論中の画像よりもテキストに出席する傾向を示す。
  論文  参考訳（メタデータ） (2020-05-15T01:06:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。