論文の概要: Anchored Decoding: Provably Reducing Copyright Risk for Any Language Model

• arxiv url: http://arxiv.org/abs/2602.07120v1
• Date: Fri, 06 Feb 2026 19:00:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-10 20:26:24.457992
• Title: Anchored Decoding: Provably Reducing Copyright Risk for Any Language Model
• Title（参考訳）: Anchored Decoding: あらゆる言語モデルに対する著作権リスクの低減
• Authors: Jacqueline He, Jonathan Hayase, Wen-tau Yih, Sewoong Oh, Luke Zettlemoyer, Pang Wei Koh,
• Abstract要約: 現代の言語モデル(LM)は、トレーニングデータの一部を記憶し、動詞のスパンを出力する傾向がある。 提案するAnchored Decodingは,動詞の模倣を抑えるためのプラグアンドプレイ推論時間法である。 本手法は,著作権リスクとユーティリティの長期評価において,6組のモデルペアで評価する。
• 参考スコア（独自算出の注目度）: 99.16364381244445
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Modern language models (LMs) tend to memorize portions of their training data and emit verbatim spans. When the underlying sources are sensitive or copyright-protected, such reproduction raises issues of consent and compensation for creators and compliance risks for developers. We propose Anchored Decoding, a plug-and-play inference-time method for suppressing verbatim copying: it enables decoding from any risky LM trained on mixed-license data by keeping generation in bounded proximity to a permissively trained safe LM. Anchored Decoding adaptively allocates a user-chosen information budget over the generation trajectory and enforces per-step constraints that yield a sequence-level guarantee, enabling a tunable risk-utility trade-off. To make Anchored Decoding practically useful, we introduce a new permissively trained safe model (TinyComma 1.8B), as well as Anchored$_{\mathrm{Byte}}$ Decoding, a byte-level variant of our method that enables cross-vocabulary fusion via the ByteSampler framework (Hayase et al., 2025). We evaluate our methods across six model pairs on long-form evaluations of copyright risk and utility. Anchored and Anchored$_{\mathrm{Byte}}$ Decoding define a new Pareto frontier, preserving near-original fluency and factuality while eliminating up to 75% of the measurable copying gap (averaged over six copying metrics) between the risky baseline and a safe reference, at a modest inference overhead.
• Abstract（参考訳）: 現代の言語モデル(LM)は、トレーニングデータの一部を記憶し、動詞のスパンを出力する傾向がある。 基礎となるソースが機密性あるいは著作権保護されている場合、このような複製は、クリエイターに対する同意と補償の問題を提起し、開発者のコンプライアンスリスクを増大させる。 提案するAnchored Decodingは,可変コピーを抑えるためのプラグイン・アンド・プレイ・推論・タイムの手法で,暗黙的に訓練された安全なLMに近接して生成を保ち,混合ライセンスデータ上で訓練された危険のあるLMから復号することができる。 Anchored Decodingは、生成トランジェクトリにユーザコセン情報予算を適応的に割り当て、シーケンスレベルの保証をもたらすステップ単位の制約を適用し、変更可能なリスクユーティリティトレードオフを可能にする。 また,Anchored$_{\mathrm{Byte}}$ DecodingはByteSamplerフレームワーク(Hayase et al , 2025)を介して語彙間の融合を可能にする手法である。 本手法は,著作権リスクとユーティリティの長期評価において,6組のモデルペアで評価する。 Anchored and Anchored$_{\mathrm{Byte}}$ Decodingは、リスクのあるベースラインと安全な参照の間の計測可能なコピーギャップ(平均6つ以上のコピーメトリクス)の75%を、わずかに推論オーバーヘッドで排除しながら、ほぼオリジナルに近い流布と事実を保存する、新しいParetoフロンティアを定義する。

関連論文リスト

• SafeRedir: Prompt Embedding Redirection for Robust Unlearning in Image Generation Models [67.84174763413178]
  我々はSafeRedirを紹介した。SafeRedirは、迅速な埋め込みリダイレクトによる堅牢なアンラーニングのための軽量な推論時フレームワークである。 SafeRedirは,効果的な非学習能力,意味的・知覚的保存能力,堅牢な画像品質,対人攻撃に対する耐性の向上を実現している。
  論文  参考訳（メタデータ） (2026-01-13T15:01:38Z)
• From Bits to Rounds: Parallel Decoding with Exploration for Diffusion Language Models [19.97248408121574]
  Diffusion Language Models (DLMs) は並列デコードにより高速な推論速度で同等の精度を提供する。 高信頼トークンは無視可能な情報を持ち、それらに厳密に依存することで、各デコードラウンドにおける効果的な進捗を制限する。 本研究では,情報スループットと復号効率を最大化する学習自由復号法であるExplore-Then-Exploit (ETE)を提案する。
  論文  参考訳（メタデータ） (2025-11-26T06:38:37Z)
• Certified Mitigation of Worst-Case LLM Copyright Infringement [46.571805194176825]
  コピーライト・テイクダウン(copyright takedown)とは、著作権のあるものに近いコンテンツをモデルが生成するのを防ぐ手法である。 我々はBloomScrubを提案する。BloomScrubは極めてシンプルで、非常に効果的な推論時間アプローチであり、認証された著作権の削除を提供する。 本研究は,軽量な推論時間手法が著作権保護に驚くほど有効であることを示唆する。
  論文  参考訳（メタデータ） (2025-04-22T17:16:53Z)
• Towards Copyright Protection for Knowledge Bases of Retrieval-augmented Language Models via Reasoning [58.57194301645823]
  大規模言語モデル(LLM)は、現実のパーソナライズされたアプリケーションにますます統合されている。 RAGで使用される知識基盤の貴重かつしばしばプロプライエタリな性質は、敵による不正使用のリスクをもたらす。 これらの知識基盤を保護するための透かし技術として一般化できる既存の方法は、一般的に毒やバックドア攻撃を含む。 我々は、無害な」知識基盤の著作権保護の名称を提案する。
  論文  参考訳（メタデータ） (2025-02-10T09:15:56Z)
• Copyright-Protected Language Generation via Adaptive Model Fusion [15.48692649098646]
  copyright-Protecting Model Fusion (CP-Fuse) は、推論中に著作権物質の不連続なセットで訓練されたモデルを組み合わせる新しいアプローチである。 CP-Fuseは,テキストの品質やコード生成を損なうことなく,保護された素材の再生を著しく低減することを示す。
  論文  参考訳（メタデータ） (2024-12-09T16:13:17Z)
• HexaCoder: Secure Code Generation via Oracle-Guided Synthetic Training Data [60.75578581719921]
  大規模言語モデル(LLM)は、自動コード生成に大きな可能性を示している。 最近の研究は、多くのLLM生成コードが深刻なセキュリティ脆弱性を含んでいることを強調している。 我々は,LLMがセキュアなコードを生成する能力を高めるための新しいアプローチであるHexaCoderを紹介する。
  論文  参考訳（メタデータ） (2024-09-10T12:01:43Z)
• Strong Copyright Protection for Language Models via Adaptive Model Fusion [15.48692649098646]
  Copyright-Protecting Fusion (CP-Fuse) は、言語モデルを適応的に組み合わせて保護された物質の再生を最小限にするアルゴリズムである。 その結果,CP-Fuseは高品質なテキストとコード生成を維持しつつ,著作権のあるコンテンツの記憶を著しく減少させることがわかった。
  論文  参考訳（メタデータ） (2024-07-29T15:32:30Z)
• Enhancing Multiple Reliability Measures via Nuisance-extended Information Bottleneck [77.37409441129995]
  トレーニングデータに制限がある現実的なシナリオでは、データ内の多くの予測信号は、データ取得のバイアスからより多く得る。 我々は,相互情報制約の下で,より広い範囲の摂動をカバーできる敵の脅威モデルを考える。 そこで本研究では,その目的を実現するためのオートエンコーダベーストレーニングと,提案したハイブリッド識別世代学習を促進するための実用的なエンコーダ設計を提案する。
  論文  参考訳（メタデータ） (2023-03-24T16:03:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。