論文の概要: Harmonic Representations in Symbolic Music Transformers are Localized and Controllable

• arxiv url: http://arxiv.org/abs/2610.15957v1
• Date: Sun, 11 Oct 2026 22:24:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-19 08:22:20.508366
• Title: Harmonic Representations in Symbolic Music Transformers are Localized and Controllable
• Title（参考訳）: 記号変換器の高調波表現は局所化され制御可能である
• Abstract要約: 調和決定は、中間層から徐々に因果的に局所化されている。 そして、これらの表現が音楽生成制御に有効であることを確認した。 これはモデルの内部調和知識を直接操作して調和出力を制御できることを推論時に示している。
• 参考スコア（独自算出の注目度）: 6.1798800135242535
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Transformer models trained on symbolic music have become remarkably capable. However, it is yet unclear how they represent music structure, and whether understanding their internal representations can be used to unlock methods for model control. We examine this through a case study of harmonic analysis: when a music transformer navigates a cadence, what does it internally "know" about its harmonic context, and can that knowledge be used to affect the generation? Using Aria, a LLaMA-based symbolic music transformer evaluated on Bach chorales, we find that harmonic decisions are causally localized progressively from middle layers onward. Linear probes show that mode becomes decodable in the same layer range where patching identifies growing causal effect, while key identity emerges later. We then confirm these representations are actionable for music generation control: steering via latent directions corresponding to harmonic changes reliably produces a deceptive or minor resolution, while preserving structural coherence and generation quality. This demonstrates that, at inference time, the model's internal harmonic knowledge can be directly manipulated to control the harmonic output.
• Abstract（参考訳）: シンボリック・ミュージックで訓練されたトランスフォーマー・モデルは非常に有能になった。 しかし、どのようにして音楽構造を表現するのか、その内部表現を理解することが、モデル制御のためのメソッドのアンロックに利用できるのかは、まだ不明である。 音楽トランスフォーマーがケイデンスをナビゲートするとき、そのハーモニックな文脈について内部的に「知る」ことは何であり、その知識は生成に影響を与えるのか? LLaMAをベースとしたBach合唱曲に基づくシンボリック・ミュージック・トランスフォーマーであるAriaを用いて,中間層から段階的に音素決定が因果的局所化されていることを確認した。 リニアプローブは、パッチが増大する因果効果を識別するのに対して、キーアイデンティティは後になって現れる同じ層範囲でモードがデオード可能であることを示す。 そして、これらの表現が音楽生成制御に有効であることを確認する: 構造的コヒーレンスと生成品質を保ちながら、調和変化に対応する潜時方向を操りながら、認識的あるいはマイナーな解決を確実に生成する。 これはモデルの内部調和知識を直接操作して調和出力を制御できることを推論時に示している。

関連論文リスト

• From Human Narrative to Harmonic Structure: A Human-Centered Investigation of Algorithmic Music Generation through the Chord Wheel Diagram [0.0]
  本研究は,ボブ・ディラン,ジョニー・キャッシュ,リッチー・ヴァレンスの6曲について検討した。 調波語彙,機能持続性,繰り返し,非調波事象,および調波図とBPMNに基づく表現を用いた緊張分解パターンについて検討する。 この結果から, 生成システムは調和的正当性だけでなく, 構造的同一性, 文脈, 人間の構成意図もモデル化できる可能性が示唆された。
  論文  参考訳（メタデータ） (2026-09-28T09:31:34Z)
• The Attention Triangle in Audio-Video Models [67.46972888113658]
  音声・ビデオ拡散モデルは、テキスト、音声、視覚内容の調整にモーダルな注意を頼っているが、この機構は微妙で体系的な意味的漏洩をもたらす可能性がある。 テキスト,音声,ビデオストリームを接続する3つの横断的エッジからなる「注意三角形」を探索し,解析することにより,これらのモデルについて検討する。 音声は映像生成に影響を及ぼし、ビデオは音声生成に影響を及ぼす。
  論文  参考訳（メタデータ） (2026-09-03T09:33:27Z)
• MIDI-RAE-JEPA: Hierarchical Representation Learning and Generation for Symbolic Music [1.218340575383456]
  我々は,LJEPAとSwin Transformer V2エンコーダを組み合わせたMIDI-RAE-JEPAを提案する。 ピアノロール画像として符号化された記号音楽のこのような階層的表現を学習する。 その結果, 等価性に基づくSSL目標と十分な微細エンコーダ容量が組み合わさって, 意味的に豊かで, 生成的に有用な記号音楽表現への実現可能な道筋が示唆された。
  論文  参考訳（メタデータ） (2026-07-16T03:42:35Z)
• Scaling Self-Supervised Representation Learning for Symbolic Piano Performance [52.661197827466886]
  本研究では,多量のシンボリック・ピアノ転写を訓練した自己回帰型トランスフォーマモデルの能力について検討した。 比較的小型で高品質なサブセットをファインチューンモデルに使い、音楽の継続を生成、シンボリックな分類タスクを実行し、汎用的なコントラストMIDI埋め込みを生成する。
  論文  参考訳（メタデータ） (2025-06-30T14:00:14Z)
• Adaptive Accompaniment with ReaLchords [60.690020661819055]
  ユーザのメロディに合わせてコード伴奏を即興するオンライン生成モデルであるReaLchordsを提案する。 まず、最大で事前訓練されたオンラインモデルから始め、強化学習を使用して、オンライン使用のためのモデルを微調整します。
  論文  参考訳（メタデータ） (2025-06-17T16:59:05Z)
• Emotion-Driven Melody Harmonization via Melodic Variation and Functional Representation [16.790582113573453]
  感情駆動のメロディは、望ましい感情を伝えるために、1つのメロディのための多様なハーモニーを生成することを目的としている。 以前の研究では、異なるコードで同じメロディを調和させることで、リードシートの知覚的価値を変えることが困難であった。 本稿では,シンボリック音楽の新たな機能表現を提案する。
  論文  参考訳（メタデータ） (2024-07-29T17:05:12Z)
• MuseBarControl: Enhancing Fine-Grained Control in Symbolic Music Generation through Pre-Training and Counterfactual Loss [51.85076222868963]
  制御信号と対応する音楽トークンを直接リンクする事前学習タスクを導入する。 次に、生成した音楽と制御プロンプトとの整合性を向上する新たな対実的損失を実現する。
  論文  参考訳（メタデータ） (2024-07-05T08:08:22Z)
• How Transformers Learn Causal Structure with Gradient Descent [44.31729147722701]
  自己注意はトランスフォーマーが因果構造をエンコードすることを可能にする。 我々は、潜在因果構造を学習する必要があるコンテキスト内学習タスクを導入する。 我々は、文脈内学習タスクで訓練されたトランスフォーマーが、様々な因果構造を回復できることを示す。
  論文  参考訳（メタデータ） (2024-02-22T17:47:03Z)
• Generating music with sentiment using Transformer-GANs [0.0]
  本研究では,人間の感情から得られるデータによって条件付けられた記号音楽の生成モデルを提案する。 我々は,効率の良い線形バージョンの注意と識別器を用いることで,上記の問題に対処しようと試みている。
  論文  参考訳（メタデータ） (2022-12-21T15:59:35Z)
• Is Disentanglement enough? On Latent Representations for Controllable Music Generation [78.8942067357231]
  強い生成デコーダが存在しない場合、アンタングル化は必ずしも制御性を意味するものではない。 VAEデコーダに対する潜伏空間の構造は、異なる属性を操作するための生成モデルの能力を高める上で重要な役割を果たす。
  論文  参考訳（メタデータ） (2021-08-01T18:37:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。