論文の概要: Unraveling the iterative CHAD

• arxiv url: http://arxiv.org/abs/2505.15002v1
• Date: Wed, 21 May 2025 01:10:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-22 15:42:58.804734
• Title: Unraveling the iterative CHAD
• Title（参考訳）: 反復型CHADの展開
• Authors: Fernando Lucatelli Nunes, Gordon Plotkin, Matthijs Vákár,
• Abstract要約: Combinatory Homomorphic Automatic Differentiation (CHAD) はもともと、リバースモードADのためのセマンティクス駆動のソース変換として定式化された。 私たちはCHADを、潜在的に終端しない操作、実値条件、 while-loop のような反復構造といった機能を持つ部分言語に拡張します。
• 参考スコア（独自算出の注目度）: 44.99833362998488
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Combinatory Homomorphic Automatic Differentiation (CHAD) was originally formulated as a semantics-driven source transformation for reverse-mode AD in total programming languages. We extend this framework to partial languages with features such as potentially non-terminating operations, real-valued conditionals, and iteration constructs like while-loops, while preserving CHAD's structure-preserving semantics principle. A key contribution is the introduction of iteration-extensive indexed categories, which allow iteration in the base category to lift to parameterized initial algebras in the indexed category. This enables iteration to be interpreted in the Grothendieck construction of the target language in a principled way. The resulting fibred iterative structure cleanly models iteration in the categorical semantics. Consequently, the extended CHAD transformation remains the unique structure-preserving functor (an iterative Freyd category morphism) from the freely generated iterative Freyd category of the source language to the Grothendieck construction of the target's syntactic semantics, mapping each primitive operation to its derivative. We prove the correctness of this transformation using the universal property of the source language's syntax, showing that the transformed programs compute correct reverse-mode derivatives. Our development also contributes to understanding iteration constructs within dependently typed languages and categories of containers. As our primary motivation and application, we generalize CHAD to languages with data types, partial features, and iteration, providing the first rigorous categorical semantics for reverse-mode CHAD in such settings and formally guaranteeing the correctness of the source-to-source CHAD technique.
• Abstract（参考訳）: Combinatory Homomorphic Automatic Differentiation (CHAD) は、元来、プログラミング言語の逆モードADのためのセマンティックス駆動のソース変換として定式化された。 我々は、CHADの構造保存セマンティクスの原則を保ちながら、潜在的に非終端演算、実値条件、 while-loops のような反復構造といった機能を備えた部分言語に拡張する。 重要な貢献は反復指数付き圏の導入であり、基本圏の反復は指数付き圏のパラメータ化された初期代数に持ち上げることができる。 これにより、反復はGrothendieckでターゲット言語を原則的に構築することで解釈できる。 その結果得られたフィブレッド反復構造は、カテゴリー意味論における反復をきれいにモデル化する。 したがって、拡張CHAD変換は、ソース言語の自由生成された反復フリード圏からターゲットの構文的意味論のグロタンディーク構成へのユニークな構造保存関手(反復フリード圏の射)のままであり、各原始演算をその微分にマッピングする。 変換プログラムが正しい逆モード微分を計算することを示し、この変換の正しさをソースコードの構文の普遍性を用いて証明する。 私たちの開発は、依存型付け言語やコンテナのカテゴリ内でのイテレーション構成の理解にも貢献しています。 主要なモチベーションと応用として、CHADをデータ型、部分的特徴、反復性を持つ言語に一般化し、そのような設定でリバースモードCHADに対する最初の厳密な分類的セマンティクスを提供し、ソースからソースへのCHADテクニックの正しさを正式に保証します。

関連論文リスト

• Compositional Program Generation for Few-Shot Systematic Generalization [59.57656559816271]
  コンポジションプログラムジェネレータ(CPG)と呼ばれるニューロシンボリックアーキテクチャに関する研究 CPGには3つの重要な特徴がある: 文法規則の形で、テキストモジュラリティ、テキストコンポジション、テキストタストラクションである。 SCAN と COGS のベンチマークでは,SCAN の14例と COGS の22例を使用して,完全な一般化を実現している。
  論文  参考訳（メタデータ） (2023-09-28T14:33:20Z)
• Advancing Incremental Few-shot Semantic Segmentation via Semantic-guided Relation Alignment and Adaptation [98.51938442785179]
  増分的な数ショットセマンティックセマンティックセマンティクスは、セマンティクスセマンティクスモデルを新しいクラスに漸進的に拡張することを目的としている。 このタスクは、データ不均衡のため、ベースクラスと新しいクラスの間で深刻な意味認識の問題に直面します。 本稿では,従来の意味情報のガイダンスを完全に考慮した意味誘導型関係調整適応法を提案する。
  論文  参考訳（メタデータ） (2023-05-18T10:40:52Z)
• Object Representations as Fixed Points: Training Iterative Refinement Algorithms with Implicit Differentiation [88.14365009076907]
  反復的洗練は表現学習に有用なパラダイムである。 トレーニングの安定性とトラクタビリティを向上させる暗黙の差別化アプローチを開発する。
  論文  参考訳（メタデータ） (2022-07-02T10:00:35Z)
• Graph Adaptive Semantic Transfer for Cross-domain Sentiment Classification [68.06496970320595]
  クロスドメイン感情分類(CDSC)は、ソースドメインから学んだ伝達可能なセマンティクスを使用して、ラベルなしのターゲットドメインにおけるレビューの感情を予測することを目的としている。 本稿では、単語列と構文グラフの両方からドメイン不変セマンティクスを学習できる適応型構文グラフ埋め込み法であるグラフ適応意味伝達(GAST)モデルを提案する。
  論文  参考訳（メタデータ） (2022-05-18T07:47:01Z)
• Transferring Semantic Knowledge Into Language Encoders [6.85316573653194]
  意味的意味表現から言語エンコーダへ意味的知識を伝達する手法である意味型ミッドチューニングを導入する。 このアライメントは分類や三重項の損失によって暗黙的に学習できることを示す。 提案手法は, 推論, 理解, テキストの類似性, その他の意味的タスクにおいて, 予測性能の向上を示す言語エンコーダを生成する。
  論文  参考訳（メタデータ） (2021-10-14T14:11:12Z)
• Categorical Semantics of Reversible Pattern-Matching [0.0]
  Theseusをベースとした型付き機能的可逆言語に焦点をあてる。 パターンマッチングを捉えるために,逆リグカテゴリと結合するカテゴリ構造を導出する。 このような構造が、可逆的なパターンマッチングにどのように適切なモデルを作るかを示す。
  論文  参考訳（メタデータ） (2021-09-13T10:05:11Z)
• Anti-aliasing Semantic Reconstruction for Few-Shot Semantic Segmentation [66.85202434812942]
  セグメンテーションを意味的再構成問題として再検討する。 基本クラスの特徴を,新しいクラス再構築のためのクラスレベルのセマンティック空間にまたがる一連の基底ベクトルに変換する。 提案手法はアンチエイリアス・セマンティック・リストラクション (ASR) と呼ばれ, 数発の学習問題に対して, 体系的かつ解釈可能な解法を提供する。
  論文  参考訳（メタデータ） (2021-06-01T02:17:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。