論文の概要: Unraveling the iterative CHAD
- arxiv url: http://arxiv.org/abs/2505.15002v2
- Date: Wed, 13 Aug 2025 21:59:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-15 13:42:23.239486
- Title: Unraveling the iterative CHAD
- Title(参考訳): 反復型CHADの展開
- Authors: Fernando Lucatelli Nunes, Gordon Plotkin, Matthijs Vákár,
- Abstract要約: Combinatory Homomorphic Automatic Differentiation (CHAD)は、当初、セマンティックス駆動のソース・トゥ・ソース・トランスフォーメーション(source-to-source transformation)として定式化された。
我々はCHADを拡張し、部分的な(潜在的に非終端的な)操作、データ依存条件、反復構成を含むプログラムを包含する。
- 参考スコア(独自算出の注目度): 44.99833362998488
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Combinatory Homomorphic Automatic Differentiation (CHAD) was originally formulated as a semantics-driven source-to-source transformation for reverse-mode AD of total (terminating) functional programs. In this work, we extend CHAD to encompass programs featuring constructs such as partial (potentially non-terminating) operations, data-dependent conditionals (e.g., real-valued tests), and iteration constructs (i.e. while-loops), while maintaining CHAD's core principle of structure-preserving semantics. A central contribution is the introduction of iteration-extensive indexed categories, which provide a principled integration of iteration into dependently typed programming languages. This integration is achieved by requiring that iteration in the base category lifts to parameterized initial algebras in the indexed category, yielding an op-fibred iterative structure that models while-loops and other iteration constructs in the total category, which corresponds to the category of containers of our dependently typed language. Through the idea of iteration-extensive indexed categories, we extend the CHAD transformation to looping programs as the unique structure-preserving functor in a suitable sense. Specifically, it is the unique iterative Freyd category morphism from the iterative Freyd category corresponding to the source language to the category of containers obtained from the target language, such that each primitive operation is mapped to its (transposed) derivative. We establish the correctness of this extended transformation via the universal property of the syntactic categorical model of the source language, showing that the differentiated programs compute correct reverse-mode derivatives of their originals.
- Abstract(参考訳): Combinatory Homomorphic Automatic Differentiation (CHAD) は、当初、機能プログラム全体(終端)のリバースモードADのためのセマンティクス駆動のソース・ソース変換として定式化された。
本研究は,CHADを,部分的(潜在的に非終端的な)操作,データ依存条件(実値テスト),反復構成(例えば while-loops)などの構造を包含するプログラムに拡張し,CHADの中核となる構造保存セマンティクスの原則を維持する。
中心的なコントリビューションは、反復拡張インデックス付きカテゴリの導入である。これは、依存型付け言語への反復の原則的な統合を提供する。
この積分は、基本圏の反復が指数付き圏のパラメータ化された初期代数に持ち上げられ、従属型言語(英語版)のコンテナの圏に対応する、対数ループやその他の全圏の反復構成をモデル化する擬ファイバー反復構造が得られることを要求する。
反復拡大インデックス付き圏のアイデアを通じて、CHAD変換をループプログラムへ拡張し、適切な意味でのユニークな構造保存関手とする。
具体的には、ソース言語に対応する反復的フレイド圏から対象言語から得られたコンテナの圏への一意的な反復的フレイド圏の射であり、各プリミティブ演算はその(転置された)微分にマッピングされる。
我々は、この拡張変換の正しさを、ソース言語の構文分類モデルの普遍的性質を通じて確立し、区別されたプログラムが元の逆モード微分を正しく計算することを示す。
関連論文リスト
- Recursive Aggregates as Intensional Functions in Answer Set Programming: Semantics and Strong Equivalence [8.927343469404322]
我々は,clingo と dlv によって実装された集合を持つプログラムのセマンティクスが,不動関数を持つ拡張一階述語として特徴づけられることを示した。
また、古典的な一階述語論理の推論に強い同値性をチェックする作業を削減する変換を提案する。
論文 参考訳(メタデータ) (2024-12-14T21:34:55Z) - Compositional Program Generation for Few-Shot Systematic Generalization [59.57656559816271]
コンポジションプログラムジェネレータ(CPG)と呼ばれるニューロシンボリックアーキテクチャに関する研究
CPGには3つの重要な特徴がある: 文法規則の形で、テキストモジュラリティ、テキストコンポジション、テキストタストラクションである。
SCAN と COGS のベンチマークでは,SCAN の14例と COGS の22例を使用して,完全な一般化を実現している。
論文 参考訳(メタデータ) (2023-09-28T14:33:20Z) - Advancing Incremental Few-shot Semantic Segmentation via Semantic-guided
Relation Alignment and Adaptation [98.51938442785179]
増分的な数ショットセマンティックセマンティックセマンティクスは、セマンティクスセマンティクスモデルを新しいクラスに漸進的に拡張することを目的としている。
このタスクは、データ不均衡のため、ベースクラスと新しいクラスの間で深刻な意味認識の問題に直面します。
本稿では,従来の意味情報のガイダンスを完全に考慮した意味誘導型関係調整適応法を提案する。
論文 参考訳(メタデータ) (2023-05-18T10:40:52Z) - Object Representations as Fixed Points: Training Iterative Refinement
Algorithms with Implicit Differentiation [88.14365009076907]
反復的洗練は表現学習に有用なパラダイムである。
トレーニングの安定性とトラクタビリティを向上させる暗黙の差別化アプローチを開発する。
論文 参考訳(メタデータ) (2022-07-02T10:00:35Z) - Graph Adaptive Semantic Transfer for Cross-domain Sentiment
Classification [68.06496970320595]
クロスドメイン感情分類(CDSC)は、ソースドメインから学んだ伝達可能なセマンティクスを使用して、ラベルなしのターゲットドメインにおけるレビューの感情を予測することを目的としている。
本稿では、単語列と構文グラフの両方からドメイン不変セマンティクスを学習できる適応型構文グラフ埋め込み法であるグラフ適応意味伝達(GAST)モデルを提案する。
論文 参考訳(メタデータ) (2022-05-18T07:47:01Z) - Transferring Semantic Knowledge Into Language Encoders [6.85316573653194]
意味的意味表現から言語エンコーダへ意味的知識を伝達する手法である意味型ミッドチューニングを導入する。
このアライメントは分類や三重項の損失によって暗黙的に学習できることを示す。
提案手法は, 推論, 理解, テキストの類似性, その他の意味的タスクにおいて, 予測性能の向上を示す言語エンコーダを生成する。
論文 参考訳(メタデータ) (2021-10-14T14:11:12Z) - Categorical Semantics of Reversible Pattern-Matching [0.0]
Theseusをベースとした型付き機能的可逆言語に焦点をあてる。
パターンマッチングを捉えるために,逆リグカテゴリと結合するカテゴリ構造を導出する。
このような構造が、可逆的なパターンマッチングにどのように適切なモデルを作るかを示す。
論文 参考訳(メタデータ) (2021-09-13T10:05:11Z) - Anti-aliasing Semantic Reconstruction for Few-Shot Semantic Segmentation [66.85202434812942]
セグメンテーションを意味的再構成問題として再検討する。
基本クラスの特徴を,新しいクラス再構築のためのクラスレベルのセマンティック空間にまたがる一連の基底ベクトルに変換する。
提案手法はアンチエイリアス・セマンティック・リストラクション (ASR) と呼ばれ, 数発の学習問題に対して, 体系的かつ解釈可能な解法を提供する。
論文 参考訳(メタデータ) (2021-06-01T02:17:36Z) - Unsupervised Distillation of Syntactic Information from Contextualized
Word Representations [62.230491683411536]
我々は,ニューラルネットワーク表現における意味論と構造学の非教師なしの絡み合いの課題に取り組む。
この目的のために、構造的に類似しているが意味的に異なる文群を自動的に生成する。
我々は、我々の変換クラスタベクトルが、語彙的意味論ではなく構造的特性によって空間に現れることを実証する。
論文 参考訳(メタデータ) (2020-10-11T15:13:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。