depyf: 機械学習研究者のためのPyTorchコンパイラの不透明な箱を開く

depyf: PyTorchコンパイラの不透明な箱を開き、機械学習研究者のためのツールとして提供する 著者Kaichao You**†, Runsheng Bai†, Meng Cao, Jianmin Wang†, Ion Stoica‡, Mingsheng Long† 出版物を見る ソースコードを見る (GitHub) PyTorch \texttt{2.x}は、深層学習プログラムを高速化するために設計されたコンパイラを導入しました。しかし、機械学習研究者にとって、PyTorchコンパイラを最大限に活用することは困難な場合があります。このコンパイラはPythonバイトコードレベルで動作するため、不透明な箱のように見えます。この問題に対処するため、PyTorchコンパイラの内部動作を解明するように設計されたツール、\texttt{depyf}を紹介します。\texttt{depyf}は、PyTorchによって生成されたバイトコードを同等のソースコードに逆コンパイルし、メモリ内のコードオブジェクトとディスク上の対応するソースコードとの間に関連付けを確立します。この機能により、ユーザーはデバッガを使用してソースコードを1行ずつステップ実行できるようになり、基礎となるプロセスに対する理解を深めることができます。特筆すべきは、\texttt{depyf}が非侵入的でユーザーフレンドリーであり、そのコア機能は主に2つの便利なコンテキストマネージャに依存している点です。 † 清華大学 BNRist ソフトウェア学院、中国北京 ‡ カリフォルニア大学バークレー校 コンピュータサイエンス学部 ** Apple在籍時の研究成果 関連する読み物と最新情報。 UICoder: 自動化されたフィードバックを通じて大規模言語モデルをファインチューニングし、ユーザーインターフェースコードを生成する 2025年8月15日研究分野 ヒューマンコンピュータインタラクション、研究分野 手法とアルゴリズム会議 NAACL 大規模言語モデル(LLM)は、コンパイル可能で視覚的に適切なデザインを生成するUIコードを一貫して生成するのに苦労しています。生成を改善するための既存のアプローチは、高価な人間のフィードバックや独自モデルの蒸留に依存しています。本論文では、自動化されたフィードバック（コンパイラとマルチモーダルモデル）を使用してLLMを導き、高品質なUIコードを生成させる方法を探ります。私たちの手法は、既存のLLMから始めて、反復的に改善された… Apple Neural EngineへのTransformerのデプロイ 2022年6月6日研究分野 コンピュータビジョン、研究分野 音声・自然言語処理 Appleで私たちが構築する機械学習(ML)モデルのうち、Transformerアーキテクチャを部分的または完全に採用するモデルの数は年々増加しています。このアーキテクチャは、HyperDETRを用いたCameraのパノプティックセグメンテーション、Photosのオンデバイスシーン分析、アクセシビリティのための画像キャプション生成、機械翻訳など、多くの体験を実現するのに役立っています。今年のWWDC 2022において、AppleはTransformerアーキテクチャのオープンソースの参照PyTorch実装を公開し、世界中の開発者が最先端のTransformerモデルをAppleデバイスにシームレスにデプロイする方法を提供します。 機械学習における機会を発見する。 私たちの機械学習研究は、日々新たな領域を切り拓いています。 ![](https://mlr.cdn-apple.com/media/Discover_1440x420_2x_9c465d585e.jpg)

depyf: 機械学習研究者のためのPyTorchコンパイラの不透明な箱を開く

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト