TLM OSDI 2024

Enabling Tensor Language Model to Assist in Generating High-Performance Tensor Programs for Deep Learning

Posted by Treaseven on December 23, 2024

Motivation

目前生成高性能张量程序需要生成一个巨大的搜索空间,但是目前的方法搜索效率都十分低下。
作者提出一个张量程序生成框架,在维护一个巨大的搜索空间来保证生成高性能张量程序,同时借助大语言模型来高效生成张量程序

System Overview