以Qualcomm Adreno™GPU为例,在特定的硬件平台上使用Apache TVM实现Boost ML网络

Egor Churaev

英文演讲 2023-08-18 17:15 GMT+8  #ai

在我们的演讲中,我们将介绍Apache TVM - tensor编译器,用于提高机器学习网络的执行。Apache TVM是优化DL模型的强大工具。在Adreno GPU的例子中,我们将展示用户如何使用TVM显着提高他的模型的性能,通过利用目标平台的特定硬件。 2021年,在Apache TVM中启用Adreno纹理的初步研究基于Mobilenet v1工作负载进行了原型化,并展示了有希望的性能结果,同时其他网络在高通Adreno GPU上仍然运行缓慢。 2022年,我们做了大量的优化工作,取得了显著的性能提升。在我们的演讲中,我们将演示用户如何使用TVM在他们的目标平台上运行模型,以及他们应该做些什么来实现最佳性能。

Speakers:


Egor Churaev: Deelvin解决方案, 高级软件工程师, 高级软件工程师,拥有10年经验,曾在英特尔公司参与多个项目,特别是:OpenCL CPU编译器和英特尔OpenVINO, HSE大学博士生,研究主题与深度学习算法的情感识别相关。 目前在Apache TVM项目上工作。Apache TVM的提交者。