每日最新頭條.有趣資訊

CUDA推理不夠快?NVIDIA專家教你用TensorRT搞定深度模型

NVIDIA TensorR是一個高性能深度學習推理平台。它包含深度學習推理優化器和提供低延遲和高通量的深度學習推理應用程序的運行時。使用 TensorRT,您可以在主流框架下優化神經網絡訓練模型, 在保證高精度輸出結果的同時校準低精度數據類型,並最終部署到超大型數據中心、嵌入式或者汽車產品平台。

12 月 12 日,NVIDIA 開發者社區高級講師何琨將來帶線上分享。本次分享針對有模型訓練知識背景的技術人員,主要介紹 TensorRT 6.0 的最新特性,以及如何利用 CUDA和 cuDNN 創建新的組件。通過本次分享,您將了解以下內容:

TensorRT 6.0 的性能特點

TensorRT Plugin 的實現方法

TensorRT Plugin 的開發方法細節

cuDNN 的使用技巧

本次線上分享詳情如下:

主題:使用 TensorRT 加速推理結果計算—利用 CUDA 和 cuDNN 創建組件

日期:2019 年 12月12日, 星期四

時間:20:00-21:30

演講嘉賓

何琨 (KEN HE)

NVIDIA開發者社區高級講師

擁有多年 GPU 及人工智能開發經驗。在人工智能、計算機視覺、高性能計算領域曾經獨立完成過多個項目,並且在機器人和無人機領域有豐富的研發經驗。曾針對圖像識別、目標檢測與跟蹤等方面完成多種解決方案 , 作為主要研發者參與 GP 版天氣模式 GRAPES。

TensorRT介紹參考:https://developer.nvidia.com/deep-learning-software。

獲得更多的PTT最新消息
按讚加入粉絲團