Skip to content

Layssy/Paddle-Inference-Demo

This branch is 38 commits behind PaddlePaddle/Paddle-Inference-Demo:master.

Folders and files

NameName
Last commit message
Last commit date

Latest commit

cbf3a52 · Jul 30, 2024
Jul 30, 2024
Jul 18, 2024
Jul 11, 2024
Dec 7, 2021
Mar 14, 2024
Mar 8, 2021
May 6, 2020
Feb 19, 2024

Repository files navigation

Paddle Inference Demos

Paddle Inference为飞桨核心框架推理引擎。Paddle Inference功能特性丰富,性能优异,针对服务器端应用场景进行了深度的适配优化,做到高吞吐、低时延,保证了飞桨模型在服务器端即训即用,快速部署。

为了能让广大用户快速的使用Paddle Inference进行部署应用,我们在此Repo中提供了C++、Python的使用样例。

在这个repo中我们会假设您已经对Paddle Inference有了一定的了解。

如果您刚刚接触Paddle Inference不久,建议您访问这里对Paddle Inference做一个初步的认识。

测试样例

1) 在python目录中,我们通过真实输入的方式罗列了一系列的测试样例,其中包括图像的分类,分割,检测,以及NLP的Ernie/Bert等Python使用样例,同时也包含Paddle-TRT, 多线程的使用样例。

2) 在c++目录中,我们通过单测方式展现了一系列的测试样例,其中包括图像的分类,分割,检测,以及NLP的Ernie/Bert等C++使用样例,同时也包含Paddle-TRT, 多线程的使用样例。

注意:如果您使用2.0以前的Paddle,请参考release/1.8分支

About

No description, website, or topics provided.

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages

  • C++ 46.7%
  • Python 29.8%
  • Shell 9.8%
  • CMake 7.1%
  • Cuda 3.3%
  • HTML 2.1%
  • Other 1.2%