• -------------------------------------------------------------
  • ====================================

深度学习模型部署全流程-模型部署

深度学习模型部署全流程-模型部署
前言在上一篇文章中详细讲述了模型训练的流程,这篇文章主要介绍模型部署的流程。模型部署通常指通过 C/C++语言能够把 python 框架训练好的模型跑起来,毕竟 C/C++运行效率更高,并且只用提供依赖库和头文件即可移植。模型部署全流程1.推理框架首先要找到一套成熟的推理框架,利用该框架即可完成模型量化,模型推理等功能。在这里推荐自己常用的一套框架腾……继续阅读 »

dewbay 1年前 (2023-03-01) 865浏览 0评论0个赞

深度学习模型部署全流程-模型训练

深度学习模型部署全流程-模型训练
前言该系列文章会介绍神经网络模型从训练到部署的全流程,对于已经参加工作的人可以快速的了解如何使用深度学习技术满足项目需求;对于学生群体可以实际使用算法,获得入门的成就感,有助于后续对深度学习的理论研究!重点强调:本系列没有关于深度学习的详细理论介绍,关于理论部分推荐去看吴恩达,李沐等大佬的视频!!!首先你要具备以下知识:深度学习理论基础(不懂的话去 ……继续阅读 »

dewbay 1年前 (2023-03-01) 792浏览 0评论0个赞

模型推理部署——PyTorch篇

模型推理部署——PyTorch篇
PyTorch中模型的保存和加载保存和加载模型参数(state_dict)(推荐)state_dice 是一个简单的 python 字典,映射了每一层的参数名称和数值。# savetorch.save(model.state_dict,PATH)#loadmodel = TheModelClass(*args, **kwargs)model.l……继续阅读 »

dewbay 1年前 (2023-03-01) 1506浏览 0评论0个赞

模型推理部署——基础概念篇

模型推理部署——基础概念篇
训练(training)vs 推理(inference)训练是通过从已有的数据中学习到某种能力,而推理是简化并使用该能力,使其能快速、高效地对未知的数据进行操作,以获得预期的结果。训练是计算密集型操作,模型一般都需要使用大量的数据来进行训练,通过反向传播来不断的优化模型的参数,以使得模型获取某种能力。在训练的过程中,我们常常是将模型在数据集上面的拟合……继续阅读 »

dewbay 1年前 (2023-03-01) 830浏览 0评论0个赞