使用 NGC 集合重构和部署口罩检测应用程序

可用 NGC 紧密结合和部署口罩测定用户界面

AI 岗位处理过程很复杂。紧密结合一个 AI 用户界面不是一项非常简单的任务，因为它均须要各种有着各个领域专业知识的各种利益参与人来大规模联合开发和部署用户界面。至少据生物学家和联合开发人员均须要方便地访问软件紧密结合块，例如数学方法和托盘，它们不仅必要、低效率，而且有着紧密结合其 AI 数学方法所均需的系统设计。

在紧密结合剩用户界面最后，DevOps 和 IT 管理制度人员均须要一些辅助工具，这些辅助工具可以帮助他们在各种电源之间无缝地部署和管理制度这些用户界面，有至少本地电源、云电源或边沿电源。

NVIDIA 紧密结合了 NGC 清单，通过缺少非常容易访问的 GPU 优化软件，例如托盘、必需体能训练的数学方法、应用框架和紧密结合 AI 用户界面所均需的 Helm 图像，来精简和加快 AI 岗位处理过程。

在这文章中的，我们将简介如何可用 NGC 清单和它的核心底层特性，例如集合、NGC 管理制度者注册请注意和 AI 紧密结合块来紧密结合和部署一个口罩测定用户界面，作为一个示例，该示例简介了 development-to-deployment 管道。

精简用户旅程

随着 NGC 的发布，NVIDIA 精简了整个用户趣味，并将所均需的相关托盘、数学方法、字符和 Helm 图像密集在一个之外，而无均需在清单中的定位和协调各种单独的紧密结合块。

您可以找到针对特定任务的岗位增益的 NGC 集合，如自动语音识别或图像分类，以及行业 SDK，例如 NVIDIA Clara 或迁移学习 (TLT)。如果您想要紧密结合一个可用对象测定的用户界面，那么在清单中的查询该集合，您将在一个之外找到所有相关资产。

可用 NVIDIA TF32 Tensor Cores 加快 AI 体能训练

NVIDIA Ampere GPU 管理制度模式引入了第三代 Tensor Cores，以及更进一步TensorFloat32 (TF32) 模式加快 FP32 差分和算子整数。TF32 模式是AmpereGPU 管理制度模式上 32 位变量的 AI 体能训练的当前当前。它为单精度DL岗位增益带来了 Tensor Core 加快，而不均须要对数学方法原作者进行任何更换。

可用本机16 位PNG (FP16/BF16) 的混和精度体能训练即使如此是新纪录的选择，只均须要数学方法原作者中的的几行字符。请注意1显示了与 FP32 CUDA 核相比，A100Tensor Cores 的至少学集装箱。值得指出的是，对于单精度体能训练，A100 缺少的至少学集装箱比上一代体能训练GPU V100 低 10 倍。

内部构造

TF32 是 GPU 管理制度模式 Ampere 一代 Tensor Core 中的附加的一种更进一步计算出来模式。点积计算出来，它上有了算子整数和差分的紧密结合块，将 FP32 的匹配轮化到 TF32，在不损失精度的情况下计算出来电子产品，然后将这些电子产品依靠到 FP32 输出中的。

TF32 只是作为 Tensor Core 操作模式公开，而不是一个类型。寄存器中的的所有存储和其他操作剩全保留在 FP32 中的，只有差分和算子整数在整数最后将它们的匹配转成为 TF32。相反，16位类型缺少存储、各种至少行列式等等。