【资料图】
【金山办公与NVIDIA团队合作,加速WPS AI服务】金山办公与 NVIDIA 团队合作,通过 NVIDIA Tensor Core GPU、TensorRT 提升图像文档识别与理解的推理效率;借助 NVIDIA Triton 推理服务器的部署,成功优化 GPU 利用率,提供高推理吞吐量。相比于 CPU 其 pipeline 耗时共下降 84%;采用 NVIDIA Triton 推理服务器部署,其部署成本节省了 23% 。(金山办公)
【资料图】
【金山办公与NVIDIA团队合作,加速WPS AI服务】金山办公与 NVIDIA 团队合作,通过 NVIDIA Tensor Core GPU、TensorRT 提升图像文档识别与理解的推理效率;借助 NVIDIA Triton 推理服务器的部署,成功优化 GPU 利用率,提供高推理吞吐量。相比于 CPU 其 pipeline 耗时共下降 84%;采用 NVIDIA Triton 推理服务器部署,其部署成本节省了 23% 。(金山办公)
Copyright @ 2008-2017 news.dfce.com.cn All Rights Reserved 东方财经网 版权所有 关于我们
联系我们:dfcjw@sohu3.com