(资料图)

金山办公宣布与NVIDIA团队合作,通过NVIDIATensorCoreGPU、TensorRT提升图像文档识别与理解的推理效率;借助NVIDIATriton推理服务器的部署,成功优化GPU利用率,提供高推理吞吐量。相比于CPU其pipleline耗时共下降84%;采用NVIDIATriton推理服务器部署,其部署成本节省了23%。我们在文档识别与理解领域的应用案例也可以启发到OCR和版式识别领域的其他公司和学者,相信随着更多客户通过采用TensorRT加速会给行业带来很大的收益。(站长之家)

推荐内容