【AI熱潮】金山辦公與英偉達團隊合作,加速WPS AI落地
《經濟通通訊社30日專訊》據金山辦公(滬:688111)官微,金山辦公與英偉達
NVIDIA團隊合作,通過NVIDIATensorCoreGPU、
TensorRT提升圖像文檔識別與理解的推理效率;借助NVIDIATriton推理
服務器的部署,成功優化GPU利用率,提供高推理吞吐量。相比於CPU其
pipleline耗時共下降84%;採用NVIDIATriton推理服務器部署,其
部署
《經濟通通訊社30日專訊》據金山辦公(滬:688111)官微,金山辦公與英偉達
NVIDIA團隊合作,通過NVIDIATensorCoreGPU、
TensorRT提升圖像文檔識別與理解的推理效率;借助NVIDIATriton推理
服務器的部署,成功優化GPU利用率,提供高推理吞吐量。相比於CPU其
pipleline耗時共下降84%;採用NVIDIATriton推理服務器部署,其
部署