工具简介

基于自研 LPU 芯片的推理云服务，主打极低的 token 生成延迟，适合实时对话类应用。

相关标签

#推理加速 #低延迟