AI编程代理桌面端

大模型推理服务平台，开源高性能大语言模型统一推理与服务化平台，支持多模型一键部署、推理加速与标准化API调用，提供低延迟高并发的私有化部署能力