BentoML

详细介绍

BentoML 提供模型打包、服务编排、推理 API、容器化和云原生部署能力，适合把机器学习模型和大模型应用稳定发布到生产环境。