用于推理的预生成 Docker 镜像

通过小波AI平台部署训练模型或发布模型时，将使用用于推理的预生成Docker容器镜像。这些镜像是基于流行的机器学习框架和Python包预生成的。

为何要使用预生成的镜像？

• 降低模型部署延迟。
• 提高模型部署成功率。
• 避免在模型部署期间进行不必要的映像生成。
• 只需在映像/容器中拥有依赖关系和访问权限。
• 部署中的推理进程以非管理员root身份运行。

当前小波AI平台可用于推理的预生成 Docker 映像列表：

统计信息:
仓库名称        版本                地址  
base           mlflow-1.10.0       harbor.xiaobodata.com/wai/base:mlflow-1.10.0 
base           mlflow-1.8.0        harbor.xiaobodata.com/wai/base:mlflow-1.8.0
base           py36-cpu            harbor.xiaobodata.com/wai/base:py36-cpu    
base           py37-cpu            harbor.xiaobodata.com/wai/base:py37-cpu     
scikitlearn    py37-cpu            harbor.xiaobodata.com/wai/scikitlearn:py37-cpu   
scikitlearn    py36-cpu            harbor.xiaobodata.com/wai/scikitlearn:py36-cpu 
cpu            py37                harbor.xiaobodata.com/wai/cpu:py37   
opencv         py37                harbor.xiaobodata.com/wai/opencv:py37
xgboost        py37                harbor.xiaobodata.com/wai/xgboost:py37

如何使用预生成的映像？

• 请参考我们的示例实践案例。

对镜像包如何进行扩展，以添加其他包？

• 利用 conda.yaml/requirements.txt 添加 Python 包。
• 使用预生成的包作为新 Dockerfile 的基础。 使用此方法可以安装 Python 包和 apt 包。