本篇文章聊聊，如何使用 ollama、dify 和 docker 来完成本地 llama 3.1 模型服务的搭建。如果你需要将 ollama 官方不支持的模型运行起来，或者将新版本 llama.cpp 转换的模型运行起来，并且想更轻松的使用 dify 构建 ai 应用，那么本文或许会对你有所帮助。
本文介绍了如何使用ollama、dify和docker来搭建本地llama 3.1模型服务。通过下载模型、下载ollama的docker镜像、使用llama.cpp转换模型程序和启动ollama模型服务等步骤，完成了模型服务的搭建。同时还介绍了如何使用dify来调用ollama的api，构建ai应用。
