admin 管理员组

文章数量: 1184232

目录

前言

一、安装必要项

1.安装Docker和AnaConda

2.安装Xinference

3.通过Xinference部署本地glm4-chat-1m

4.验证glm4-chat-1m是否部署完成

5.安装Dify

三、Dify中配置大模型

1.浏览器输入http://localhost:80启动Dify页面

2.随便注册账户登录

3.配置Xinference

四、运行Dify

1.设置系统推理模型

2.对话窗口验证

总结

前言

本文档在基于Windows10的本地电脑上部署使用Dify，其中必要用到的Xinference大模型管理框架，使用的大模型为GLM4-Chat-1m。

前置条件：确保已安装Anaconda、Python、Cuda。

一、安装必要项

1.安装Docker和AnaConda

Docker: Accelerated Container Application Developmenthttps://www.docker/

下载 Anaconda Distribution |蟒蛇https://www.anaconda/download

2.安装Xinference

打开Anaconda命令行页面

输入命令：

本文标签： Dify Xinference

版权声明：本文标题：Windows10本地部署Dify+Xinference 内容由网友自发贡献，该文观点仅代表作者本人， 转载请联系作者并注明出处：http://www.roclinux.cn/b/1754599807a3019515.html， 本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，一经查实，本站将立刻删除。