建设网站定制,万网网站开发,宝塔面板与wordpress,升华网络推广软件先参考#xff1a;window零基础部署langchain-ChatGLM_飞奔的屎壳郎的博客-CSDN博客
安装一部分#xff0c;
1.GCC安装 gcc64位下载 一定要装64位的gcc#xff0c;因为我的电脑是w10 64位的#xff0c;装32位运行langchain报错并配置环境变量 可直接用压缩包中的文件window零基础部署langchain-ChatGLM_飞奔的屎壳郎的博客-CSDN博客
安装一部分
1.GCC安装 gcc64位下载 一定要装64位的gcc因为我的电脑是w10 64位的装32位运行langchain报错并配置环境变量 可直接用压缩包中的文件x86_64-8.1.0-release-posix-seh-rt_v6-rev0.7z 软件下载地址https://sourceforge.net/projects/mingw-w64/files/
安装后解压然后将bin目录配置到path目录 gcc64安装验证 gcc -v 2.Visual Studio 2019安装 可直接用压缩包的文件vs_community__studio2019.exe 官方下载地址https://visualstudio.microsoft.com/zh-hans/vs/older-downloads/ 2019版下载链接社区版就够用了https://my.visualstudio.com/Downloads?qvisual%20studio%202019wt.mc_idomsftvscom~older-downloads 注意需要选择C开发模块其余默认其它根据自己的需求安装就好了安装路径可以默认也可以根据自己情况更改一下然后点击安装就好了后面都是自动安装了因为需要在线下载东西过程有点长耐心等待一下~~
3.Anaconda安装 可直接用压缩包中的文件Anaconda3-2023.03-0-Windows-x86_64.exe
下载安装 下载地址https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/
安装的时候选择所有all users直接下一步就行
4. CUDA安装 安装CUDA11.7 参考https://blog.csdn.net/chen565884393/article/details/127905428
下载安装包 可直接用压缩包的文件cuda_11.7.1_516.94_windows.exe
下载CUDA根据自己的配置选择win10还是win11安装包 下载地址https://developer.nvidia.com/cuda-11-7-1-download-archive?target_osWindowstarget_archx86_64target_version10target_typeexe_local
检查命令nvcc -V
6. 安装CUDNN 下载CUDNN 可直接用压缩包的文件cudnn-windows-x86_64-8.5.0.96_cuda11-archive.zip 下载安装包在NVIDIA官方网站即可下载地址为https://developer.nvidia.com/rdp/cudnn-archive
把这CUDNN中三个文件夹的文件分别拷贝到CUDA安装目录对应的bin、include、lib文件夹中即可。CUDA的lib目录有x64 、Win32、cmake三个文件夹拷到其中的x64这个文件夹中
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\bin\x64 torch_stable 下载地址https://download.pytorch.org/whl/torch_stable.html 下载torch2.0.1cu117可以观察到cu117/torch-2.0.1有很多的版本cp38对应python3.8win_amd64对应windows的64位操作系统根据自己的实际情况进行下载即可。 cu117表示CUDA10.1cpu表示CPU版本 chatglm_langchain_demo
#Setup envirnment
conda create -n langchain python3.10 -channel http://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
conda activate langchain
# 拉取仓库
git clone https://github.com/imClumsyPanda/langchain-ChatGLM.git
# 安装依赖
cd langchain-ChatGLM
python3 -m pip install -r requirements.txt
python3 -m pip install gradio3.28.3
python3 -m pip install tabulate
#Download models
git lfs install #此句我没写
git clone https://huggingface.co/THUDM/chatglm-6b-int4
git clone https://huggingface.co/GanymedeNil/text2vec-large-chinese
python3 webui.py
成功 【langchain_chatglm问中级职称评定】 https://www.bilibili.com/video/BV1GW4y1Z7wu/?share_sourcecopy_webvd_source159f872f790f3f11c2991f350622f681
