在国内一般人是无法使用正宗Chatgpt的，openai公司对来自中国的IP都是直接ban掉的。而使用一些大神们提供的聚合AI网站，同样也是需要交钱的。

拒绝做韭菜！拒绝做韭菜！拒绝做韭菜！重要的事情说三遍

所以我们今天就来本地部署GPT，在自己的电脑上拥有属于我们自己的GPT，既不用跳墙也不用花银子。

此次部署对电脑的配置基本没有什么要求，不需要GPU！！！

我们需要用到的是一款AIGC大语言模型win版可执行文件。

软件下载后直接双击就可以安装：

安装路径根据自己电脑情况选择，点击下一步自动安装成功。

安装成功之后，桌面会有两个图标：

这个时候先不要启动程序，我们需要在安装程序后的文件里放入语言大模型。模型要放在这个路径的文件夹里：

D:\AIGCDemo\LLM_Demo\checkpoint

这三个模型比较大，这里一起提供给大家

将下载的三个语言模型放入正确的位置后，双击桌面AI Backend图标：

稍等一会：


点击“立即交互”：

出现的提示不要管，直接确定，进入正题：

完全中文交互页面，清爽简洁。

整个软件有三大功能模块：中文应用、英文应用、代码生成。基本涵盖了大语言模型的主要功能。

软件使用非常简单，即使在不联网的情况下也可以正常使用，这就能很好保障我们在使用大模型过程中的个人隐私保密问题，免除我们的后顾之忧。

再汇总一下安装使用注意事项：

安装本程序后,将在桌面创建[AIGC大语言模型] 和 [AI Backend] 2个快捷方式.

[AI Backend] 是AIGC大语言模型的服务环境控制程序,用来启停服务.

[AIGC大语言模型] 是AIGC 大语言模型的客户端程序,在服务启动后,可以让用户进行交互.

模型导入方法:

1.下载模型文件到本地

2.启动 AI Backend

3.在系统托盘区域右键点击AI Backend图标,选择[打开模型文件夹],此时会在Explorer中打开模型文件需要放置的目录.

(模型文件夹在 [安装目录]\LLM_Demo\checkpoint,亦可手动打开 )

4.将下载好的模型文件复制到 步骤3所打开的文件夹中.

5.在系统托盘区域右键点击AI Backend图标,选择[启动服务].


[ 此貼被valen在2024-02-22 17:30重新編輯 ]