国际科技财经移民娱乐民生时事体育

>

喂饭级教程！零代码搭建本地个人知识库，支持GPT4、Llama3、Kimi等十几种大模型

喂饭级教程！零代码搭建本地个人知识库，支持GPT4、Llama3、Kimi等十几种大模型

1月前

你好，我是郭震

这篇文章是关于搭建本地个人知识库，零代码！喂饭级教程！支持GPT、Llama3、Kimi等十几种大模型。教程由我编写，每一步已经过验证，可实践！

1 搭建本地知识库优势

部署本地知识库，可以借助大模型能力，自动检索我们的工作学习文档，实现对文档内容的实时搜索与问答。

因为大模型、知识库和文档全部运行在本地，所以公司内的业务数据不会泄密，个人隐私不会泄密，保证这些同时，让：办公效率直接原地起飞！

搭建完成后，实现的效果如下：

按照本文教程走完实现的本地知识库效果

大模型+个人知识库，太香了！

我在视频号也录制了一个回答效果，

老铁们可以参考，

视频号中有获取这个教程完整PDF版本的方法

2 docker下载MaxKB

MaxKB是一个在本地搭建自己本地知识库问答的系统。主要优势：

1）开箱即用

2）支持GPT、百度千帆、Lama3，通义千问等几十种大语言模型

3）操作界面简介，小白也能快速上手

第一步，安装docker，如何下载docker，如何安装docker，我已经整理成详细的教程，不再赘述，不会的朋友，在我下面的公众号回复：AI，即可获取到PDF教程。

安装后docker后，执行下面命令获取到MaxKB的镜像到本地：

下面是正在安装的过程：

整个MaxKb的镜像大小为2GB左右。

3 docker配置MaxKB

安装完成后，打开docker，按照下图逐步操作：

在弹出的界面，点击 Run：

这是弹出的界面，如果你的缺少Ports这样端口设置，可以重启电脑，然后再次打开进入这里，大概率应该会出现。

然后按照下面填写：

注意，先不要关闭这个窗口，稍后我们还需要再填入一些信息。

接下来，我们在自己的电脑上，创建一个存放知识库数据的文件夹，然后记住这个文件夹路径，因为我们还要返回到刚才的上面的界面，找到Volumes输入框，下图4处，填入刚才的知识库路径，我的路径如下：

/Users/zhenguo/Documents/words

随后在Container path输入框中填入/var/lib/postgresql/data，下图5处，这是固定不变的，直接复制过去！

最后点击Run按钮，这样一个MaxKB容器就搭建完毕了！

4 打开MaxKB网页

浏览器打开下面链接，复制到浏览器中，看到MaxKB应用界面：

http://127.0.0.1:8080

不过这里需要提供登录账号和密码，大家关注我下面的公众号，并回复关键词 kb 获取：

登录进去后，初次登录到MaxKB后，需更改登录用户名和登录密码。看到创建应用程序的界面：

5 构建第一个知识库

我们先尝鲜它的知识库搭建，所以选择知识库导航这里：

然后点击创建知识库按钮，就会出来下面页面：

平时做过一些Python副业接单，把做过的其中一部分副业需求文档、传入到这个知识库里面，因为都是在本地构建，放心使用：

这里的知识库系统有两种，一种是通用型，也就是自己的文档本地上传，另一种是web站点，用某些网站作为知识库构建的数据来源。在这里根据我的需求，应该选择通用型。

然后点击进入选择文件夹这里，上传我的Python副业代码文件，说明文档，数据格式可以是txt、word、pdf、ppt等，在确定需要上传的文档后，点击右下角的“创建并导入”按钮。

如下图所示，上传这里面的文件到本地MaxKB系统，还可以直接读取一个文件夹，这样就更方便了。为了加快接入，选择一部分文件作为测试：

然后点击右下角创建并导入

导入后，系统就会开始处理分析和接入，文档导入时间长短取决于文档内容的多少，内容越多，导入时间就越长。

6 配置本地llama3

MaxKB网站内的应用界面中，按照如下所示点击系统设置，然后再进入模型设置界面

可以看到这里支持的大模型比较多：

我以ollama+llama3配置为例，之前我已经总结过配置这些的详细教程，关注我的公众号，然后发消息：AI，直接获取PDF教程。在这里不再赘述。安

装完ollama和llama3后，开始下面一步，非常重要，按照我的这个说明，对应填写，然后点击添加：

添加成功后，会显示下面界面：

7 创建知识库应用

这是最后一步了，回到MaxKB界面：

点击应用，然后创建应用，填写应用名称、应用描述，AI模型这里，选择我们刚才创建的MaxKB里的llama3模型，如下所示，按照这样填写：

记得勾选这里：这样大模型和我们本地知识库就关联起来了：

最后点击，创建，按钮，就会看到下面的应用：

以上完整步骤，根据本文步骤，就可以实现文章开始的问答效果。老铁，原创教程不易，求点赞、在看、转发或留言，这样对我创作下一个良心教程会有莫大的动力！

微信扫码关注该文公众号作者

来源：郭震AI

相关新闻

首个基于Mamba的MLLM来了！模型权重、训练代码等已全部开源超越扩散模型！度小满、中科大等联合提出全新自回归通用文生图模型 CVPR 2024 | 和马赛克说拜拜！华为、清华等提出基于认知的万物超分大模型强力覆盖导购、本地生活，月之暗面推出多个“Kimi分身”，大模型应用元年加速到来？丰田、本田、马自达等车企造假，斯坦福团队抄袭清华系大模型，巴菲特公司股票跌98%，周星驰首部短剧上线，这就是今天的其他大新闻！谷歌、阿里、字节、科大讯飞、月之暗面、智谱等大模型落地实践案例集结完毕｜AICon 北京 2024 议程上线支持百亿参数大模型、卢伟冰现场官宣小米首发，高通骁龙8s Gen3发布未央播报 | 网信办等三部门加快推进大模型、生成式人工智能标准研制苹果一次性开源了8个大模型！包含模型权重、训练日志和设置，OpenELM全面开源今日arXiv最热NLP大模型论文：Github万星！北航发布零代码大模型微调平台LlamaFactory 最难方言温州话被攻克！中国电信语音大模型支持30种方言，这题GPT-4o可不会做啊中国生成式AI大会再揭晓15位嘉宾！大模型及应用技术大咖、算力专家和青年学者都来了抱抱脸正面挑战OpenAI，推出开源版GPT商店！完全免费、支持六大开源模型当底座从零手搓MoE大模型，大神级教程来了 Stability AI开年首个大模型：专写代码，支持18种编程语言，上下文100K，苹果笔记本离线就能跑乔布斯看了得哭！与小米、华为的AI 大模型应用打擂台，苹果盖不住的“安卓味儿”都上了热搜最新研究：大模型已涌现出欺骗能力！钻漏洞、偷偷篡改奖励函数，GPT-4欺骗人类高达99.16%余承东透露江淮合作新车型，对标劳斯莱斯/微软生成式 AI 开发中心支持 GPT-4o /阿里云、百度主力模型价格大降/国内外140+大模型、8万+考题测评结果出炉！智源评测体系出品 AICon 2024 重磅开幕！60 余位大咖干货集结：20 年来云首次革命性变化、大模型才刚刚开始……喂饭级教程，看我如何用ChatGPT-4o做一款俄罗斯方块游戏！免费开放！智谱Batch API正式上线：GLM-4大模型批量处理、无并发限制使用本地大模型调用代码，根本就是一场骗局！清华、哈工大把大模型压缩到了1bit，把大模型放在手机里跑的愿望就快要实现了！