LocalGPT(本地大模型GPT工具)简介
LocalGPT 是一个本地大模型GPT工具,免费开源,能够让用户能够在本地设备上与自己的文档进行对话交互,而不会泄露任何数据,支持命令行和图形界面两种交互方式我们可以根据自己的需要配置和切换不同的语言模型和嵌入模型。
它的主要特点包括:
1. 隐私保护: 所有数据都存储在本地设备上,绝不会外泄,确保100%隐私安全。
2. 支持多种模型: 可以无缝集成各种开源模型,包括HuggingFace、GPTQ、GGML和GGUF等。
3. 多种嵌入选择: 用户可以选择不同的开源嵌入模型。
4. 模型重用: 一旦下载了语言模型,就可以重复使用,无需重复下载。
5. 对话历史记录: 能够记住会话中的之前对话。
6. API支持: LocalGPT提供了API,方便构建基于检索增强的应用程序。
7. 图形界面: 提供了两种GUI,一种基于API,一种是独立的基于Streamlit的界面。
8. 多平台支持: 开箱即用支持GPU、CPU和苹果MPS等多种平台。
LocalGPT(本地大模型GPT工具)官网
- Github开源主页:https://github.com/PromtEngineer/localGPT