Jan(开源免费离线GPT本地AI工具)简介
Jan是一个开源免费离线GPT本地AI工具,无需连接互联网即可使用,支持Windows、macOS、Linux多平台,这个软件可以让我们实现在自己电脑上本地运行AI大语言模型,通过自己的硬件设备来提供算力,在本地电脑上运行大型AI模型并进行对话。
主要功能如下:
- 本地运行开源大模型:支持多个开源大模型,包括LlaMa、Mistral、Phi-2、DeepSeek、Yi等20多个模型。用户可以手动导入模型或从模型库下载模型。
- 简洁好用的聊天界面:软件界面简洁直观易用,用户可以直接在本地与开源大模型快速进行对话聊天。
- 支持多个平台:支持在Windows、Mac(Intel、M1/M2/M3)和Linux等操作系统运行,后续还将推出移动端APP。
- 与OpenAI API兼容:用户可以通过API获取模型信息、下载、启动、停止模型以及进行聊天等操作。
Jan(开源免费离线GPT本地AI工具)官网及教程
- 官网下载:https://jan.ai/
1、通过官网链接下载对应版本的客户端,安装完成后直接启动该软件;
2、启动软件后如上图所示,首次使用我们点击图示标注所示的Hub图标,然后选择下载需要使用的AI大语言模型。如果需要使用ChatGPT,则还需要填写API。
3、设置好语言大模型之后,我们回到软件主界面,在对话框中输入相关提示词或是问题,然后发送,即可生成相关的AI内容。