当前位置: 科技师 » 电脑知识 » 正文

Jan – 开源免费离线GPT本地AI工具

Jan(开源免费离线GPT本地AI工具)简介

Jan是一个开源免费离线GPT本地AI工具,无需连接互联网即可使用,支持Windows、macOS、Linux多平台,这个软件可以让我们实现在自己电脑上本地运行AI大语言模型,通过自己的硬件设备来提供算力,在本地电脑上运行大型AI模型并进行对话。

主要功能如下:

  • 本地运行开源大模型:支持多个开源大模型,包括LlaMa、Mistral、Phi-2、DeepSeek、Yi等20多个模型。用户可以手动导入模型或从模型库下载模型。
  • 简洁好用的聊天界面:软件界面简洁直观易用,用户可以直接在本地与开源大模型快速进行对话聊天。
  • 支持多个平台:支持在Windows、Mac(Intel、M1/M2/M3)和Linux等操作系统运行,后续还将推出移动端APP。
  • 与OpenAI API兼容:用户可以通过API获取模型信息、下载、启动、停止模型以及进行聊天等操作。

Jan(开源免费离线GPT本地AI工具)官网及教程

1、通过官网链接下载对应版本的客户端,安装完成后直接启动该软件;

Jan - 开源免费离线GPT本地AI工具

2、启动软件后如上图所示,首次使用我们点击图示标注所示的Hub图标,然后选择下载需要使用的AI大语言模型。如果需要使用ChatGPT,则还需要填写API。

Jan - 开源免费离线GPT本地AI工具

3、设置好语言大模型之后,我们回到软件主界面,在对话框中输入相关提示词或是问题,然后发送,即可生成相关的AI内容。

未经允许不得转载:科技师 » Jan – 开源免费离线GPT本地AI工具

相关文章