FastGPT | 3分钟构建属于自己的AI智能助手-CSDN博客
阿里云国内75折 回扣 微信号:monov8 |
阿里云国际,腾讯云国际,低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号:monov8 飞机:@monov6 |
这是一篇使用指南
FastGPT是什么
FastGPT 是一个基于 LLM 大语言模型的知识库问答系统提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排从而实现复杂的问答场景
fastgpt其实就是使用了chatgpt的api或者其他的大模型构建自己的AI知识库
chatgpt是没办法获取到你自己的信息的
如果你想部署属于自己的gpt或者是公司内部使用的
你可以选择fastgpt
适用人群
-
chatgpt爱好者 -
chatgpt深度使用者 -
想要构建自己的AI知识库 -
想要给其他人提供gpt服务 -
公司/组织 私有化
功能介绍
目前我觉得比较好用的3个功能
构建自己的知识库
通过导入文档或已有问答对进行训练让 AI 模型能根据你的文档以交互式对话方式回答问题。
数据预处理
提供手动输入、直接分段、LLM 自动处理和 CSV 等多种数据导入途径其中“直接分段”支持通过 PDF、WORD、Markdown 和 CSV 文档内容作为上下文。FastGPT 会自动对文本数据进行预处理、向量化和 QA 分割节省手动训练时间提升效能。
高级编排
基于 Flow 模块的工作流编排可以帮助你设计更加复杂的问答流程。例如查询数据库、查询库存、预约实验室等
不过这个功能比较复杂需要一定的学习成本
在线使用
-
国内版ai.fastgpt.in -
海外版fastgpt.run
环境需要
-
系统windows or linux -
docker环境 -
chatgpt账号并有api
项目仓库地址
https://github.com/labring/FastGPT
安装指南
安装指引
-
获取API keys -
在sealos上搭建nginx -
安装fastgpt
获取API keys
这个很简单
打开网址https://platform.openai.com/account/api-keys
登录你的gpt账号 你得会魔法
创建一个keys即可
搭建nginx
这里是在sealos上搭建的nginx因为sealos是国外服务器可以直接代理openai
不过它是收费的
搭建nginx的话一天大概2毛钱
初次注册送5块钱
当然你也可以用其他方式
我们来开始搭建nginx
使用 Sealos 部署 Nginx 实现中转
登录 Sealos
创建应用
打开 「应用管理」点击「新建应用」
填写基本配置
务必开启外网访问复制外网访问提供的地址。
添加配置文件
-
复制下面这段配置文件注意
server_name
后面的内容替换成第二步的外网访问地址。user nginx;
worker_processes auto;
worker_rlimit_nofile 51200;
events {
worker_connections 1024;
}
http {
resolver 8.8.8.8;
proxy_ssl_server_name on;
access_log off;
server_names_hash_bucket_size 512;
client_header_buffer_size 64k;
large_client_header_buffers 4 64k;
client_max_body_size 50M;
proxy_connect_timeout 240s;
proxy_read_timeout 240s;
proxy_buffer_size 128k;
proxy_buffers 4 256k;
server {
listen 80;
server_name tgohwtdlrmer.cloud.sealos.io; # 这个地方替换成 Sealos 提供的外网地址
location ~ /openai/(.*) {
proxy_pass https://api.openai.com/$1$is_args$args;
proxy_set_header Host api.openai.com;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
# 如果响应是流式的
proxy_set_header Connection '';
proxy_http_version 1.1;
chunked_transfer_encoding off;
proxy_buffering off;
proxy_cache off;
# 如果响应是一般的
proxy_buffer_size 128k;
proxy_buffers 4 256k;
proxy_busy_buffers_size 256k;
}
}
} -
点开高级配置。
-
点击「新增配置文件」。
-
文件名写:
/etc/nginx/nginx.conf
。 -
文件值为刚刚复制的那段代码。
-
点击确认。
部署应用
填写完毕后点击右上角的「部署」即可完成部署。
修改 FastGPT 环境变量
-
进入刚刚部署应用的详情复制外网地址
注意这是个 API 地址点击打开是无效的。如需验证可以访问:
*.cloud.sealos.io/openai/api
如果提示Invalid URL (GET /api)
则代表成功。 -
修改环境变量是 FastGPT 的环境变量不是 Sealos 的
OPENAI_BASE_URL=https://tgohwtdlrmer.cloud.sealos.io/openai/v1
Done!
本文由 mdnice 多平台发布
阿里云国内75折 回扣 微信号:monov8 |
阿里云国际,腾讯云国际,低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号:monov8 飞机:@monov6 |